Das Café ist Teil des Baus von Ferstel in der Herrengasse in den Stilen der toskanischen Neorenaissance. Es wurde 1876 von den Gebrüdern Pach eröffnet, die später auch das Schweizerhaus und die Sophiensäle besaßen.
Nach Abriss des Café Griensteidl wurde es wichtigster Treffpunkt des geistigen Lebens in Wien. Viele berühmte Gäste zählte das Haus. Allen voran Peter Altenberg, der das Café auch als seine Wohnadresse angab und jetzt als lebensgroße Pappmachefigur im Eingangsbereich sitzt. Man sagte über ihn, dass er entweder im Café Central saß oder gerade auf dem Weg dorthin war. Woanders konnte er nicht sein. Des Weiteren zählten zu den Stammgästen: Adler, Freud, Friedel, Hofmannsthal, Anton Kuh, Adolf Loos, Polgar, Schnitzler, Robert Musil oder Stefan Zweig. Leo Trotzki, dessen bürgerlicher Name Bronstein war, war bis zum 1. Weltkrieg Dauergast und spielte Schach.
Über 250 Zeitungen in 22 Sprachen wurden aufgelegt.
1943 wurde das Café zerstört und daher geschlossen. 1975 nach einer Renovierung neu eröffnet und 1986 nochmals renoviert.
1982-1991 wurde das Café in ganz Österreich bekannt, weil es die ORF-Diskussionssendung Café Central beheimatete, die von Ernst Wolfram Marboe geleitet wurde.
Alfred Polgar meinte einmal: „Die Gäste des Central kennen, lieben und geringschätzen einander.