Es wurde 1553 durch die Jesuiten gegründet und ist das älteste Gymnasium Wiens. Damals war es noch im Dominikanerkloster gegenüber der Universität untergebracht. Die Unterrichtssprache war Latein. Ende des 18. Jahrhunderts wurde die Leitung den Piaristen übertragen und damit etwas weltoffener. Der Geist der Aufklärung wirkte unter dem Lehrpersonal. Die humanistischen Aspekte kristallisierten sich immer mehr heraus.
Die ersten Maturanten gab es 1850/51. Seit 1866 ist das Gymnasium auf dem Beethovenplatz 1, im 1. Bezirk beheimatet, in einem Bau, der von Friedrich Schmidt im neugotischen Stil geplant wurde. Die ersten Externistinnen gab es 1886, doch erst seit 1949/50 wurden auch Mädchen aufgenommen.
Nach 1938 verlor das Gymnasium 50% seiner Schüler, da die Schule sehr stark von jüdischen Schülern besucht wurde. Heute könnte die Schule weitaus mehr Schüler aufnehmen, als Platz haben. Ein Zubau ist jedoch aus Denkmalschutzgründen nicht erlaubt.