Es liegt im 3. Bezirk zwischen Stadtpark und Schwarzenbergplatz und wurde 1913 durch Kaiser Franz Joseph eröffnet. Das Konzerthaus sollte einer breiteren Bevölkerungsschicht zugänglich sein als der in der Nähe liegende Musikverein. Der Bau wurde von 1911 bis 13 vom Büro Fellner und Helmer errichtet.
Durch die gesellschaftlichen Umbrüche und finanziellen Krisen in den 1920er und 30er Jahren gab es Uraufführungen von Arnold Schönberg oder Erich Wolfgang Korngold, Schlagerkonzerte, WM-Sportveranstaltungen (Boxen, Fechten), Kongresse und Vorträge bis hin zum Spiritismus, also eine wilde Mischung, um das Haus auszulasten.
Ab 1946 wurden die Räume an den Schlagerproduzenten Mendelson vermietet, später renoviert.
1998 bis 2001 wurde das Haus generalsaniert und um einen neuen Konzertsaal erweitert. Somit umfasst das Gebäude den Großen Saal mit 1.865 Besucherplätzen, den Mozartsaal mit 704, den Schubertsaal mit 366 und den Berio-Saal mit 400 Plätzen. Theoretisch könnten in allen Sälen gleichzeitig Konzerte abgehalten werden, da sie sich akustisch nicht beeinflussen.
