Sie wurde 1865 – 69 an der Rossauer Lände im 9. Bezirk als Defensivkaserne errichtet, ebenso wie das Arsenal beim Gürtel und eine dritte, die es heute nicht mehr gibt, beim Donaukanal und dem Wienfluss. Was heißt „Defensivkaserne“?
Als Folge der Revolution von 1848 hatte der Kaiser und die Obrigkeit vorübergehend die Macht über die Untertanen verloren. Man wollte mit diesen drei Kasernen zur Not genügend Mann zur Verfügung haben, um die eigene Bevölkerung in Schach zu halten. Die Kasernen konnten auch mit Geschützen auf den Türmen und über den Einfahrtstoren bestückt werden. 2 – 4.000 Mann samt 390 Pferden konnten in der Rossauer Kaserne untergebracht werden. Den Einsatzbefehl hätte Kaiser Franz Joseph I. geben können.
Doch es kam glücklicherweise nie dazu und nach dem 1. Weltkrieg war das Konzept hinfällig, denn Österreich wurde eine Demokratie.
Seither wurde das Gebäude durch die verschiedensten Behörden genutzt: Bundesministerium für Inneres, Bundespolizeidirektion Wien, Sicherheitswache, Verkehrsamt, WEGA, Cobra, Bereitschaftseinheit und Verkehrsleitzentrale.
Mitte der 80er Jahre gab es Überlegungen das stark renovierungsbedürftige Gebäude einer gänzlich anderen Nutzung zuzuführen. Einkaufszentrum oder Opernhaus standen im Raum. Doch es kam nicht dazu.
Heute ist es neben einzelnen Polizeidienststellen Hauptsitz des Bundesministeriums für Landesverteidigung.
Noch ein kurzes Gerücht: Nach der Eröffnung 1870 stellte man fest, dass es für Offiziere 20 Einzeltoiletten in den schmalseitigen Trakten und für die Mannschaften nur in den Ecken der äußeren Höfe Toiletten gab. Von den Entfernungen nicht dienlich und von der Anzahl zu wenig. Es mussten also nachträglich Toiletten in allen Trakten errichtet werden. Angeblich hat sich der Architekt daraufhin ob seines Planungsfehlers erschossen.