Das Große Palmenhaus hat eine bewegte Geschichte hinter sich. Als Sammlung exotischer Pflanzen im Jahr 1882 eröffnet, diente es im Ersten Weltkrieg als Gewächshaus für Gemüse. Im Zweiten Weltkrieg zu großen Teilen zerstört, im Jahr 1953 wiedereröffnet, ist das Gebäude aus Eisen und Glas heute ganzjährig für Besucher geöffnet.
Zur Zeit des europäischen Kolonialismus wurde es zur Mode exotisch empfundene Zier- und Nutzpflanzen aus der weiten Welt zu sammeln. Die sogenannten Pflanzenjäger brachten Gewächse aus unterschiedlichen Klimazonen nach Europa. Die Entwicklung von Mini-Gewächshäusern erlaubten den Transport , vor Ort wurden die Orangerien weiterentwickelt, um die Pflanzen zu beherbergen.
Die österreichische Krone verfügte im 19. Jahrhundert ebenso über eine stattliche Sammlung exotischer Pflanzen, sodass Kaiser Franz Joseph I. ein neues Palmenhaus in Auftrag gab. Nach lediglich zwei Jahren Bauzeit konnte das Gebäude eröffnet werden. Der Bau aus Eisen und Glas weist eine Länge von 111 Metern, eine Breite von 28 Metern und eine Höhe von 25 Metern auf.
Heute besteht das Palmenhaus aus drei Räumen mit unterschiedlichen Klimabereichen. Im zentralen und zugleich höchsten Raum sind Pflanzen des Mittelmeergebietes, der Kanaren, aus Südafrika, Amerika und Australien bei kühlen Temperaturen um 12°C untergebracht. Im nördlichen Raum werden Klimaverhältnisse von höher gelegenen Berg- und Nebelwäldern mit Temperaturen im Winter um die 8° C.simuliert. Dort sind Pflanzen aus China, Japan, der Himalajaregion und aus Neuseeland zu sehen. Der südliche Raum bietet mit Temperaturen um 17° C ein feucht-warmes Klima und beherbergt tropische und subtropische Pflanzen.
Im Zentrum des Hauses war lang Zeit traditionell die größte Palme aufgestellt. Die sogenannte Sisi-Palme musste im Jahr 2008 aber ebenso abgetragen werden wie ihre Vorgängerin, die Maria-Theresien-Palme, weil sie bis zum Glasdach hinauf wuchs. Das älteste Gewächs im Haus ist ein Ölbaum mit einem geschätzten Alter von rund 350 Jahren. Das neueste Schmuckstück der Sammlung ist die australische Wollemia, eine erst 1994 entdeckte Pflanzenart, die als ausgestorben galt.