Парк Хирве был сооружен в бывшем оборонительном рве перед бастионами. В начале 1860 гг. В заполненном землей рве был основан дендросад и арборетум Эстонского общества садоводов, в котором выращивали экзотические и разводили саженцы декоративных растений. Созданию дендросада способствовал подходящий микроклимат. В 30‑годы здесь водились и давшие парку название косули. Парк Хирве почти не пострадал во время войны, в нем сохранилось много видов растений. В конце 1980‑х годов, во времена Поющей революции, здесь проходили народные собрания, на которых требовали освобождения Эстонии от Советской власти и изменения истории Эстонии.

Парк Хирве уникален по составу древесных растений среди парков Эстонии. Многие деревья по возрасту, размерам и редкости являются достойными внимания.

Самым редким деревом в парке считается клен обыкновенный «Cucullatum» с витыми листьями, который встречается в редких коллекциях и посадки которого в парке Хирве считается крупнейшим в Европе. Осенью 2007 года в парке Хирве произрастало 102 различных древесных растений.