Plany połączenia obu regimentów w jedną strukturę - Leibhusaren Brigade wiązały się z zapewnieniem zakwaterowania dla dwóch regimentów. W tym celu zdecydowano się na wybudowanie kompleksu koszarowego we Wrzeszczu. 

Realizację planów budowy wielkiego kompleksu koszarowego rozpoczęto  w 1891 r. i po dwóch latach kosztem 910 000 marek powstały koszary wojsk taborowych – Trainekasernement. W 1893 r. do nowych koszar wprowadzili się żołnierze Zachodniopruskiego Batalionu Taborowego Nr 17 (Westpreussisches Train-Bataillon Nr. 17). Równolegle prowadzono prace budowlane na terenie leżącym pomiędzy linią kolejową a szosą prowadzącą do Sopotu, gdzie kosztem 750 000 marek wybudowano część gospodarczą – Traindepot, na którą składał się zespół pięciu wozowni, warsztat kowalski, budynek biurowy i mieszkania dla oficerów. W latach 1891–1893, przy skrzyżowaniu al. Grunwaldzkiej (Pommersche Chausse) i Lelewela (Labesweg, obecnie to fragment ul. Kościuszki) powstały magazyny, spichlerze i budynki służbowe garnizonowego Urzędu Aprowizacyjnego – Proviant-Amt. Koszt budowy tej części kompleksu wyniósł 510 000 marek. Tak więc zanim rozpoczęto budowę koszar dla huzarów przygotowano dla nich całe zaplecze magazynowe i logistyczne. 

Budowa koszar dla 1. Leibhusaren-Regiment rozpoczęła się we wrześniu 1893 r., a ukończono ją trzy lata później. Koszt tej wielkiej inwestycji wyniósł, niewyobrażalną na owe czasy kwotę 1 650 000 marek. Nowy kompleks koszar huzarów składał się z kilkunastu obiektów, a w jego skład wchodziły wybudowane z czerwonej cegły, dyskretnie zdobione i przede wszystkim funkcjonalne budynki mieszkalne dla oficerów z rodzinami, budynki koszarowe dla żołnierzy i podoficerów, budynek sztabu regimentu, lazaretu, stajnie, budynki gospodarcze, warsztaty kowalskie, magazyny, ujeżdżalnia i kasyno oficerskie z jadalnią. Największą część koszar zajmowały otwarte przestrzenie, przeznaczone na place ćwiczeń i place apelowe, była to w końcu jednostka kawalerii. 1 października 1895 r. wszystkie szwadrony stacjonowały już w jednych koszarach.

W 1900 r. rozpoczęto prace budowlane kompleksu koszarowego dla 2. Regimentu, koszt budowy koszar przekroczył kwotę 2 000 000 marek. Chociaż budowa tej części koszar zakończyła się w 1903 r. to już 14 września 1901 r. do Gdańska przyjechał cały 2. Leibhusaren-Regiment. Po uroczystości połączenia obu jednostek, która odbyła się w Gdańsku, cesarz Wilhelm II przeprowadził oba regimenty przez całe miasto i wprowadził je do nowych koszar. Ze względu jednak na prowadzone prace budowlane w nowych koszarach zakwaterowały się tylko cztery szwadrony, piąty na dwa lata ulokowano w starych koszarach huzarskich na Długich Ogrodach.