Ez a főkapu a ma is oroszlánok által őrzött udvarba nyílt, bal oldalán a regényes történetet mesélő Mátyás-kút kapott helyet, jobb oldalán volt az őrség épülete. Ennek végső formája is Hauszmann Alajos kezét dicsérte, aki az 1850-es években elkészült testőrségi épület homlokzatát a mellette lévő istállóéhoz igazította, eklekticizálóan szecessziós stílben.
A palota tulajdonképpeni életre kelésekor, azaz azokban az évtizedekben, amikor Horthy Miklós kormányzó lakta a krisztinavárosi szárnyat, az udvarlaki őrség a palota nehezebben megközelíthető részeiben teljesített szolgálatot: olyan helyszíneken, mint az alagsori Ezüstkamra, illetve a Várkert. Puskás őrök védték többek között az előcsarnokot, a távírdát, a koronalépcsőt és a várkapitányságot.
Az őrség munkájából a nagyközönség persze elsősorban a parádét ismerte. A harmincas évek látványosságaira oly érzékeny cicerone, Megyery Ella így írta le az őrségépület előtti eseményeket: „A Mátyás-kúttal szemközt, a tér jobb oldalán a Főőrség terraszos épülete. Minden vasár- és ünnepnap délben, pontosan háromnegyed egy órakor itt tartják a zenés őrségváltást, amely ecsetre kívánkozó egyenruháival és avval a feszes fegyelemmel és hagyománytisztelettel, amely a magyar katonaságot minden megmozdulásában annyira jellemzi, olyan hatásos kép – amellett annyira magyar –, hogy megcsodálását egyetlen külföldi sem szokta elmulasztani – de magyar bámulója is mindig százával akad.
A középkori pompájú ceremónia a XV. századbeli egyenruhás katona- és palotaőrök zenés, díszlépéses előmasírozásából, zászlóátadásából, zászlóátvevéséből áll s csak nyáron, a kormányzó távollétében történik egyszerűbb keretek között.”
A második világháborút lezáró borzalmas ostrom után természetesen az őrségépület is elvesztette eredeti funkcióját. Feltételezhető, hogy valamiféle felvonulási bódénak, esetleg éppen őrzésre használták. De nem csak ezt nem tudjuk pontosan: furcsa módon még azt sem, hogy mikor bontották le.
Egyszerűen sehol sem szerepel ez az adat, a ház úgy múlt el a budapesti történelemből, mintha sosem létezett volna.
Ami biztos: ismerünk egy fotót, amelyen a palota már az új, de még beállványozott kupolájával látható, tehát az 1963. augusztusi átadás előtt. Ezen a légi felvételen jól látszik, hogy a testőrség háza kopottan ugyan, de még ott árválkodik az oroszlános kapu előtt. Addigra a lovarda és az istálló már eltűnt, majd 1968-ban látványos robbantással a Teleki-palotát is elpusztították, annak ellenére, hogy a műemlékesek körömszakadtáig harcoltak érte.
Ám bármilyen meglepő is, az őrségépületről még 1970 márciusában is úgy írt a Budapest folyóirat, hogy „az év folyamán” lebontják. Valószínűleg 1971-ben került erre sor.
