Het voorm. bisschoppelijk paleis (Pollartstraat 5) is een U-vormig pand, gebouwd in 1666-'70 naar ontwerp van Joseph van Halle ter plaatse van een in 1665 door brand verwoeste voorganger. Uit deze herbouwtijd dateert het classicistische hardstenen ingangspoortje met geblokte ionische pilasters.
Bisschop Philippus Damianus, rijksgraaf van Hoensbroek, liet het paleis rond 1780 moderniseren en aan de voorzijde voorzien van een statig hek in Lodewijk XVI-stijl. Uit deze tijd dateren inwendig een bordestrap en een hoekkast in dezelfde stijl.
In 1821 werd het gebouw ingericht tot gerechtsgebouw, waarna men in 1838 de vensters moderniseerde. Ter rechter zijde kwam in 1857-'63 naar plannen van A.
Pierson een Huis van Arrest (Pollartstraat 7) tot stand: een gepleisterd eclectisch voorgebouw met wenkbrauwen boven de vensters en een achterliggende cellenvleugel. Verbouwing en uitbreiding van de gevangenis volgde in 1913-'16 naar plannen van W.C.
Metzelaar. Tevens verrees toen tussen beide panden een met rationalistische details uitgevoerd archiefgebouw.
Ondanks latere verbouwingen bleef in het Huis van Arrest de oorspronkelijke centrale hal met gietijzeren consoles, zuilen en bordessen bewaard. Op korte afstand van het oude paleis liggen het voorm. bisschoppelijk paleis (Paredisstraat 10), daterend uit circa 1860, en het bisschoppelijk archief (Paredisstraat 8), een in 1921 opgetrokken drielaags pand in expressionistische stijl met natuurstenen decoraties.
