Kasteel Terworm (Terworm 5, Welten) is in de huidige vorm een omgracht en onderkelderd herenhuis op T-vormig grondplan, met zadeldaken tussen trap- en tuitgevels en met twee arkeltorentjes aan de achterzijde. In de eerste helft van de 15de eeuw verrees een vierkant kasteel met twee torens en een ommuurde binnenplaats.
Na een brand werd het kasteel rond 1550 herbouwd. In 1648-'49 volgde een uitbreiding aan de zuidzijde en in 1767 in opdracht van de familie Van der Heyden een uitbreiding aan de westzijde.
De familie de Loë liet in 1891 een ingrijpende verbouwing in neogotische stijl uitvoeren naar plannen van L. von Fisenne. Daarbij werd het huis beklampt, met uitzondering van de noordgevel.
Bij de restauratie rond 1995 heeft men het huis naar plannen van P.A.M. Mertens aan de noordzijde uitgebreid in de vormen uit 1891.Het gebouw is nu in gebruik als hotelrestaurant.
Een mergelstenen boogbrug uit 1843 verbindt het huis met de omgrachte voorburcht en de daarop gelegen U-vormige nederhof. Het oudste gedeelte is het poortpaviljoen uit 1670 (jaartalankers). De westvleugel kwam tot stand in 1716 (jaartalankers), de losse zuidvleugel in 1718 (sluitsteen); beide met gebruik van oudere fragmenten. De vernieuwde noordvleugel bevat een gevelsteen uit 1621, afkomstig van de hoeve Eyckholt. De gemetselde boogbrug voor de toegangspoort tot de voorburcht dateert uit circa 1850. Aan de achterzijde van het huis leidt een boogbrug uit 1891 naar een oorspronkelijk in 1862 naar ontwerp van L.
Fuchs geometrisch aangelegde tuin. In 1999 is men gestart met de restauratie van deze stijltuin, die na 1917 met uitzondering van enkele restanten was veranderd in een weiland. Mogelijk wordt de oranjerie uit 1830 herbouwd. Bij de toegang tot de tuin staan twee hekpijlers in Lodewijk XV-stijl.