Slotje Rijswijk (Rijswijksesteeg 8, Rijswijk) is het restant van een waarschijnlijk 14de-eeuws kasteel van het geslacht van Rijswijk. Het kasteel, dat een zware woontoren had, is gesloopt.
Op het omgrachte kasteelterrein liet Lambertus van Andel uit Woudrichem omstreeks 1760 een herenhuis bouwen met gebruikmaking van fundamenten en een oudere kelder van een waarschijnlijk middeleeuwse woonvleugel. Dit tweebeukige herenhuis heeft een front met middenrisaliet en geblokte hoekpilasters en een omgaand zadeldak met hoekschoorstenen. Bij een ingrijpende restauratie in 1973 is de bekroning van het middenrisaliet toegevoegd. Het toegangshek is afkomstig van huis ‘Sparrendael’ te Driebergen (Utrecht).