De Kasteelstraat ontstond na de brand van 1811 waarbij het penitentklooster en het zuidelijke deel van de Steenkuilstraat werden verwoest. Voordien (Ferrariskaart, 1771-77) bevonden zich twee verbindingswegen van de Steenkuilstraat met de burchtsite, de ene wat zuidelijker, de andere wat noordelijker van de huidige Kasteelstraat. De densiteit van bebouwing is niet toegenomen in vergelijking met die in de Atlas van de Buurtwegen (1844), zodat de straat nog een aantal onbebouwde percelen telt.
Bron: SCHLUSMANS F. 2005: Inventaris van het cultuurbezit in Belgiƫ, Architectuur, Provincie Limburg, Arrondissement Maaseik, Kantons Bree - Maaseik, Bouwen door de eeuwen heen in Vlaanderen 19n1, Brussel - Turnhout. Datum: De tekst wordt ter beschikking gesteld door: Agentschap Onroerend Erfgoed (AOE)