Aan de vroegere Peerdsmerckt, waar de wapenplaats van het garnizoen gelegen was, heeft eertijds een stenen put met houten wip gestaan. De waterput op de Paardenmarkt kreeg wellicht in het Hollandse tijdperk de naam 'theeput', naar verluidt omdat het water geschikt zou zijn geweest voor het maken van thee.

Vóór 1914 heeft het gemeentebestuur deze put vervangen door de huidige gietijzeren pomp. Er was vroeger armoede en gebrek aan water in dit straatje. Aan deze kraan kwamen de mensen uit de straat en omgeving water halen voor huishoudelijk gebruik.

Deze gietijzeren pomp is voorzien van het gemeentewapen, dat meermaals overschilderd is. Heden zou een oorspronkelijke sierlijke krul van de arm verdwenen zijn. Wellicht is de pomp na 1978 gerestaureerd.