De eerste spoorweglijn die Oudenaarde aandeed, verbond Gent met Saint-Ghislain. Het traject Gent-Oudenaarde werd op 17 mei 1857 geopend. In 1866 werd een eerste reizigersgebouw opgericht. Om de stoomlocomotieven te bevoorraden moest al vlug een heel waterleidingsysteem uitgebouwd worden. Naar verluidt zou men daarvoor in het stationsareaal twee grote ondergrondse watertanks aangelegd hebben. Een ervan zou zich in de onmiddellijke nabijheid van de huidige watertoren bevinden. Supplementaire bevoorrading werd gewoon uit de oude vestingvijvers ten westen van de stad gepompt en via buizen naar het station gevoerd. Vanaf de watertoren liep een leiding naar de locomotievenstelplaats ten noordoosten van het stationsareaal. Heel dit systeem bestaat niet meer. Een vroegere watertoren had een lage achthoekige licht overkragende kuip die door een laag dak afgedicht was. Op dezelfde plaats werd in 1938 de huidige toren opgericht. De vernauwende achthoekige voet bestaat uit betonpijlers, de wandvulling is van donkere baskteen. De kuip is volledig van beton en heeft een vlakke bodem. Middendoor loopt een verticale schacht waarin een ijzeren ladder toegang tot het bovenvlak geeft.