Straat in het noordwesten van Beveren-Leie. De straat loopt in zuidwestelijke richting in het verlengde van de Nijverheidstraat, vroeger een deel van de Kleine Heerweg. Net vóór de grens met de gemeente Harelbeke komt de straat samen de Grote Heerweg. De straat volgt het tracé van de oude heerweg tussen Gent en Kortrijk die op de hoge, droge kouterruggen langs de Leie liep. Ten noorden van de straat loopt de Grote Heerweg, waarvan de Kleine Heerweg een afsplitsing is (op grondgebied van Zulte komt de straat weer op de Grote Heerweg uit).

Vermoedelijk samen met de Grote Heerweg de oudste straat van Beveren. Ten zuiden van de Kleine Heerweg en ten westen van de huidige Sint-Jansstraat ligt omstreeks 1400 de Poperput, een perceel dat deels ingenomen is door een waterplas. De "Cleene Heerstraete" wordt volgens De Flou reeds vermeld in 1570. Eerste weergave van de straat met de Sint-Annakapel op de hoek met de Grote Heerweg op een Franse militaire kaart van 1674; de kapel wordt aangeduid als "Notre Dame de Misericorde à l'Hopital" en behoort tot de heerlijkheid Poeke te Beveren-Leie, zie het wapenschild van de baronnen van Poeke in de voorgevel. Op de figuratieve kaart van de parochies Desselgem en Beveren, opgemaakt in 1675 door Gudwalus van der Mariën, wordt de straat aangeduid als "De cleen heer straete"; het straatgedeelte tussen de huidige Nijverheidstraat en Sint-Jansstraat is in 1675 nog onbebouwd. Vanaf 1735 bevindt zich op de hoek met de huidige Sint-Jansstraat de herberg "De Lindeboom", later "De Drie Linden". In de 18de eeuw bevinden zich enkele armenhuisjes aan de noordzijde van de straat, net ten oosten van de huidige Sint-Jansstraat, die toebehoren aan de Dis of Armentafel van Beveren. Op de figuratieve kaart van de Sint-Pietersheerlijkheid, opgemaakt door Joseph de Coster in 1764, aangeduid als "den Cleynen heerewegh in Beveren"; weergave van bebouwing ter hoogte van de huidige Sint-Jansstraat. Het landboek van Beveren bij Harelbeke, opgemaakt door J.B. Bouin in 1768, geeft de Sint-Annakapel of de "capelle te Pouckes" op de hoek met de Grote Heerweg weer. Op de Kabinetskaart van de Oostenrijkse Nederlanden, opgenomen op initiatief van Graaf de Ferraris (1770-1778), vermeld als "Chapelle St.Anne". De bouwvallig geworden Sint-Annakapel, eigendom van de familie Preudhomme-d'Hailly, verdwijnt vermoedelijk in de 19de eeuw. Op de Atlas der Buurtwegen (1844) wordt de straat weergegeven als "Kleynenheirweg" met als aanduiding "Chemin n° 2" en omschrijving "Chemin d'Harlebeke à Desselghem". Reeds in 1844 maakt de gemeente Beveren-Leie plannen om een gemeenteschool te bouwen. Door de hongersnoodjaren van 1845-1849 krijgen de plannen pas in 1854 concreet vorm. De nieuwe gemeenteschool met onderwijzerswoning wordt in 1855-1856 gebouwd door de Harelbeekse aannemer Charles Bossuyt (zie nummer 126). In 1896-1897 bouwt de gemeente een nieuwe onderwijzerswoning en wordt de oude woning omgevormd tot klaslokaal; de werken worden uitgevoerd naar de plannen van architect Jules Carette. In 1889-1890 wordt het herenhuis "De Bouw" gebouwd als buitenverblijf voor dokter Gustaaf Vandenberghe uit Gent (nummer 88). De kaart van het Militair Cartografisch Instituut (1911) geeft naast de bebouwingsconcentratie ter hoogte van de huidige Sint-Jansstraat twee hoeves weer aan de noordzijde van de straat. Wanneer in 1929-1930 de nieuwe gemeenteschool aan de Schoolstraat wordt gebouwd (nummer 4) wordt de oude gemeenteschool met onderwijzerswoning aan de Kleine Heerweg omgebouwd tot woningen. Op grondgebied Beveren blijft de Kleine Heerweg een aarden weg tot circa 1930; het stuk van aan de grens met Desselgem tot aan de Sint-Jansstraat krijgt circa 1930 een grindbedekking. Toename van bebouwing in de jaren 1930 en na de Tweede Wereldoorlog: de straat maakt samen met een gedeelte van de Grote Heerweg en de Pontstraat deel uit van de Westwijk. Vanaf de jaren 1930 tot na de Tweede Wereldoorlog is herberg "In de Kilo" er gelegen (toenmalig nummer 141). In de jaren 1950 wordt de straat geasfalteerd en het gedeelte tussen de huidige Gruuthusestraat en de Sint-Jansstraat voorzien van een betonverharding. In 1956 wordt de straat verbreed. Bouw in 1959 van de kapel ter ere van Onze-Lieve-Vrouw van Fatima op de hoek met de Pontstraat. In 1960 wordt een gedeelte van de Kleine Heerweg omgedoopt in de Nijverheidstraat. Ontstaan van het bedrijventerrein "Pontstraat" (zone 11a) ter hoogte van de Sint-Jansstraat in de tweede helft van de 20ste eeuw.

Thans straat met geasfalteerd wegdek. Een gedeelte van de straat wordt met bomen omzoomd. Bebouwing opklimmend tot het einde van de 19de eeuw (zie nummer 88, nummer 126, nummer 88) en het begin van de 20ste eeuw (zie nummer 65), doch voornamelijk daterend vanaf het tweede kwart van de 20ste eeuw. Nummer 7, voormalige vlasserswoning met aanpalende vlasschuur, volgens het kadaster gebouwd in 1946 (schuur) en 1950-1951 (woning) in opdracht van vlashandelaar Remi Goderis. Bakstenen vlasschuur onder een zadeldak (nok loodrecht op de straat); straatpuntgevel met links een rechthoekige poortopening (vernieuwde poort) en rechts later ingebracht winkelpui met bovenliggende, bakstenen heiligennis met dito kruisbekroning. De fabrieksgebouwen van het bedrijf Egetra aan de Sint-Jansstraat geven uit op de Kleine Heerweg; magazijnen daterend uit de jaren 1950-1960 (zie Sint-Jansstraat nummer 103) .