Jennings, 25, var ute för 48 på fjärde morgonen av tredje testet mot Proteas, vilket innebär att han i genomsnitt bara 15,3 på sex innings.
"Även om han fick 48, det fanns en hel del kanter", sade Smith.
"Om jag var en väljare skulle jag tro att det var dags att göra en förändring med Västindien och sedan Ashes kommer upp."
England spelar ytterligare ett test mot Sydafrika, följt av tre mot Västindien innan de försvarar asherna under.
Johannesburg-födda Jennings var 34 inte ute över natten på The Oval, efter att ha överlevt en droppe fångst och framgångsrikt omkullkastat ett lbw beslut på tredje dagen.
Han tillade 14 till sin poäng innan fjädring en kort leverans från Kagiso Rabada till måsen.
På tal om Test Match Special, Smith - som ledde Sydafrika till två Testserie vinner i Australien - tillade: " Bör England ge en annan spelare tid att slå sig ner?
"Det sätt som Jennings spelar på, jag tror Australien kan vara en ganska skrämmande plats för honom.
"Det är inte lätt. Detta är människors liv och de arbetar hårt, men jag tror att Sydafrika skulle älska Jennings att spela i den sista testmatchen.
"Om du var tvungen att fråga dem skulle de säga: 'Var snäll och välj honom.'"
Jennings kamp är den senaste i ett pågående problem för England, som har provat 11 olika öppningspartners för Alastair Cook sedan Andrew Strauss gick i pension 2012.
Några har haft framgång - Adam Lyth och Sam Robson gjorde århundraden, medan Haseeb Hameed imponerade i Indien innan de drabbades av en skada och kämpade för form med länet sidan Lancashire.
Durham vänsterhänt Jennings, som ersatte Hameed i Indien, gjorde också ett sekel på sin testdebut, men har sedan passerat 50 bara en gång på nio innings.
Om han tas bort från England sidan, hans mest sannolika ersättare skulle vara Surreys Mark Stoneman, som är den tredje högsta run-scorer i County Championship Division 1 denna säsong.
"Jag kan inte säga om Stoneman är bättre, jag har inte sett tillräckligt - men om de tror att det finns potential då skulle jag ge honom ett försök," sade Smith.
En Ashes serie i Australien kommer att bli ett "scary" förslag för England öppnare Keaton Jennings, säger tidigare Sydafrika kapten Graeme Smith.