Medan 7 % av de underbetalda betalar och skulle kunna få böter, betalar 13 % för mycket.
Kontoret för järnvägar och vägar (ORR) vill att tågbolag ska återbetala passagerare som av misstag köper biljetter som är för dyra för sin resa.
Tågoperatörerna sade att varuautomaterna var utformade för enkla biljettkrav.
De säger att planerna på att förenkla biljettpriserna kommer att hjälpa dem att ge tydligare information om biljettautomater.
ORR använde mystiska shoppers för att köpa tågbiljetter från maskiner.
"Trots investeringar i ny teknik och avlägsnande av jargong från biljettautomater, vår nya forskning visar att passagerare kan betala mer för sin resa än nödvändigt", säger John Larkinson, ORR chef för järnvägsmarknader och ekonomi.
"Vi uppmanar tågbolagen att åta sig att återbetala alla som upptäcker att de kunde ha köpt en billigare biljett för samma resa", tillade han.
Järnvägsoperatörerna C2C och Scotrail har redan infört en prisgaranti för passagerare som betalar för mycket.
Tidigare denna månad tillkännagav järnvägsleveransgruppen (RDG), som företräder tågoperatörer, ett försöksprogram för att förenkla biljettpriserna.
Det stod att de 16 miljoner biljettpriser som erbjöds var "fafflande" för passagerarna.
Som en del av rättegången, som börjar i maj, biljettautomater på stationer kommer också att uppdateras, för att se till att de visar de billigaste priserna tillgängliga.
"För att snabbt gynna passagerarna måste järnvägsleveransgruppen ange vilka förbättringar av biljettautomaterna som kommer att göras på kort sikt", säger Larkinson.
Paul Plummer, chef för NDG, berättade för BBC att operatörerna var medvetna om att det fanns ett problem med maskiner, och att de hade formulerat en 10-punktsplan för att förbättra dem.
Ändå påpekade han att maskinerna var utformade som "queue-busters" för passagerare med relativt enkla krav, men "förväntningar [av passagerare] hade utvecklats".
Han sade att biljettsystemet var alldeles för komplicerat.
RDG tillade också: "Komplicerade, decennier gamla statliga regler för tågbiljetter gör det svårare för tågbolag att erbjuda rätt, enkla alternativ på biljettautomater.
"Enklare antal och typer av priser i systemet kommer att låta tågbolag ge kunderna tydlig information och hjälpa dem att göra bättre informerade val," tillade de.
av Ben Morris, affärsreporter
I den brittiska Rail-eran var tågpriserna en relativt enkel affär, där biljettpriserna beräknades på kostnads-per-mil-basis.
Men under 1990-talet överlämnades driften av järnvägstjänster till privata tågoperatörer (Tocs) i ett försök att effektivisera järnvägsnätet.
Tocs fick viss frihet att sätta biljettpriser, med avancerade biljettbokningar särskilt viktiga för dem, eftersom det hjälper dem att hålla sina tåg fulla.
För att skydda passagerarna reglerades andra biljettpriser, inklusive säsongsbiljetter och lågprisbiljetter.
Resultatet blir ett lapptäcke av biljettpriser, som blir ännu mer komplicerat när en passagerare vill korsa flera tågregioner.
Savvy resenärer har utnyttjat detta genom att dela sin resa i flera biljetter, snarare än en genom-biljett.
Järnvägsbiljettmaskiner orsakar så mycket förvirring att en femtedel av de passagerare som använder dem köper fel biljett, enligt järnvägsregulatorn.