Phil Smith, chef för IT-företaget Cisco, liknade situationen till att inte ha tillgång till vatten eller en väg och sade att företag inte skulle kunna överleva utan det.
Han sa att en snabb internetuppkoppling var avgörande för ett land som Wales med ett "komplext landskap".
Den walesiska regeringen insisterade på att Wales skulle visa vägen med bredband.
Ministrarna och BT levererar för närvarande systemet Superfast Cymru, som kommer att ge människor tillgång till fiberbredband.
Tidigare i år en Superfast Cymru talesman sade mer än 80% av fastigheter i Wales hade tillgång till supersnabbt bredband.
Men när han talade med BBC Wales på teknikkonferensen Digital 2016 i Newport sade Smith: "Jag är mycket förvånad över att bredband inte har nått den nivå av penetration det borde.
"För att vara ärlig är det som att säga att du inte har en väg nu, eller att du inte har vatten.
"Företag, länder och individer kan inte överleva utan bredband, det är inte någon valfri trevlig sak att ha, det är så affärer görs.
"Ett land som Wales, det har en bred befolkning och komplexa landskap, det behöver folk att vara på video, att engagera sig var som helst i världen när som helst.
"Jag tycker det är väldigt viktigt att regeringen och industrin driver hårt för att få bredband till högsta nivå överallt."
En talesman för den walesiska regeringen sade att en rapport från Ofcom i augusti visade att Wales var ledande bland Storbritanniens decentraliserade nationer med tillgång till supersnabbt bredband.
"Superfasta Cymru-programmet har redan gjort supersnabba bredbandshastigheter över 24 Mbit/s tillgängliga för mer än 581000 walesiska hem och företag, inklusive i vissa mycket landsbygdsområden, och fler lokaler kommer att ha tillgång till när utbyggnaden fortsätter", tillade han.
"Vi är fast beslutna att göra Wales till en verkligt digital nation och fortsätta att stödja företag att dra nytta av bredbandsteknik som kommer att hjälpa dem att växa, att öka Wales ekonomiska välstånd och skapa arbetstillfällen."
En hög profil i teknikens värld har kritiserat dåligt bredband i delar av Wales.