Chefsinspektör för skolor Meiyr Rowlands berättade för AMs att det delvis berodde på de "oavsedda konsekvenserna" av hur skolornas prestationer mäts.
Ett annat Estyn vittne sade att mer kompetenta inlärares framsteg hade blivit "försvagade".
Ministrarna enades om att de behövde "göra mer för att driva på våra mest kompetenta studenter" och införde förändringar för att höja standarden "för alla våra ungdomar".
Welsh Assembly's Children, Young People and Education Committee ställde frågor till Estyn om dess årsrapport på onsdag.
Rowlands sade att skolorna fokuserade på en prestationsåtgärd som kräver att eleverna ska få fem GCSE i betyg A*-C, inklusive engelska eller walesiska och matematik.
Att, sade han, uppmuntrade skolor att fokusera på gränsen mellan C och D betyg "och möjligen inte ge tillräckligt stöd för dem som kunde få As och A*s".
Men han sade att bevis från grundskolor, vidareutbildning och PISA internationella tester också tyder på att duktiga och begåvade elever inte fick tillräckligt stöd i utbildningssystemet.
"Jag tror inte att skolor och utbildningssystemet mer allmänt har gjort tillräckligt", sade han.
Claire Morgan, strategisk chef för Estyn, sade fokus på särskilda resultatindikatorer innebar att det finns "vissa spel, [och] tidigt inträde som inte har hjälpt till att sträcka ut de mer kapabla".
"Jag tror att detta har hämmat utvecklingen av mer kunniga elever", tillade hon.
En talesman för den walesiska regeringen sade att ministrarna erkände att "vi måste göra mer för att driva våra mest kompetenta studenter att nå sin fulla potential".
"Genom program som Serennätverket stöder vi redan våra smartaste studenter för att nå våra ledande universitet.
Talaren sade att förändringar infördes i det system som används för att mäta skolornas prestationer för 15-16-åringar, efter en översyn av kvalifikationer för 14–19-åringar.
Ändringarna var avsedda att "höja normerna och utöka möjligheterna för alla våra ungdomar oavsett deras bakgrund", tillade han.
Mer kompetenta barn får inte tillräckligt med uppmärksamhet i Wales utbildningssystem, sade skolvakthunden.