Han sade att det skulle vara "väldigt utmanande" med tanke på dagens "starka anti-etableringstänkande".
Ingen sådan undersökning äger rum, men hans kommentarer kommer efter andra varnade för hot mot devolution i Brexits kölvatten.
Som svar sade Plaid Cymru-ledaren Leanne Wood att EU:s resultat inte borde läsas som en röst för att "centralisera" makten.
Under folkomröstningskampanjen arbetade Labour, som leder den walesiska regeringen, och den officiella oppositionen Plaid Cymru för att stanna kvar i Europeiska unionen, medan Chris Davies kämpade för ledighet.
Ledighet vann i Wales, och sedan omröstningen i juni har förste minister Carwyn Jones krävt att alla framtida Brexit-avtal ska läggas fram för Storbritanniens decentraliserade lagstiftande organ och att han ska inrätta en rådgivande grupp i frågan.
Chris Davies sade att det inte fanns "någon stor värme eller tillgivenhet" gentemot församlingen.
När han talade till BBC Radio Wales'Sunday Supplement program, tillade han: "Denna tanke kom till mig när jag hade ett oskyldigt samtal med en medfarmare, vi talade om Brexit.
"Han ställde frågan till mig att om folkomröstningen för plenarförsamlingen åter genomfördes i dag, skulle den kunna vinnas?
"Om du reflekterar över det och politikens tillstånd just nu, tror jag inte att det kan vinnas, för att vara ärlig mot dig.
"Ju mer och mer du reser runt i Wales, och jag säger detta med tungt hjärta... tyvärr människor känner sig mycket avlägsen från institutionen.
"Medan folk anger i opinionsundersökningar de vill ha beslut som fattas här i Wales, det är inte nödvändigtvis genom fordonet i nationalförsamlingen."
Två folkomröstningar hölls om den walesiska devolutionen. Den första, 1997, inrättade församlingen med en seger för Ja - 50,3%,% till 49,7% - men med ett valdeltagande på 50,1%.
Den andra under 2011 om huruvida församlingen skulle ha befogenhet att stifta lagar på områden som den har jurisdiktion, vanns också med 63,5 % av rösterna men med ett valdeltagande på 35,6 %.
Praid's Wood sade: "Brexit ger nationerna möjlighet att ta mer makt och ansvar från Storbritannien.
"Röstresultatet visar hur Westminster styr har lämnat många samhällen bakom sig. Det får inte på något sätt tolkas som en omröstning för att centralisera mer makt i London.
"Inget självrespekterande land bör vara försagt eller skämmas för att styra sig självt. Det är nedslående att se en sådan negativ attityd från vissa inom walesisk politik."
En talesman för den första ministern sade: "Vi har tillkännagett våra viktigaste prioriteringar för ett framtida avtal (Brexit), inrättat en ny förtroendefond för företagen för att hjälpa företagen genom denna osäkra period och vi har meddelat att vi har inrättat en ny avdelning i regeringen, tillsammans med en ny extern rådgivande grupp inom EU.
"Vi har träffat premiärministern, kanslern, brexitministrarna och jordbruksministern - vi har samlat alla decentraliserade regeringar i Cardiff och sammankallat ett särskilt råd för ekonomisk förnyelse. Vi har krävt och säkrat viss säkerhet om framtida finansiering, även om det fortfarande finns ett sätt att gå vidare med detta.
"Berättelsen som Welsh Tories vill utveckla bekräftas inte av fakta."
Welsh väljare skulle avvisa devolution nu om en folkomröstning hölls om församlingens existens, Welsh Tory ledare Andrew RT Davies har sagt.