Indexet för inköpschefer inom Markit/CIPS ökade till 50,1 från 49,4 i april, vilket var den lägsta avläsningen sedan början av 2013.
50-talet skiljer tillverkningstillväxten från nedgången, med sektorn nu precis på den positiva sidan.
Tillverkningen lyckades inte öka den totala tillväxten i Storbritannien under 2015 och början av 2016.
Den brittiska ekonomiska tillväxten avtog till 0,4 % under årets första kvartal från 0,6 % i slutet av 2015, vilket understöddes av tjänstesektorn.
Rob Dobson, chefsekonom vid undersökningskompilatorerna Markit, sade: " Tillverkningssektorn verkar sannolikt fungera som ett ökat hinder för ekonomin under andra kvartalet.
"Det finns också tecken på att ökad osäkerhet bland kunderna till följd av långsammare tillväxt och den kommande EU-omröstningen väger tyngre än investeringsutgifterna och företagens beslut i allmänhet."
I rapporten konstaterades att mer än en tredjedel av de undersökta tillverkarna ansåg att osäkerheten vid EU-omröstningen hade påverkat deras verksamhet, och 8 % sade att effekten var "starkt skadlig".
Undersökningen visade att investeringsvaruindustrin upplevde en svår månad och att produktionen sjönk i snabb takt sedan början av 2013.
Howard Archer, chef för Storbritannien och europeisk ekonom vid IHS Global Insight, sade att tillverkningssektorn "i huvudsak stod stilla i maj".
Ruth Miller, brittisk ekonom vid Capital Economics, sade att den lilla förbättringen för tillverkningsindustrin i maj inte gjorde mycket för att förändra den grundläggande bilden av en kämpande industrisektor.
"Grant, den rubrik PMI index återhämtade sig från sin tre år låga i april, tickar upp från en uppåt reviderat 49,4 till 50,1 i maj, över konsensus förväntan 49,6," sade hon.
Miller sade att detta fortfarande låg långt under genomsnittet sedan den ekonomiska återhämtningen i början av 2013. Hon ansåg dock att situationen skulle "förbättras för brittiska tillverkare senare i år".
Totalt ökade orderingången i maj.
Samtidigt sade vissa företag att de redan var prissättning i förväntan att inflationen kommer att stiga. Den årliga konsumentprisinflationen ligger för närvarande på 0,3 %.
Den brittiska tillverkningsindustrin ökade något i maj, vilket väckte oro över ekonomins styrka inför folkomröstningen den 23 juni i Europeiska unionen.