Officerare var uppmärksammad på fyndet strax söder om Porth Neigwl (Hell's Mouth), nära Abersch på Llyn halvön, vid cirka 16:00 GMT på söndag.
Polisen och medlemmar av kustbevakningen placerade en 100m (330ft) avspärrning runt föremålet.
Försvarsministeriet bekräftade att det kanske var nåt slags vapen.
Explosiva experter kommer att detonera apparaten på måndag morgon för att göra den säker.
En del av en Gwynedd strand har stängts efter att en medlem av allmänheten hittat en misstänkt sprängladdning, North Wales Polisen har sagt.