Kraschen med flera fordon inträffade på den södra körbanan, nära Hindheadtunneln vid Bramshott, ungefär 07:30 GMT på torsdag.
Den 32-årige mannen blev dödförklarad på platsen.
Polisen sa att en 33-årig man från Waterlooville hade gripits misstänkt för att ha orsakat död genom att köra utan vederbörlig omsorg och uppmärksamhet.
Vägen var stängd mellan Thursley och Liphook till tidigt på kvällen medan officerare undersökte platsen.
En cyklist har dött efter att ha krockat med en bil på A3 i Hampshire.