Styrelsen för ARM förväntas rekommendera aktieägarna att acceptera erbjudandet - vilket är cirka 43% premie på sitt utgående marknadsvärde på £16,8 miljarder på fredag.
Cambridge-baserade företag designar mikrochips som används i de flesta smartphones, inklusive Apples och Samsungs.
ARM, som grundades 1990, sysselsätter mer än 3.000 personer.
Aktierna i det brittiska teknikföretaget ökade med 45 % vid öppnandet av Londonbörsen till 1.742.85p per aktie, vilket ökade ARM:s marknadsvärde med 7,56 miljarder pund.
ARM sade att det skulle behålla sitt huvudkontor i Cambridge och att det åtminstone skulle fördubbla antalet anställda under de kommande fem åren.
Softbank är ett av världens största teknikföretag och drivs av dess grundare, den japanska entreprenören Masayoshi Son.
Företaget har tidigare förvärvat Vodafones japanska verksamhet och det amerikanska telekomföretaget Sprint. Affären på 20 miljarder dollar var det största utländska förvärvet av ett japanskt företag vid den tiden.
Den nya affären kommer att finansieras av Softbanks egna kassareserver och ett långsiktigt lån från Japans Mizuho Bank.
Det är svårt att överdriva hur viktig ARM är för den brittiska tekniksektorn - och chocken många känner i morse på nyheterna att det är på väg att förlora sin självständighet.
Dess briljans var att inse att om chips var på väg att komma med allt, du inte behövde göra dem - designa dem var nyckeln.
För fem år sedan var Cambridge hem till minst tre världsledande brittiska teknikföretag, ARM, Autonomy och Cambridge Silicon Radio (CSR).
Sedan blev Autonomi uppslukad av HP i en illa lottad affär, förra året köpte chipmakern Qualcomm CSR, och nu är den största och bästa, ARM, på väg att ha en japansk ägare.
Och i Softbank kan ARM mycket väl ha funnit en bra förälder.
Den japanska firman köpte Frankrikes robotverksamhet Aldebaran och har fortsatt att ge den en global profil.
Men det kommer fortfarande att finnas sorg denna morgon i Cambridge, och dessutom, att Storbritanniens bästa hopp om att bygga en global teknik jätte nu verkar ha försvunnit.
Softbank-ARM-affären är en satsning på framtiden
Softbank har för avsikt att bevara den brittiska tech-byråns organisation, inklusive dess befintliga ledningsstruktur och partnerskapsbaserad affärsmodell, ARM sade.
Masayoshi Son, ordförande och verkställande direktör för Softbank, sade: "Detta är en av de viktigaste förvärv vi någonsin har gjort, och jag förväntar mig att ARM kommer att vara en viktig pelare i SoftBanks tillväxtstrategi framöver.
Men medgrundaren till ARM Hermann Hauser sade: "Detta är en sorglig dag för mig och en sorglig dag för tekniken i Storbritannien."
"ARM är det sista brittiska [teknik] företaget som har en global räckvidd", sade han.
"Det gav Storbritannien verklig styrka. Det var ett brittiskt företag som bestämde nästa generations mikroprocessorarkitektur."
ARM Holdings är utan tvekan den mest värdefulla juvelen i kronan av brittisk teknik, dess mikrochip design används i miljarder enheter.
Källor nära affären säger att det japanska företaget anser ARM väl placerade att utnyttja den så kallade "Internet of things" som kan se mikrochips inbäddade i helt nya kategorier av hushåll och företag enheter.
Premiärminister Theresa May ifrågasatte nyligen om utländska uppköp av brittiska företag alltid ligger i det nationella intresset. Softbank har dock åtagit sig att fördubbla storleken på ARM:s brittiska arbetskraft under de kommande fem åren och den nya förbundskanslern Philip Hammond välkomnade affären.
Att lockelsen har förstärkts av att pundets värde har sjunkit sedan Brexit - vilket gör Storbritanniens mål billigare och många branschövervakare förutspår en ny våg av utländska uppköp.
ARM har fram till nyligen hävdat att dess framtid bättre tjänade som ett oberoende företag. Men Stuart Chambers, ARM ordförande sedan mars 2014, är inte främmande för att göra det stort i Japan. Han var ansvarig för försäljningen av Pilkington, ett annat brittiskt företag med blå chip, till Nippon Sheet Glass 2006.
Premiärminister Theresa May sade att affären mellan Softbank och ARM Holdings visade att den brittiska ekonomin kan bli framgångsrik efter att landet röstade för att lämna EU.
En talesman för premiärministern sade att fru May trodde att avtalet var i landets nationella intresse - en måttstock som hon kommer att använda för att bedöma eventuella framtida utländska övertaganden.
"Detta är goda nyheter för brittiska arbetstagare, det är goda nyheter för den brittiska ekonomin, det visar att, som premiärministern har sagt, vi kan göra en framgång att lämna EU", tillade taleskvinnan.
Dan Ridsdale, analytiker vid Edison Investment Research, sade: "En ökning av den inkommande fusions- och förvärvsverksamheten var en av de uppenbara konsekvenserna av Brexit och försvagat sterling, men få förväntade sig att det skulle manifestera sig så snabbt eller i så stor skala."
Före detta affärsminister Vince Cable berättade BBC det var oftast mycket lite regeringen kunde göra för att förhindra övertaganden.
"Vi har inte ett system av försvar mot övertaganden om de visar sig vara otillfredsställande", sade han.
Cable tillade att regeringen hade få rättsliga befogenheter att stoppa övertaganden om det inte kunde visas att det fanns en nationell säkerhetsfråga.
Det brittiska teknikföretaget ARM Holdings ska köpas av Japans Softbank för 24 miljarder pund (32 miljarder dollar) som det bekräftade på måndagen.