Mediauppspelning stöds inte på den här enheten
Aktieägare vid stämman kallade av King, som äger 14,5% av aktierna i Rangers International Football Club plc, röstade Derek Llambias och finansdirektör Barry Leach av styrelsen.
Kungens konsortium fick cirka 85% av rösterna.
Och den nya styrelsen har redan utsett aktieägaren Douglas Park till direktör.
David Somers, som var ordförande, och James Easdale hade redan avgått från styrelsen före extra bolagsstämma.
King riktade sig till fans efter att ha röstats på styrelsen och sade att EGM var en "svängande punkt i klubbens framtid".
Och senare sade han: " Vi vill att Rangers ska återgå till att vara på sin rättmätiga plats i skotsk fotboll.
Mediauppspelning stöds inte på den här enheten
"Klubben är i stort sett trasig. Den är trasig i många områden. I stort sett allt måste undersökas.
"Det kommer andra möten. Fansens grupper har varit helt fantastiska. Vi anser att detta bör erkännas. Vi vill arbeta med fans när det gäller att få representation i styrelsen."
Och Murray tillade: " Vi tar oss tid att bygga ut brädet. Vi är inte inblandade i kortsiktiga fixa."
Murray tog också upp frågan om att utse en ny chef.
Ally McCoist är på trädgårdsledighet efter att ha lämnat posten sent förra året och vaktmästare Kenny McDowall arbetar sin årliga uppsägningstid.
"Vi lägger grunden för ett långsiktigt projekt här och utse en första team manager är ett avgörande beslut," sade Murray.
"Vi ska ta lite tid och få det rätt."
Utgående verkställande direktör Llambias och Leach är medarbetare till Sports Direct och Newcastle United ägare Mike Ashley, som i veckan bötfälldes £ 7.500 av Scottish Football Association för att bryta mot reglerna om dubbelt ägande.
Mediauppspelning stöds inte på den här enheten
Han har lånat ut 10 miljoner pund till klubben och har lukrativa kommersiella kontrakt som rör dess verksamhet.
Llambias och Leach har fortfarande anställningskontrakt på Rangers.
Kungen var säker inför omröstningen på att han hade tillräckligt med röster för en enkel majoritet för att få de fem resolutionerna antagna - två för avlägsnandet av Llambias och Leach, som inte var närvarande vid mötet, och en vardera för utnämningen av kungen själv, Murray och Gilligan.
Och hans chanser ökade när det visade sig att det block av aktieägare som representerades av Sandy Easdale, ordförande i klubbens fotbollsplan, avstod från att rösta.
Man trodde till en början att de skulle använda sin sammanlagda andel på drygt 20 procent för att rösta emot kungskonsortiet.
Många aktieägare hade röstat per post eller genom fullmakt eftersom den extra bolagsstämman ursprungligen skulle hållas i London.
Detta beslut föranledde en motreaktion och de två hotell som valts att vara värd för drog sig ur.
King, en f.d. pat Glaswegian som bor i Sydafrika, hade vädjat till aktieägarna att agera "med lugn och värdighet". Han applåderades när han tog sin plats i vittnesbåset.
Rangers kommer också att behöva utse en ny nominerad rådgivare - företaget som förvaltar Rangers International Football Clubs notering på Alternative Investment Market.
Bolagets tidigare "nomad", WH Irland, avgick före den extra bolagsstämman, vilket resulterade i att aktierna drogs in.
En ny nomad måste utses inom 30 dagar eller bolaget kommer att avnoteras från börsen.
King har sagt Rangers behöver mer än £ 20m investeras i en nära framtid för att få klubben i en konkurrenskraftig position.
Laget sitter för närvarande tredje i Scottish Championship och play-offs verkar vara deras bästa hopp för befordran, med ledare Hearts på kurs för titeln.
Dave King, Paul Murray och John Gilligan har lyckats röstas om till Rangers styrelse på fredagens extra bolagsstämma på Ibrox.