Hans signering följer nyheten att Stags kunde vara utan skadade anfallaren Alex Fisher i fyra veckor.
Oliver, 23, skrev på sitt första kontrakt med sin hemstadsklubb Sheffield onsdag.
Han lämnade Owls 2012 och gjorde en omedelbar effekt på Lincoln City, poäng 14 mål i 41 matcher, innan han gick Crewe förra sommaren.
Oliver kan göra sin debut i York på lördag.
Framåt Vadaine Oliver har anslutit sig till Mansfield Town på ett nödlån på en månad från Crewe Alexandra.