Förra månaden avtjänade Pistorius fem års fängelse för mordet på Reeva Steenkamp, även om han kunde vara ute om tio månader.
Påföljden tog inte hänsyn till det "hemska sätt" på vilket Steenkamp dödades, sade åklagarna.
Åklagare överklagar också Pistorius mord frikännande.
Den dubbel-amputee olympiska sprinter åtalades av åklagaren för det överlagda mordet på Ms Steenkamp, en modell och juridik examen som var hans flickvän.
Han frikändes av domare Thokozole Masipa den 21 oktober.
I sydafrikansk lag gäller denna anklagelse - även känd som sambomord - om den anklagade visste att de kunde döda någon men ändå fortsatte med sitt handlingssätt.
"Överklagandet om fällande dom grundar sig på frågan om lag," sade nationella åklagarmyndigheten talesman Nathi Mncube i ett uttalande.
I handlingar som ingivits till North Gauteng High Court och publicerats av Sydafrikas Eyewitness News på sin webbplats, åklagare Gerrie Nel sade domare Masipa "har överbetona på de personliga omständigheterna för den anklagade och det faktum att den anklagade lider av posttraumatisk stress, var orolig och "ser ångerfull".
"Inte nog med betoning på det fasansfulla sätt på vilket den avlidne dog tillsammans med de hemska skador hon lidit när den anklagade sköt och dödade henne", sade han.
Pistorius mening var "opassande lätt, olämplig och skulle inte ha utdömts av någon rimlig domstol", tillade Nel.
Domaren ansåg inte tillräckligt att Pistorius agerade med "brutto vårdslöshet", och hade avfyrat fyra skott med en pistol "laddad med svart talon ammunition genom en låst dörr in i en liten toalettbås där det inte fanns något utrymme att fly".
Åklagaren krävde att han skulle dömas till 15 års fängelse för mord eller dråp.
Ms Steenkamp dödades i Pistorius marknadsbostad i huvudstaden Pretoria i början av alla hjärtans dag förra året.
Han sa att han fruktade att det fanns en inkräktare, men han tänkte inte döda.
Mncube sade att domaren Masipa förväntade sig att ansökan om överklagande skulle behandlas.
"Om det beviljas, fallet kommer då att höras av högsta appellationsdomstolen," Mr Mncube citeras av AFP nyhetsbyrå som säger.
Åklagare hade möjlighet att vända sig till Högsta domstolen för att få saken prövad om tillstånd vägrats, sade Mncube.
Idrottsmannen fick också ett treårigt uppskjutet straff för att ha avfyrat ett vapen i en restaurang.
Pistorius avtjänar för närvarande sitt straff i sjukhusdelen av fängelset Kgosi Mampuru II i Pretoria.
Han kan ansöka om att få avtjäna resten av sitt straff under husarrest efter tio månaders fängelse.
Efter domen sade hans familj att han inte skulle överklaga.
Inuti Oscar Pistorius hem
Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.
I artikel 2 ska punkt 2 ersättas med följande:
I enlighet med artikel 3 i förordning (EU) nr 1307/2013 ska kommissionen, i enlighet med artikel 3 i förordning (EU) nr 1307/2013, anta delegerade akter i enlighet med artikel 4 i förordning (EU) nr 1307/2013, med avseende på följande:
Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.
Den ska tillämpas från och med den 1 januari 2018.
Mr Pistorius sa att han och ms Steenkamp åt middag vid 19:00 innan han gick till sängs klockan 21:00. Han sa att han vaknade tidigt, pratade kort med sin flickvän och gick upp för att stänga skjutdörren och gardinerna.
Domare Thokozile Masipa ifrågasatte tillförlitligheten hos flera vittnen som sade att de hörde skrik och skott mellan omkring 03:12 och 03:17, och sade att de flesta hade "fått fakta fel".
Mr Pistorius sade att han hörde badrumsfönstret glida upp och trodde att en inkräktare, eller inkräktare, hade gått in i badrummet genom ett fönster som inte var utrustat med inbrottstänger.
Pistorius sa att han tog sitt vapen och bad Steenkamp, som han trodde fortfarande låg i sängen, att ringa polisen.
Domaren sade att det inte var meningsfullt att Steenkamp inte hörde honom skrika "Gå ut" eller ringa polisen, eftersom hon hade sin mobiltelefon med sig.
Mr Pistorius kunde se att badrumsfönstret var öppet och toalettdörren stängd. Han sa att han inte visste om inkräktarna var ute på en stege eller i toaletten.
Han hade sitt vapen framför sig, han hörde en rörelse inuti toaletten och trodde att den som var inuti var på väg ut för att attackera honom.
"Innan jag visste det, hade jag avfyrat fyra skott vid dörren," sade han.
Domaren sa att hon inte accepterade att Pistorius avfyrade vapnet av misstag eller innan han visste vad som hände. Hon sa att han hade beväpnat sig med ett dödligt vapen och uppenbarligen ville använda det. Den andra frågan, sade hon, var varför han sköt inte en, men fyra skott innan han sprang tillbaka till rummet för att försöka hitta Ms Steenkamp.
Pistorius sade att han gick tillbaka till sovrummet och lade märke till att Steenkamp inte var där.
Mr Pistorius sa att det var när han insåg att hon kunde ha varit på toaletten och rusat tillbaka till badrummet.
Mr Pistorius sa att han skrek på hjälp och gick tillbaka till badrummet där han hittade att toaletten var låst. Han återvände till sovrummet, drog på sina protesben och tände ljuset innan han slog i toadörren med ett cricketträ.
När dörrpanelen gick sönder hittade han nyckeln och låste upp dörren och hittade ms Steenkamp nedsänkt på golvet med huvudet på toalettskålen. Han bar henne sedan nerför trappan, där han möttes av grannar.
3D-animering av lägenheten
Sydafrikas åklagare har sökt tillstånd att överklaga idrottaren Oscar Pistorius "sockande ljus" dom, rättegångshandlingar visar.