Nikkei 225 lade ned 0,4% på 18.916.02, även om indexet hade varit så mycket som 1,6% i tidigare handel.
Andelarna i Toshiba minskade med 9,8 % på rapporter och förväntade sig rekordförluster under året fram till mars.
Efter att marknaden stängts sade Toshiba att det skulle minska 6 800 arbetstillfällen på sin konsumentelektronik division och rapportera en rekordförlust på 550 miljarder yen ($4.53 miljarder).
Nyheterna visar att Toshiba överskattat sin rörelsevinst under de senaste sex åren med totalt 151,8 miljarder yen.
US-dollarn sjönk till 121,20 yen, jämfört med förra veckans kurs på 123 yen efter den amerikanska kursökningen, och den starkare yenen vägde på Japans största exportörer.
Toyota aktier stängde mer än 1% och Honda slutade 0,7%. En starkare yen gör produkterna Japans stora exportörer gör dyrare att köpa utomlands.
Lägre oljepriser fortsatte att tynga energirelaterade andelar. Priset på Brent Råvara sjönk till sin lägsta sedan 2004 i övernattningshandeln till $36,17 per fat, innan återhämta sig något till $36,49. Mellanpriserna i västra Texas sjönk till 34,53 dollar per fat.
I Kina stängde Hong Kongs Hang Seng index 0,2% vid 21,791,68, medan Shanghai Composite index stängde 1,8% vid 3,642,47 - en fyra veckor hög.
I Australien återvann S&P/ASX 200-indexet tidiga förluster till nära 0,05 % högre vid 5.19.05.
Sydkoreas referensindex Kospi-index stängde 0,3 % vid 1.981.19.
Japans Nikkei index stängde lägre, med aktier i Toshiba sjunker nästan 10% som företaget förutspådde rekordförluster.