明治维新改革中，日本军方积极改革军队编制，陆军参考德国训练，海军参考英国海军编制；并于1872年颁布征兵令，凡年龄达20岁以上的成年男子一律须服兵役。一般服役3年，及预备役2年，后来一般役及预备役分别增至3年及9年，总计12年。1873年时，作战部队动员可达40万人。 在明治维新以后，天皇根据兵库县知事伊藤博文的建议，建立起中央直辖的军队，分为陆军和海军两个军种。在1945年以前，旧日本帝国军衔中大元帅为最高统帅衔，授予日本天皇。当时的《大日本帝国宪法》规定，天皇为陆海军之统帅，全权定陆海军之编制及常备兵额。 日本在二战期间实行征兵制。 二战时，日军军衔分为将，佐，尉，准士官，下士官和兵“六等十六级”。按军衔从高到低，依次为：大将，中将，少将，大佐，中佐，少佐，大尉，中尉，少尉，准士官（准尉）,曹长（上士）,军曹（中士）,伍长（下士），兵长，上等兵，一等兵，二等兵。