大与上的日语发音很相近，容易让人听错，所以日方军衔制度没有采用上将、上佐、上尉之类的军衔。元帅是日军最高的指挥官，军衔最高，在此之下还分有将军、佐官、尉官，此每个军衔又分出大中小三个等级，被列为佐系列的军衔，其等级都很高，那么在佐字前加个大，就表示更高的军衔。 对比一下，日军大佐等于美国上校、中国团长，但大佐除了拥有该职位的全部权力外，还可以身兼副职，负责参谋工作，提出的军事建议均占有很大分量，故此能当上大佐的日本军人，无论权力、地位和说话权都高于少将，而少将在大佐面前就是下属，平时碰面需要行军礼，在任务中，需要配合大佐的工作，有时还需要服从对方的命令。 其实在二战期间，日本军方主要推行的九等军制度，当中的大佐军衔高过上校。自日本投降后，该军衔制度随军队解散而取消。1954年，日本在全世界各国的压力和牵制中，自行组建海陆空三支自卫队，其表示只用于维护日本的治安和自卫，规模上均不具备对外扩张的能力，故此日本军方这时的军衔发生了巨变，主要分为干部和曹士两类，下分帅、将、校、尉军阶，而大佐军衔未能继续沿袭下去。