实际上题主的问题应该是“为什么日军不用‘上将’二字”才对。
旧日本军队的军官军衔基本上是三三制,三等九级。军官分为将、佐、尉三等,每等中再分为大、中、少三级,大将是最大的将官,少佐是最小的佐官。虽然还有一个“准尉”军官,但那在更大的意义上是兵头,不是陆军士官学校或者海军兵学校的毕业生。
中国人民解放军在1955年实行军衔制时是四等13级,军官分元帅、将、校、尉四等,将帅尉每级再分为大、上、中、少四级。1988年恢复军衔制时取消了元帅、大将和大尉军衔,增设一级上将,变为三等11级,但其实一级上将空缺,后干脆取消,成为了现在的三等10级。
解放军在首次实行军衔制期间也有准尉军衔,立法文件虽没有规定,但实际上授了,当时的准尉为副排级,算干部但不算军官,在军队内部称之为“预备军官”。
所以就现在解放军的军衔来看,“上将”相当于二战时日军的“大将”,所以说不是日军没有上将军衔,而是日军没有用“上”这个汉字,用的是“大”字。
另外,看到其他回答中有说日军的元帅是“荣誉军衔”的,这种说法不全对。日本的“元帅”是授予军人的一种荣誉,但并不是军衔。“成为元帅”用日语说是“名列元帅府”,名列元帅府的这些人的军衔还是大将,和其他大将不同的仅仅是不需要退休编入预备役了,在称呼这些人时加上“元帅”这两个汉字,比如杉山元是“元帅陆军大将杉山元阁下”。
顺便说一句,军官级别最多的应该是朝鲜,四四制,四等16级,他们连元帅都还分了四级:大元帅、共和国元帅、元帅和次帅。
谈到日军军衔的时候,要说明一个挺容易混淆的字:士官。日文中的“士官”并不是指上士、中士这些军人,这些军人在日语中是“下士官”。日语中“士官”是“士兵”的反义语,也就是汉语中“军官”的意思,所以才有“陆军士官学校”,这个学校要用中文来表示的话就是“陆军军官学校”,所以俗称“黄埔军校”的那个学校的正式名称是“陆军军官学校”。
那为什么日本海军的学校不叫“海军士官学校”而叫“海军兵学校”呢?这是因为日本陆海军是仇人,陆军士官学校在先,后来到海军也办学校的时候就不愿意用陆军用过的字。“兵学校”的意思并不是“培养士兵的学校”,而是“学习兵学的学校”。所谓“兵学”就是“用兵的学问”,用兵当然是军官的事啊,还是军官学校。但有意思的是其实陆军在除了“陆军士官学校”再也不用这个词,用“将校”来泛指军官,而海军除了学校名不用这个词以外在其他场合则是大量使用“士官”这个词。
现在日本自卫队还是三三制,三等9级,只不过不用“大中少”,干脆用一二三。“三尉”、“二尉”和“一尉”就相当于原来的“少尉”、“中尉”和“大尉”;同理“三佐”、“二佐”和“一佐”就相当于原来的“少佐”、“中佐”和“大佐”;两颗星的“将补”相当于原来的“少将”,三颗星的“将”相当于原来的“中将”,而陆上、海上、航空自卫队的幕僚长再加上统合幕僚长这四人佩戴四颗星,相当于原来的”大将“。