参加过日俄战争。历任教官、骑兵团长、参谋、参谋本部通信课长、骑兵学校教育部长、骑兵旅长、通信学校校长、参谋本部第3部和总务部长、陆军士官学校校长等职。1937年2月起先后任第12师师长、第3集团军和华中派遣军司令，参加全面侵华战争。1939年10月任陆军教育总监。次年晋上将。1941年7～12月兼任民防总司令。1944年7月起任关东军总司令，主持制定《满洲方面对苏作战要领》，企图负隅顽抗。1945年8月关东军被粉碎后，作为战犯被苏军关押在西伯利亚。1956年获释回国。
军政生涯
长野县人，陆军经理官市川确第三子 山田贵之养子。从小接受到武士道精神的教育和熏陶。曾就读于东京成城学校。1902年11月22日毕业于陆军士官学校第14期骑兵科(702人中第125名)，翌年6月26日授予骑兵少尉军衔，任骑兵第3联队附。参加日俄战争。转战大连、沈阳等地。陆士教官。1912年11月25日毕业于陆军大学校第24期(54人中第25名)。骑兵第3联队中队长，参谋本部部员，陆军骑兵学校教官，骑兵监部员，法属印度支那出差，骑兵第26联队长，朝鲜军参谋，参谋本部通信课长，1930年8月1日晋升陆军少将。陆军骑兵学校教育部长，骑兵第4旅团长(九一八事变)，陆军通信学校长，参谋本部第三部长，参谋本部总务部长，1934年，晋升为中将。1935年10月，调任陆军士官学校校长。1937 年日本发动全面侵华战争后，作为侵略军的指挥官再次来到中国，历任关东军第十二师团师团长、第3军司令官，在任期间，
他多次指挥日伪军和警察、宪兵、特务，疯狂镇压中国东北的抗日武装力量，大肆搜捕和屠杀革命干部和群众。1938年12月，他因镇压我国东北人民抗日武装力量"有功"，接替畑俊六任中支那派遣军司令官，在任内没有任何表现。1939年调回国担任教育总监，1940年4月29日授予勋一等旭日大绶章，8月1日晋升陆军大将。教育总监兼军事参议官兼防卫总司令官，这当教育总监长达五年。他是日本陆军历代教育总监中在任时间最长的。之所以能占据这一职位如此之久主要是由于他对东条英机的俯首帖耳。东条虽是他的后辈，但在关东军时却是他上级。东条英机从关东军发迹当上陆军次官、陆军大臣直到最后组阁当首相。山田乙三因为甘做东条的傀儡也一直在教育总监这个位子上没动窝。太平洋战争的这几年里掌握陆军大权的"三长官"就一直是东条英机、杉山元和山田乙三。直到1944年7月东条下了台，山田才被复出的杉山元帅所取代。被打发去了满洲接替已就任参谋总长的梅津美治郎担任关东军总司令。
关东军司令
事迹
1944年7月18日就任第15任关东军总司令官兼驻满大使。但是此时的关东军已经是一支纸老虎了，与1943年比兵力已经减少了二分之一。日本陆军省制订的《驻满洲兵备大纲》要求关东军"通过增加战略单位及兵员，在外观上保持强大军备威荣，以尽量防止苏联参加对日战争"。1945年6月山田与参谋总长梅津大将和支那派遣军总司令官冈村大将在大连会谈，他很明确地表示"关东军只能打一次会战，一次之后恐怕就不行了。" 他上任后，根据大本营的指示，加紧对苏备战，主持制定了《 满洲方面对苏作战要领 》，命令各地日军，严厉执行《劳动强制法》，强征和抓捕劳工抢修地下防御工程。由于天寒地冻，缺吃少穿，超时劳动，致使大批劳工丧生。为弥补兵力和武器装备的不足，他竟违反国际法，把希望寄托在细菌武器的研制和生产上。为此，山田专门召开高级军官会议，讨论细菌武器的生产和使用问题;亲到731细菌部队视察，并将因贪污受贿而被解职的细菌战老手石井四郎委以重任;敦促加紧细菌繁殖和细菌武器的生产。在对苏备战和"支援圣战"的旗号下，更加残酷地奴役和掠夺东北人民。对凡被认为有"犯罪"可能的群众，均依据《保安矫正法》和《思想矫正法》加以"拘禁"。宣布大米是军需品，禁止中国人食用，否则以"经济犯"治罪。一年中，仅此一项被治罪者即达31万多人。
战事
1945年8月9日凌晨苏联红军分三个方向向满洲发起攻击，关东军很快被分割包围。苏军进攻开始时山田并不在关东军司令部，而是在前一天去了旅顺参加关东神宫的奠基仪式。9日下午他才赶回长春。他下令将伪满政府包括溥仪等人迁往临江，关东军司令部则迁往通化。8月15日中午日本天皇发表了关于停战的广播，但大本营却没有任何命令和指示发给关东军。8月16日夜，关东军召开幕僚会议。杀气腾腾的青年参谋们紧握着军刀要求坚决抵抗苏军，宁可玉碎也不投降。等大家都说完了，参谋长秦彦三郎说:"我们军人除了服从陛下的命令外，没有其他的忠节之道。主张抵抗到底的人，请把我的脑袋砍掉，然后再去!"大家沉默了，年轻的参谋们发出了哭声。接着山田乙三说:"我充分理解诸位的心情。但既然圣断已经下达，军队只能尊奉圣职。照参谋长的意见办，服从圣断!"
被俘
8月19日关东军参谋长秦彦三郎从哈尔滨飞往贾力科沃会见亚历山大·米哈伊洛维奇·华西列夫斯基元帅商谈投降事宜。但这个会谈的具体情况到现在还是一个谜。之后苏联将俘虏的六十万关东军押往西伯利亚服苦役整整十一年。苏联为什么要干这种公然违反关于遣返战俘的国际公约的事也是众说纷纭。9月6日关东军末任司令官山田乙三和其他高级军官一起被送往伯力关押。
审判
罪行
在西伯利亚，原来为大将、总司令官的山田乙三和曾经是自己手下的日本兵干着一样的重体力劳动，吃着一样的黑面包和菜汤。也许是西伯利亚的苦寒和体力劳动的繁重压垮了日本人。几乎所有的关东军军官对苏联军方的审问都是竹筒倒豆子，将自己知道的一切全都告诉了苏联人。1949年12月苏联滨海军区军事法庭对以山田乙三为首的十二名日本战犯进行了细菌战军事审判。起诉其犯有以下罪行:1.建立特种部队来准备和进行细菌战。2.在活人身上进行罪恶实验。3.在对华战争中使用细菌武器。4.加紧准备对苏的细菌战。5.各被告人个人的罪状。同时指控山田乙三对731部队和100部队这两个细菌战部队负有领导责任。法庭由少将法官契尔特科夫任审判长，斯米尔诺夫任国家公诉人。审判从12月25日至30日历时5天，十二名被告都当庭服罪。山田乙三在最后陈述中说:"我出生在一个军人家庭，从幼年起就是在军队中生长和服务的。我历来受到的都是听从长官命令和谨守军人职责的教育······我承认我自己在加强细菌战战斗准备方面所应付的责任······这些罪恶行为是根本无法辩白的······我了解我应负罪过责任的全部深重性。我了解我所犯罪恶的全部深重性，所以我并不去思想到法庭将来对我这种罪过判决的刑罚轻重如何的问题。"山田乙三和其他被告及证人在法庭上的态度应该说是十分恭顺的。最后法庭判处山田乙三"禁闭在劳动感化营内，期限25年。"
判刑
1949年12月进行的这场伯力审判是在远东国际军事法庭闭庭一年之后进行的，相对来说较为鲜为人知。出席审判的证人都是原日本军官和731部队的成员，虽然法庭也指控了这些日本战犯在侵略中国华中和华东时的细菌战罪行。但却没有一个中国证人出庭作证。法庭主要追究的还是他们对苏联的战争罪行。苏联将六十万关东军战俘和日本战犯都当作自己的战利品，进行处置时大多忽略了他们在中国的罪行。1950年莫斯科外国文书籍出版局以中、俄、英等文字出版了《前日本陆军军人因准备和使用细菌武器被控案审判材料》，这部书具有很高的原始资料价值。但在国内知道的人不多，直到五十多年后国内才有出版社将这部书从新排印出版。
释放
1950年7月山田乙三被转送中国，作为乙级战犯的他和一千多名日本战犯一起被关押在抚顺战犯管理所。在中国的生活条件可说比在苏联时好的多了。山田乙三对自己在中国犯下的战争罪行忏悔道:"我了解我所犯罪恶的深重性。"，并表示愿意接受中国政府对他的改造。由于山田认罪态度和在监狱表现好，1956年75岁的山田乙三被减刑释放，乘坐日本红十字会包租的"兴安丸"客轮回国。1965年7月18日去世。曾获二级金鵄勋章。女婿陆军中佐山崎重三郎(陆士43期，陆大50期)，陆军少佐今井义郎(陆士48期，陆大58期)。
