学院前身是新四军游击支队随营学校，1938年11月26日创建于河南省杞县傅集，新四军游击支队司令员兼政治委员彭雪枫将军兼任校长。在残酷的战争环境中，学校艰难办学，仗打到哪里，学就办到哪里，为新四军游击支队发展和壮大输送了许多优秀人才。
随着形势发展和抗战需要，1940年3月18日,随营学校扩建为抗日军政大学第四分校， 彭雪枫继续兼任校长。学校坚持边教学边作战，积极培训适应抗战需要的人才，办学水平不断提高，培训规模达到千人，是新四军成立最早、历时最长的一所学校。1944年9月11日，彭雪枫在战斗中不幸牺牲。为了纪念他，1945年3月24日，将抗日军政大学第四分校命名为雪枫军政大学，由新四军第四师师长张爱萍兼任校长；1946年4月，雪枫军政大学、苏中公学和华中野战军随营干部学校合并组成华中雪枫大学，由粟裕兼任校长。
抗战胜利后，为推翻国民党反动派的统治，完成解放战争的伟大任务，1946年11月25日，由华中雪枫大学、山东军区军政学校、东江纵队以及淮南随营学校和山东军区通信学校等5个单位统一改编为华东军事政治大学，并在山东省莒南县大店举行了学校成立大会暨第一期开学典礼，中央军委任命华东军区副司令张云逸兼任校长，余立金、曾生任副校长。华东军事政治大学的诞生，翻开了学院发展历史上新的一页。她汇聚了从珠江、长江到黄河广大地区的教育资源，形成了一支强大的教学力量，在短短的3年时间内，先后培养输送了2万多名师以下各级军政干部，为解放战争的胜利提供了宝贵的人才支持。
