1928年4月7日，蒋介石在徐州誓师北伐。9日，各路北伐军发起全线总攻。第一集团军第一军团总指挥兼第一军军长刘峙，指挥王均的第三军、缪培南的第四军、顾祝同的第九军、杨胜治的第十军和贺耀组的第四十军由徐州北进，担任津浦路正面进攻。曹万顺的第十七军、陈焯的第二十六军、夏斗寅的第二十七军、金汉鼎的第三十一军和陈调元的第三十七军进攻临沂、沂水，直趋胶济线为右翼。第四军团总指挥方振武，率阮玄武的第三十四军、鲍刚的第四十一军、高桂滋的第四十七军和余念慈的独立骑兵师，沿鱼台、金乡进攻济宁为左翼。20日，方部攻占济宁。奉鲁军张宗昌残部退向泰安一带。21日，方部由济宁继续北进。28日晚，方部夺取万德、张夏之线，与津浦路正面的第一军团刘峙部会师。30日，各路军队对济南发起总攻。当天夜晚，张宗昌率残部弃城北逃。