山东八路军在罗荣桓等人的领导下，夜以继日地奋战，所属部队边动员、边行军、边扩大、边编组，冒着酷暑，昼夜兼程，很快就席卷了解放区内的敌占中小城市，并开始向大城市及交通要道疾进。

鲁中部队为第一路，在前线指挥王建安、政委罗舜初的率领下，连克临朐、博山、益都、莱芜、淄川、章邱、周村和新泰，切断胶济路西段，并从东南方向进逼济南。

滨海部队为第二路，在前线指挥陈士榘、政委唐亮率领下，攻克胶县，切断胶济路东段；南占莒县、日照、赣榆、青口，切断陇海路东段，逼近海州和连云港。

胶东部队为第三路，在前线指挥许世友、政委林浩率领下，解放威海卫、牟平、烟台、福山、篷莱、黄县、龙口、招远、莱阳、石岛、即墨，并突破了敌人之崂山防线，攻占了流亭机场，逼近青岛。

渤海部队为第四路，在前线指挥杨国夫、政委景晓村率领下，解放了昌邑、寿光、临淄、广饶、博兴、高苑、桓台、长山、阳信、临邑、邹平、宁津、吴桥、辛店，切断了胶济路中段，与第一路大军会合，从东北方向逼近济南。

鲁南部队为第五路，由前线指挥张光中、政委王麓水率领，切断了津浦路，解放了泗水、曲阜、台儿庄及官庄火车站，兵临兖州和徐州。

在以上这些攻势中，唯有临沂战役打得时间最长，也最为激烈，罗荣桓为这次作战倾注了大量的心血。

8月15日，日本正式宣布投降，东京电台播放了裕仁天皇的&ldo;停战诏书&rdo;。

第二天，驻守在临沂的日军就逃往枣庄，临沂只剩下伪保安大队长许兰生的部队，伪费县保安大队邵子厚部也集中到临沂城里。

他们又与盘踞在临沂以北、汪沟西南坚固筑垒地区的王洪九部互相策应。

这三股伪军加起来共4000余人，企图依靠坚固的工事和日军逃走时留下的大批武器弹药和粮食，固守顽抗。

山东军区决定组织滨海第4团、山东军区特务团、鲁中第11团和临沭独立团攻城。

由于各团属于不同的部队，罗荣桓就派军区参谋处长李作鹏去临沂前线指挥。

8月20日和22日，八路军发动了多次攻击，皆因准备不足、配合不好和敌人的工事坚固而未能成功，攻城部队的伤亡不小。

当时罗荣桓率军区机关正在大店，对进攻临沂的情况不了解，几次想去前线，由于身体不好，加上别的人一再阻拦，没有去成。

8月26日，李作鹏从临沂回到大店，汇报了前线的情况。

罗荣桓听完汇报后强调，临沂是滨海、鲁中、鲁南三区的联结点，必须拔掉这颗钉子。

然后，他批评了李作鹏的轻敌思想。

接着，李作鹏报告了下一步作战方案，即一面在阵地前沿对敌展开政治攻势，一面在城西北角实行秘密的坑道作业，准备把坑道挖到城墙下进行爆破。

罗荣桓同意了这一方案，并派作战科副科长王德、参谋尹健一起去临沂。

李作鹏返回临沂前线后，于8月28日召开了作战会议，总结了前几次攻城失败的教训，确定了作战部署。

经过充分的准备，终于在9月10日炸开了城墙，9月11日上午占领临沂全城，歼灭伪军2000多，活捉汉奸许兰生和邵子厚。

尔后转移兵力围攻城北的王洪九部。

不久，王率残部逃走。

9月20日，山东分局和山东军区的指挥机关进驻临沂。