1943年秋季，日本帝国主义在山东省胶东地区集结了五千多的日伪军，对我牙山根据地展开了疯狂的扫荡。为打击敌人、摧毁其军火供应，八路军刘连长和项指导员接到命令，率领一个连队向齐阳县挺进。他们的目标是消灭城内的敌人，炸毁军火库，迫使敌人撤出扫荡部队。齐阳作为临时军火基地，储存着从烟台运来的大量弹药，这些弹药要转送到牙山前线。为了解敌情，刘连长、张排长和小马三人乔装打扮，在地下党员郭正年的护送下进入城内。在宋大爷和周锁林的帮助下，他们深入敌人警备区，掌握了敌人的弹药储备和运输细节。然而，小马在行动中不慎被敌侦缉队发现，刘连长果断除掉了两个特务，导致城内一片混乱。在混乱中，刘连长和张排长救出了小马，他们利用机会抓住了王翻译，并在酒馆里换装离开。
得知八路军进城，齐阳守备队长小野命令黄队长和刁德胜加强戒备，尤其是军火库。由于小野临时改变运输计划，刘连长的伏击计划受挫。为了了解小野的新计划并炸毁军火库，他们决定再次进城。这次，他们利用从王翻译那里获得的特务名单，迫使王翻译提供小野的行动计划。然而，刁德胜接到情报，刘连长在王翻译家，他迅速赶来，却发现刘连长已经离开。与此同时，张排长和宋大爷成功炸毁了军火库，打击了小野的士气。小野在得知军火库被炸后，接到秋山旅团长的命令，企图出城偷袭。王翻译及时向我军报告了这一消息，但小野发现后，改变计划，撤换守军并切断我军进城道路。
在关键时刻，刘连长等人利用刁德胜与烟台军火商的关系，化装成军火商人第三次进入齐阳，胁迫刁德胜带部分队伍进城。刘连长和项指导员内外夹攻，小野在秋山旅团的援助下仍未能抵挡，最终被我军主力部队包围并全歼。这样，我军在反扫荡中取得了决定性的胜利。
《三进山城》由长春电影制片厂1965年出品，导演张凤翔执导，赛时礼编剧，梁音、张继强、王建华、石天等人主演。该剧是一部抗日题材的黑白电影，描述了八路军某部连长带领战士们三进山城，打击敌人的故事，刻画了足智多谋骁勇善战的八路军指战员的形像。
