1950年初，地处大西南的锦江市已经解放，周边郊县却仍有许多国民党遗留下来的土匪武装，其中势力最大的匪首叫马登陆。锦江市公安局局长周克明对这些来去无踪的游匪一直十分头痛。肖万是个土生土长的锦江人，父母双亡的他靠每天赶溜溜场卖叮叮糖度日。肖万性格诙谐幽默，既爱吹牛皮说大话，又胆小怕事;既有小市民的市侩狡猾、自私，在大事大非面前又不失良善本性，他不知道自己即将被卷入到一场剿匪事件中。
一天，肖万在卖叮叮糖的时候赶上土匪出来抢劫，便慌忙躲进青梅竹马的江丽珍家，江丽珍不愿收留肖万，两人争执间，土匪之一、江丽珍的丈夫侯兴发现了肖万，三人扭作一团。土匪头领、国军少校梅虹阻止了这场纷争。肖万受江丽珍的委托，带走了侯兴从其他人家抢来的包裹，半路上被解放军截获。肖万被带到了公安局，周克明从审问中得知肖万的父亲曾经与马登陆有过不一般的兄弟情义，他计上心头：让肖万利用与马登陆的特殊关系打入土匪内部，向解放军提供情报。胆小怕事的肖万本想拒绝，但周克明承诺任务完成之后会将肖家抵押给地主的一幢祖屋收回还与肖万，肖万答应了下来。在牢房里，肖万故意向土匪小头目骆文光暴露他与马登陆的关系，说自己还有个亲戚是共产党的大官。骆文光将情报带回给马登陆，在马登陆的授意下，土匪们绑架了肖万，要求肖万担当共产党内部的眼线、为他们套取情报。马登陆软硬兼施，肖万不得不点头应允下来，就这样，肖万开始了他同时为两边传递情报的生涯。
马登陆指示肖万利用关系，尽快打听出高干出行的情报。肖万信口开河，说某日有解放军的大官要去某地视察。谁知，事实竟然被肖万一字不差的说中了!共军落入土匪的埋伏，伤亡惨重。肖万听说了立刻吓得半死——他并不知道，这场混战中参谋长的死讯只是土匪为了向上级邀功而杜撰出来的。肖万胆战心惊，他借口自己还没结婚生娃，向马登陆表达了解除情报员身份的意愿。马登陆为了稳住这颗棋子，逼迫梅虹嫁给了肖万。
梅虹对肖万一万个不待见，为了赢得美人心，肖万只好学习起向绅士进化的礼节，可梅虹还是不愿与他亲近。不光是这些，肖万很快就发现梅虹还带了一台微型收发报机，她建立起秘密电台，不时抄收台湾来的电报。肖万又陷入恐慌中。在江丽珍的劝说下，想到自己有名无实的夫妻生活，肖万产生了动摇，他准备向周克明自首(而他并不知道，周克明早就查清了梅虹的底细)。而每当肖万萌生告发梅虹的念头，梅虹就会太阳打西边出来地关爱肖万，甚至还与他圆了房;一见老婆的好，肖万又退缩了。在这样的反复中，肖万和梅虹对彼此的感情逐渐加深起来，梅虹怀孕了。
肖万想只要马登陆死了，自己和梅虹的事情就可以成为一个永远的秘密。他和周克明上演了一出戏，欲以此钓出马登陆，进而将土匪一举歼灭。果然，马登陆上钩了，但狡猾的马登陆关键时刻让肖万伪装成自己，在解放军包围下还是逃跑了。
肖万感受到了新政权的好，希望自己能做个善良的小老百姓。不久，梅虹接到密信，有孕在身的她被派往南边接受新的任务。走后许久，梅虹忽然来信说自己产下一子，而此后便再也没来消息了。肖万担心老婆孩子，急切的想要帮助政府消灭马登陆，结果不仅没有立功，反而搭上了侯兴的一条命。肖万对江丽珍内疚不已，于是他和江丽珍越走越近，结果有一天梅虹忽然从天而降回来了!肖万尴尬地陷入了两个女人之间。
肖叮叮的剿匪记剧照
肖万在周克明的帮助下将梅虹安排进了街道居委会，让梅虹帮助宣传新思想。渐渐地，梅虹的思想开始发生转变。在一次宣传土改的活动中，梅虹所在的宣传小队遭遇了土匪的袭击，袭击中，梅虹被一位解放军政委保护，而政委自己却被土匪残忍地杀害!这件事之后梅虹更加坚定了自己弃国从共的决心。
马登陆准备炸电厂，企图让整个锦江市血流成河!肖万和梅虹无法直视全城的百姓无辜惨死，却也不能不顾忌二人自首之后自己的命运，何况还有被国民党扣在手中的梅虹父母和儿子。好在周克明及时解除他们的后顾之忧：老人小孩早已被共产党安全保护了起来，只要他们协助政府、保护好全城百姓的生命，政府便不会再追究两人的过去。这一次，马登陆没能再逃脱掉，所有潜伏特务被一并歼灭，我方部队无一伤亡、大获全胜!肖万当上了真正的人民警察，他与梅虹、小叮叮从此过上了幸福平静的美好生活。
