张嘎年龄13岁，绰号嘎子，他配合侦察员执行任务，表现得勇敢机智、活泼淘气。在一次战斗中，他缴获了伪军一支手枪，竟偷偷把枪藏进了乌鸦窝里，没有上缴。为攻打日军岗楼，他奉命进城侦察。当部队攻打岗楼时，他设法在里面放火，里应外合，全歼日军，救出了钟亮，也替奶奶报了仇。
电影主要讲述了抗日战争时期的河北白洋淀，调皮莽撞的少年张嘎目睹奶奶为掩护八路军逃跑被日寇杀害后，只身来到县城要找到游击队排长罗金宝，好让他帮忙为奶奶报仇，哪想真遇见罗金宝时，他将对方当作了汉奸，闹了笑话。误会解除后，张嘎梦想成为一名小八路，并想拥有一把枪，结果因为太想得到枪，他不但在和胖墩打赌时耍赖，还违反纪律将某次战斗中收缴到的真枪偷偷藏在了树上的鸟窝里，再闹笑话。张嘎可没将笑话当笑话看，想不通的他约上胖墩又来到县城，要自个替奶奶报仇。在县城，张嘎遇到鬼子龟田和胖翻译，一番斗智斗勇，两人没从张嘎身上捞得什么好处。一些列事情经历后，张嘎由鲁莽捣蛋的少年成长为真正的八路军小侦察员。