男孩周青为躲避父亲为他剃头而逃至街上，因无处过夜便和另一男孩小莫结伴步行去了向往已久的长城。在荒郊野外的一片废墟中停歇时，周青捡到了一本小人书《钢铁是怎样炼成的》。凌晨时分，大地突然晃动了起来，北京发生了地震。周青所在的学校在操场上盖起了无数的简易抗震棚，周青和一个比他大的高个子纪文成了邻居，纪文有一把周青十分羡慕的吉他。后来周青在偷纪文的吉他时认识了纪文的女友，高年级女生付绍英，并暗暗地迷恋着她。周青反复看着那本捡来的发黄的小人书。好斗的纪文因打架，断了手指被警察抓走，付便把纪文的吉他和一条染着血迹的链子交给了周青。周青就此学会了弹吉他，也惹恼了父亲。地震后不久，"四人帮"倒台，北京街头悄然出现了流行音乐。已经进了工厂的纪文组织了一个电声乐队，周青和小莫都参加了。他们给工厂的舞会伴奏，周青为能重新见到令他心跳不止的付绍英而激动不已。乐队最终被迫解散了，周青不得已答应了父亲的要求，做了火车货运站上的一名锅炉工。突然开始的强化劳动使他体会了人生的另一番滋味。在货运站周青认识了火车司机朱赫莱，并很快和他交上了朋友，并从他那里看到了小说《钢铁是怎样炼成的》。
朱赫莱给周青讲了许多他所经历的那个时代的故事，周青被他和他同时代的人高昂的激情和精神力量所震慑，而小说中主人公保尔的精神也深深地感染着他。在以后日子里他开始疯狂运煤、干活，兴奋得不可收拾。
一次他推着满满一车煤和进站的火车赛跑时被车撞倒，碾碎了骨头，朱赫莱将自己的骨头植入了周青的腿中。周青伤愈后，回到货运站，但朱赫莱已经离开这里到南方上大学去了，从此周青与他失去联系。因为吉他音乐，周青去了德国。这期间周青一直在寻找着朱赫莱，奇怪的是朱赫莱无踪无影，却又无处不在。一天，他惊喜地看到了朱赫莱的女友，但到她家发现屋里的男人并不是朱赫莱。
在他最迷惑的时候，意外地在家里一张旧报纸上发现了朱赫莱惊人的消息。朱赫莱的女友只好交给他一张写有电话号码的字条。周青拨通了电话，并和对方见了面。她是一个演员，两年前三个歹徒对她抢劫并施暴，朱赫莱正巧路过，与歹徒进行搏斗，被害瞎了双眼，他老婆也离开了他，此后就销声匿迹了。周青从女演员那里得知其中一个在逃的凶手被朱赫莱咬掉了一只耳朵。周青马上想到和小莫一起喝酒的饭馆的缺耳老板。当晚他站在饭馆门口看着老板，声泪俱下。乐队里几个吸毒的成员都被抓走了，小莫也在其中，在纪文操纵下成了替罪羊，纪文认为是周青告的密，找人狠狠揍了他一顿。精神陷入混乱的周青冲进饭馆，找到缺耳老板，采取了极端的行动……不久，周青在书摊上看到了一本新书《钢铁是这样炼成的》，里面的作者像竟是朱赫莱。周青很快找到朱赫莱的地址并通知身在兰州的女孩。二人约定在有朱赫莱的地方汇合……