故事发生在90年代的台湾，电视台女主持丁玉梅（杨林饰）因为节目收视率不佳而面临被炒鱿鱼的危机，所以她请香港朋友程凌（岑建勋饰）帮忙，计划做一期象棋神童的节目挽回收视率。这时，他们遇到了一个名叫王圣方的孩子，他具有预测未来的特异功能，这让众人看到了希望……在寻找小棋王的过程中，程凌时常被自己的回忆打断——在文革时期，他跟随表哥倪斌（金士杰饰）参加轰轰烈烈的知识青年上山下乡运动。在列车上，他们结识了痴迷下棋的王一生（梁家辉饰）和学美术出身的阿城（严浩饰），此后他们在农场遇到了一系列的麻烦，后来王一生因为一次疏忽而锒铛入狱，幸亏倪斌用“传家宝”——一副元代象棋用来送礼疏通，才帮他度过难关。后来王一生在众人帮助下，参加了一场特殊的棋王大战，结果出人意料……本片根据著名作家阿城的同名小说改编。
