《水浒传》中好汉故事的第二个来源，是南宋初年北方抗金义军的事迹。
　　北宋末靖康年间，金兵大举南侵，北宋军队一触即溃，有大批大批的散兵游勇流散北方各地。他们在北宋政权覆亡后，自发组织成一支支武装，遥领南宋政权节制，在北方各地进行抗金活动。这些武装，被统称为“忠义军”。由于这些忠义军并不是正规的官方武装，缺少正常的补给，难免依赖于劫掠，且流动不定，因此他们的行事又难免带有强烈的强人色彩。
　　但是无论怎样，这些有担当、有血性的强人是在异族铁蹄蹂躏下的北方大地为民族奋勇而战，所以，在他们的抗金活动因南宋岳飞被害、秦桧主政而渐渐沉寂之后，他们的英勇事迹，仍然被民众历久追怀、讴歌。
　　渐渐地，北方忠义军的传奇故事与历史中的宋江传说融合了。
　　在后来形成的《水浒传》里，仍然可以看到抗金情怀的遗留。
　　如扈家庄在被李逵杀进后逃走的扈三娘的哥哥扈成，书中交代他后来在中兴时做了个军官武将，这里说的“中兴”，当是指北宋灭亡后赵构称帝初建南宋王朝时期，查一下《三朝北盟会编》《建炎以来系年要录》就会发现，在南宋高宗时还真有个将军叫扈成，曾经抗击金人入侵。
　　又如呼延灼，《水浒传》结尾说他的最终结局是“领大军破大金兀术四太子，出军杀至淮西阵亡”，于是后来的《说岳全传》，也说呼延灼以八十高龄与金兀术力战而死，但实际上，历史中并没有呼延灼这号人物。
　　但是梁山好汉中的大刀关胜却是如假包换的历史人物。他本是南宋初刘豫的部将，驻守济南，屡屡与金军作战。后来，刘豫降金前将他杀害。
　　此外，《水浒传》中还说美髯公朱仝“后随刘光世破了大金，直做到太平军节度使”，还有一个方腊手下的金节，投降了宋江，“后来金节跟随刘光世大破金兀术四太子，多立功劳”。几次提到抗金。
　　当然最明显的证据莫过于曾头市。曾头市武装曾射死晁盖，是梁山的头号劲敌，书中说曾头市的曾长者“原是大金国人”。这在情理上是绝对说不通的，在北宋末年，怎么会在宋国境内出现大金国的强大武装势力？何况当时北方的金国和宋国之间还隔着一个大辽呢。但事实上说不通的事，感情上却能讲得过去，因为这都是敌视金国的民族情绪在作品中残留的遗迹。
　　除了曾头市，《水浒》中水泊梁山还有个主要的敌对势力就是大名府，而历史中大名府曾是刘豫的伪齐政权的都城。《水浒传》还说大名府梁中书手下有员大将天王李成，使双刀，有万夫不当之勇，而历史中刘豫手下也有员悍将李成，自号“李天王”，也使双刀，《金史》卷七十九《李成传》说他“勇力绝伦，能挽弓三百斤”，屡屡与岳飞做战。这些恐怕不能全说成是巧合吧？
　　另外，《水浒传》里的梁山好汉中有为数不少出身于军官，且籍贯遍及今十五个省市，包括四川、湖南、江西、海南等省份，这绝不可能是历史中淮南盗宋江队伍的情形，但如果把这解释成当年北宋官军溃散后重新组成的各忠义军头领的面貌，则至少是说得通的。
　　证据还可以找到一些，但不在这里一一列出了。列位看官如有兴趣，可参看孙述宇先生《水浒传的来历、心态与艺术》一书，此书对这点论说得十分详尽。