从建炎元年冬到二年春(1128年末到1128年初)的时间里，金国分兵三路全军出动。此时前东路军统帅完颜宗望已经病死，东路由“三太子”完颜宗辅和元帅左监军完颜昌统领，“四太子”完颜宗弼率兵向开封东面进逼;西路由完颜娄室和完颜杲(撒离喝)率领，攻打陕西;中路由左副元帅完颜宗翰和元帅右监军完颜希尹指挥，作为主攻部队取西京河南府，又占领郑州，在开封西面和宗泽所率的东京留守司军对阵，完颜宗翰又命部将完颜银术可与完颜拔离速、赛里、萨谋鲁、耶律马五、沙古质等分兵继续南下，企图从南面包抄。

建炎二年四月(1128年5月)以后，天气开始炎热，金军撤退，宗泽准备北伐。王彦的八字军奉宗泽之命移屯滑州。五马山的首领马扩，也携带信王赵榛的信前来东京留守司。宗泽和王彦、马扩等人共同制订了北伐的计划，但很不幸的是，宗泽于建炎二年七月初(1128年8月)病逝，其副手杜充接任东京留守。

岳飞按照宗泽生前的部署，率领毕进等部将，随同宗泽助手主管侍卫步军司公事闾勍，于建炎二年七月十五日进驻西京河南府，负责保护那里的北宋皇陵。八月(1128年9月)，闾勍命岳飞再去汜水关御敌。岳飞又大胜来犯金军，以功转“从七品武功郎”，升至诸司副使的最高一阶。建炎二年岁末，岳飞奉东京留守司的命令离开闾勍返回开封。

建炎三年(1129年)，金将兀术率金军再次南侵，杜充率军弃开封南逃，岳飞无奈随之南下。是年秋，兀术继续南侵，改任建康(今江苏南京)留守的杜充不战而降。金军得以渡过长江天险，很快攻下临安、越州(今绍兴)、明洲等地，高宗被迫流亡海上。岳飞率孤军坚持敌后作战。先在广德攻击金军后卫，六战六捷。又在金军进攻常州，率部驰援，四战四胜。

绍兴二年(1132年)正月末，岳飞被任命为知州、兼荆湖东路安抚使、都总管，统率军马前往潭州。二月，主战派头号人物李纲被起用为荆湖、广南路宣抚使，岳飞等将领划入李纲部下，讨伐湖东路的盗匪曹成。

当时岳家军的兵力为一万二千余人，岳飞以二千人驻守吉州(今江西吉安市)，以其余的一万多人进攻曹成的部队。绍兴四年(1134年)，为击败伪齐军和杨幺军的合兵计划，岳飞决定先打李成、后打杨幺，“先襄汉，襄汉既复，李成丧师而逃，杨幺失援矣。第申严下流之兵以备之，然后鼓行。”

朝廷里，宰相朱胜非支持这一作法：“襄阳上流，襟带吴、蜀。我若得之，则进可以蹙贼，退可以保境。今陷于寇，所当先取。”刚从江南西路调任政府参知政事的赵鼎也支持岳飞：“知上流利害，无如飞者。”而惟独签书枢密院事徐俯却反对委派岳飞出兵，戍守淮南西路的刘光世也要求代替岳飞“措置荆襄”。

岳飞战斗中岳家军尽占优势，但曹成部下悍将杨再兴骁勇异常，先是攻入岳家军第五正将韩顺夫的营地，将韩砍折一臂而死，后又杀死了岳飞的胞弟岳飜。但杨再兴最终被岳家军俘虏，被岳飞收服而成为日后岳家军的著名悍将之一。