岳飛遭到這次意外打擊後，並未心灰意冷。他懷著報效國家的熱情，又投奔到河北路招撫使張所的麾下。
建炎三年（1129）秋，岳飛隨杜充南撤，駐守建康府。同年冬，金軍渡江南侵，杜充兵敗後降金。岳飛在宋軍四下潰散之際，控制住自己的部隊，收容散兵游勇，自成一軍，轉戰於廣德、常州、建康、泰州等地，靈活機動地打擊金軍。岳飛率領所部克復了建康，後在救援楚州時受挫於淮東。在缺衣少食、處境異常艱難的情況下，岳飛與士卒同甘共苦，並嚴格約束部隊，做到「凍死不拆屋，餓死不擄掠」。經過一年的艱苦努力，岳飛終於按照自己的意志和風範塑造出了一支紀律嚴明，秋毫無犯，擁有數千人馬的抗金勁旅。
從建炎四年秋到紹興四年（1130─1134）春，宋金戰爭的重心移到了州陝地區。南宋朝廷利用這一有利時機，調兵遣將，全力消滅江淮以南的土匪，以儘快穩定內部統治。岳飛在此期間，忠實執行南宋朝廷的命令，馳騁在江西、湖南等地，消滅土匪和叛軍，並從俘虜中收編了大量士兵，使自己的部隊迅速壯大，擁有近三萬將士。岳飛也因此被南宋朝廷先後授予神武副軍都統制、鎮南軍承宣使、江南西路舒蘄州制置使等官職。岳飛的部隊也被南宋朝廷授予「神武後軍」的番號。宋高宗為表彰岳飛的功勞，還親筆寫下「精忠岳飛」四個大字，讓人繡成一面旌旗，賜給岳飛。
紹興四年三月，鑒於劉豫的偽齊軍隊攻陷襄陽和郢州（治今湖北鍾祥）後，南宋的長江中游防線出現了缺口，岳飛上書請戰，南宋朝廷於是派岳飛出師。五月，岳飛指揮部隊一舉攻克郢州後。七月，岳飛揮師北進，王貴、張憲等統兵在鄧州（治今河南鄧縣）一線又擊敗數萬金齊聯軍，乘勝攻克鄧州。接著，岳飛又派兵攻克了唐州（治今河南唐河）和信陽軍（治今河南信陽）。
收復襄陽六郡，是岳飛所部的第一次北伐，也是宋軍的第一次北伐。儘管從軍事的角度看，它僅屬於局部反攻，但它在政治上卻開始改變著南宋朝廷軟弱的形象，昭示著宋金戰爭形勢的變化，極大地鼓舞了南宋軍民的抗金鬥志。同年八月，宋廷為獎勵岳飛戰功，擢陞年僅三十二歲的岳飛為清遠軍節度使。同時，宋廷將隨、郢、唐、鄧、信陽劃為襄陽府路，隸屬岳飛管轄；任命岳飛為湖北路荊、襄、潭州制置使。
紹興五年（1135）春，岳飛因救援淮西有功，赴臨安入覲宋高宗，被加封為鎮寧、崇信兩鎮節度使。同年夏季，岳飛奉命率軍南下鎮壓洞庭湖地區楊幺軍。岳飛憑藉軍事優勢，使用圍困、誘降、強攻等手段，將這場持續了六年之久的大規模民變平定。岳飛收編了楊幺軍的精壯戰士，並獲得了朝廷撥給的另外幾支部隊的人馬，兵力由三萬猛增至十萬，成為南宋各支屯駐大軍中兵力最多的主力部隊。
紹興六年（1136）春，宋軍舉行了較大規模的北伐。岳飛於七、八月間採用聲東擊西的戰術，先派遣統制牛皋等人率領偏師攻擊偽齊的鎮汝軍（今河南魯山）、潁昌府（治今河南許昌）、蔡州（治今河南汝陽）等地，自己則親率主力「掃蕩」陝西南部和河南西部的敵佔區。在基本完成作戰計劃後，岳飛率軍撤回了鄂州。十月末至十一月，金齊聯軍在進攻兩淮受挫後，重新集結兵力，又向岳飛的防區發動了數路進攻。岳飛指揮部隊分頭迎戰，逐一挫敗了敵軍的進攻後，又率領二萬人馬反攻蔡州。鑒於偽齊方面已經在蔡州一帶重兵設防，岳飛於是下令撤退。偽齊大將李成率軍追擊，岳飛命令統制王貴、董先率部輪流殿後，掩護大軍撤退，並部署反擊，突然麾軍殺了偽齊軍隊一個「回馬槍」，生俘偽齊將領幾十人、士兵數千人。
紹興八年（1138）十二月，宋金達成第一次紹興和約，結束了宋金第一次戰爭。岳飛堅決反對對金議和，屢次向宋高宗上奏和面陳，抨擊秦檜的投降政策，指出：「金人不可信，和好不可恃」；「今日之事，可危而不可安，可憂而不可賀」。這引起了秦檜的切齒仇恨，也引起了宋高宗的極大不滿。
紹興十年（1140），由於金朝主和大臣撻懶逝世，主戰的完顏宗弼（兀朮）重掌朝政，挑起宋金第二次戰爭。岳飛一接到宋高宗下達的北伐命令，便立即派遣部將王貴、張憲等分兵數路，克復了北至鄭州、洛陽的廣大地域；又派梁興渡過黃河，聯絡河北豪傑，策應宋軍行動。
面對岳飛的北伐，完顏宗弼急忙召集部將商議對策，認為岳家軍諸將尚可對付，唯有岳飛不可擋，遂議定孤注一擲，合兵與之一戰，便將各路共一萬五千精銳金朝騎兵集結到開封，向駐紮在郾城（今河南郾城）的岳飛大本營發動進攻。
面對金朝的挑釁，岳飛完全不以為然，依舊每日出城挑戰，於金營前罵陣。完顏宗弼大怒，遂於紹興十年七月八日，在郾城展開大戰。岳飛先令其子岳雲領輕騎兵直衝敵陣，並告誡說：「不勝，先斬汝！」岳雲即率軍闖入金軍陣中，往來衝殺，金軍死屍遍野。完顏宗弼令其精銳的重甲騎兵「鐵浮圖」作正面攻擊，另以騎兵為左右翼，側面進攻，號稱「拐子馬」。岳飛則遣背嵬親軍（直屬衛隊）與游奕軍馬軍迎戰金軍，又派步兵手持麻扎刀、大斧等兵器，衝入金騎兵軍中，上砍敵兵，下砍馬足。金軍戰馬紛紛倒地，岳飛指揮餘部掩殺墮馬金兵，勇將楊再興單騎突入敵陣，欲生擒完顏宗弼，斬殺金兵數百人。完顏宗弼見「鐵浮圖」如此慘敗，隨即令金軍增援。岳飛見金援軍至，率軍掩殺，擊敗之。宋金兩軍由下午直激戰至天黑，金軍大敗。
兩日後，宗顏宗弼再率兵進攻偃城，岳飛率軍挫敗金軍，追殺二十餘里。完顏宗弼見金軍一再戰敗，遂調集十二萬重兵，屯駐於臨潁，又一次進攻偃城。十三日，岳飛部將楊再興巡邏時與金軍相遇，楊再興率三百騎兵衝入敵陣，殺死二千餘金兵，可是最終因兵力懸殊，被金兵圍困，最後力盡而亡。張憲聞訊，率赴臨潁，與金兵交戰，大敗金兵，將金兵逐出臨潁縣界三十里。岳飛料知金軍攻偃城屢敗，必將轉攻潁昌府，隨即令岳雲率軍援助潁昌守將王貴。十四日晨，完顏宗弼果然親自率三萬騎兵，直赴潁昌城下。駐守潁昌的岳家軍與金兵交戰，直至午後，尤未分勝負。岳雲率援軍至，與金兵轉戰於城西，。岳雲指揮八百騎兵與金兵決戰，又派步兵從左右翼掩掩，終於再敗金軍主力，陣斬完顏宗弼女婿、金將夏吾、副都統粘罕孛菫等大將，完顏宗弼率殘部逃走。自偃城一戰，岳家軍名振天下，金兵聞風喪膽，有「撼山易，撼岳家軍難」之語。
七月十八日、岳飛指揮宋軍在距離開封四十五里的朱仙鎮再次擊敗金軍，兵鋒直指開封。就在這時，急於與金議和、以便收歸大將兵權、加強中央集權的宋高宗卻嚴令岳飛班師。岳飛在一天之內便收到了十二道用「金字牌」（刻有金字的朱漆木牌。它是宋代特快驛傳的標誌。這種驛傳，一天可行四百到五百里）遞發的班師詔令。在其他各路宋軍都已奉命撤退的情況下，岳飛發出沉痛的嘆息：「十年之力，廢於一旦！」被迫撤退。
紹興十一年（1141），岳飛率部增援淮西，因張俊阻撓，未能與金軍接戰。宋廷準備和議，將岳飛召到臨安，讓他在朝廷擔任樞密副使，變相地解除了他的兵權。此後，岳飛為營救韓世忠，反對肢解韓世忠軍，進一步得罪了秦檜。秦檜指使右諫議大夫万俟、御史中丞何鑄、殿中侍御史羅汝楫彈劾岳飛，�奕y罪名，誣陷岳飛在增援淮西時頓兵不前、並想放棄楚州。宋高宗於八月將岳飛免職奉祠（即擔任只領薪俸的祠祿官）。
岳飛離開軍隊後，朝廷任命王貴和張憲分任都統制和副都統制，指揮鄂州的屯駐大軍。為了將岳飛置於死地並徹底整編岳飛的部隊，秦檜唆使其黨羽、湖廣總領林大中在岳飛軍中物色了王俊、姚政、傅選、龐榮等敗類，讓王俊出面誣告張憲準備發動兵變，以迫使朝廷將兵權交還岳飛。
同年九月，張俊趁張憲到鎮江府參見之機，將張憲逮捕，嚴刑逼供，並誣奏張憲接岳飛和岳雲書信後謀反。十月，岳飛父子也被朝廷拘捕。宋高宗命令在刑部設立制勘院，由御史中丞何鑄、大理卿周三畏主持專案審理。何鑄認為無故殺戮大將對國家不利，便為岳飛分辯，說岳飛無罪。秦檜於是改派万俟為御史中丞，主持審訊。万俟等人深文周納，給岳飛等人定下了謀反之罪，判處岳飛斬刑、張憲絞刑、岳飛之子岳雲徒刑，並呈報宋高宗，請求「聖裁」。
岳飛入獄後，自覺光明磊落，起初還據理力爭，但後來見審訊官員任意誣陷，無理可言，便閉上眼睛，任憑獄卒拷打，始終不再說話，並以絕食來表示抗議。朝野內外部分不怕事的官員和百姓也挺身而出，為岳飛鳴冤。宋高宗卻於十二月二十九日匆匆下令：「岳飛特賜死。張憲、岳雲並依軍法施行，令楊沂中監斬。」當天，獄卒讓岳飛沐浴後，將他在監獄中處死。張憲、岳雲則被綁赴鬧巿，斬首示眾。岳飛死時年僅三十九歲，岳雲年僅二十三歲。