宋恭帝德佑元年（1275）正月，因元軍大舉進攻，宋軍的長江防線全線崩潰，朝廷下詔讓各地組織兵馬勤王。文天祥立即捐獻家資充當軍費，招募當地豪傑，組建了一支萬餘人的義軍，開赴臨安。宋朝廷委任文天祥知平江府，命令他發兵援救常州，旋即又命令他馳援獨松關。由於元軍攻勢猛烈，江西義軍雖英勇作戰，但最終也未能擋住元軍兵鋒。

次年正月，元軍兵臨臨安，文武官員都紛紛出逃。謝太后任命文天祥爲右丞相兼樞密使，派他出城與伯顏談判，企圖與元軍講和。文天祥到了元軍大營，卻被伯顏扣留。謝太后見大勢已去，只好獻城納土，向元軍投降。

元軍佔領了臨安，但兩淮、江南、閩廣等地還未被元軍完全控制和佔領。於是，伯顏企圖誘降文天祥，利用他的聲望來儘快收拾殘局。文天祥寧死不屈，伯顏只好將他押解北方。行至鎮江，文天祥冒險出逃，經過許多艱難險阻，於景炎元年（1276）五月二十六日輾轉到達福州，被宋端宗趙??任命爲右丞相。

文天祥對張世傑專制朝政極爲不滿，又與陳宜中意見不合，於是離開南宋行朝，以同都督的身分在南劍州（治今福建南平）開府，指揮抗元。不久，文天祥又先後轉移到汀州（治今福建長汀）、漳州龍巖、梅州等地，聯絡各地的抗元義軍，堅持鬥爭。景炎二年（1277）夏，文天祥率軍由梅州出兵，進攻江西，在雩都（今江西于都）獲得大捷後，又以重兵進攻贛州，以偏師進攻吉州（治今江西吉安），陸續收復了許多州縣。元江西宣慰使李恆在興國縣發動反攻，文天祥兵敗，收容殘部，退往循州（舊治在今廣東龍川西）。祥興元年（1278）夏，文天祥得知南宋行朝移駐??山，爲擺脫艱難處境，便要求率軍前往，與南宋行朝會合。由於張世傑堅決反對，文天祥只好作罷，率軍退往潮陽縣。同年冬，元軍大舉來攻，文天祥在率部向海豐撤退的途中遭到元將張弘範的攻擊，兵敗被俘。

文天祥服毒自殺未遂，被張弘範押往??山，讓他寫信招降張世傑。文天祥說：「我不能保護父母，難道還能教別人背叛父母嗎？」張弘範不聽，一再強迫文天祥寫信。文天祥於是將自己前些日子所寫的《過零丁洋》一詩抄錄給張弘範。張弘範讀到「人生自古誰無死，留取丹心照汗青」兩句時，不禁也受到感動，不再強逼文天祥了。

南宋在??山滅亡後，張弘範向元世祖請示如何處理文天祥，元世祖說：「誰家無忠臣？」命令張弘範對文天祥以禮相待，將文天祥送到大都（今北京），軟禁在會同館，決心勸降文天祥。

元世祖首先派降元的原南宋左丞相留夢炎對文天祥現身說法，進行勸降。文天祥一見留夢炎便怒不可遏，留夢炎只好悻悻而去。元世祖又讓降元的宋恭帝趙??來勸降。文天祥北跪於地，痛哭流涕，對趙??說：「聖駕請回！」趙??無話可說，怏怏而去。元世祖大怒，於是下令將文天祥的雙手捆綁，戴上木枷。關進兵馬司的牢房。文天祥入獄十幾天，獄卒才給他鬆了手縛：又過了半月，才給他褪下木枷。

元朝丞相孛羅親自開堂審問文天祥。文天祥被押到樞密院大堂，昂然而立，只是對孛羅行了一個拱手禮。孛羅喝令左右強制文天祥下跪。文天祥竭力掙扎，坐在地上，始終不肯屈服。孛羅問文天祥：「你現在還有甚麼話可說？」文天祥回答：「天下事有興有衰。國亡受戮，歷代皆有。我爲宋盡忠，只願早死！」孛羅大發雷霆，說：「你要死？我偏不讓你死。我要關押你！」文天祥毫不畏懼，說：「我願爲正義而死，關押我也不怕！」

從此，文天祥在監獄中度過了三年。在獄中，他曾收到女兒柳孃的來信，得知妻子和兩個女兒都在宮中爲奴，過着囚徒般的生活。文天祥深知女兒的來信是元廷的暗示：只要投降，家人即可團聚。然而，文天祥儘管心如刀割，卻不願因妻子和女兒而喪失氣節。他在寫給自己妹妹的信中說：「收柳女信，痛割腸胃。人誰無妻兒骨肉之情？但今日事到這裏，於義當死，乃是命也。奈何？奈何！……可令柳女、環女做好人，爹爹管不得。淚下哽咽哽咽。」

獄中的生活很苦，可是文天祥強忍痛苦，寫出了不少詩篇。《指南後錄》第三卷、《正氣歌》等氣壯山河的不朽名作都是在獄中寫出的。

元世祖至元十九年（1282）三月，權臣阿合馬被刺，元世祖下令籍沒阿合馬的家財、追查阿合馬的罪惡，並任命和禮霍孫爲右丞相。和禮霍孫提出以儒家思想治國，頗得元世祖贊同。八月，元世祖問議事大臣：「南方、北方宰相，誰是賢能？」羣臣回答：「北人無如耶律楚材，南人無如文天祥。」於是，元世祖下了一道命令，打算授予文天祥高官顯位。文天祥的一些降元舊友立即向文天祥通報了此事，並勸說文天祥投降，但遭到文天祥的拒絕。十二月八日，元世祖召見文天祥，親自勸降。文天祥對元世祖仍然是長揖不跪。元世祖也沒有強迫他下跪，只是說：「你在這裏的日子久了，如能改心易慮，用效忠宋朝的忠心對朕，那朕可以在中書省給你一個位置。」文天祥回答：「我是大宋的宰相。國家滅亡了，我只求速死。不當久生。」元世祖又問：「那你願意怎麼樣？」文天祥回答：「但願一死足矣！」元世祖十分氣惱，於是下令立即處死文天祥。

次日，文天祥被押解到柴市口刑場。監斬官問：「丞相還有甚麼話要說？回奏還能免死。」文天祥喝道：「死就死，還有甚麼可說的？」他問監斬官：「哪邊是南方？」有人給他指了方向，文天祥向南方跪拜，說：「我的事情完結了，心中無愧了！」於是引頸就刑，從容就義。死後在他的帶中發現一首詩：「孔曰成仁，孟曰取義，唯其義盡，所以仁至。讀聖賢書，所學何事？而今而後，庶幾無愧。」文天祥死時年僅四十七歲。