陈康伯，字长卿，出生于北宋哲宗绍圣四年(1097)，信州弋阳(今属江西)人。出身仕宦之家，其父陈亨仲，曾做过提举江东常平官，掌管役钱、义仓、水利等职。陈康伯一生清廉高洁，刚直不阿，在南宋高宗末年、孝宗初年两次出任宰相。当时正值金军大肆南侵、南宋王朝处在极其危难之际，他临危不惧，力主抗金，反对议和、投降和南逃。他指挥若定，调兵遣将，力挽狂澜，给金军以沉重地打击，扭转了当时的不利战局，保卫了南宋江山。
陈康伯青年时期就勤奋好学，胸怀大志。宋徽宗宣和三年(1121)考中太学上舍丙科， 当时太学实行三舍法， 即上舍、内舍、外舍三等，上舍为第一等，上舍优等者可直接做官，陈康伯在太学曾多次取得优等成绩，后来因母亲去世，回家守丧数年。在此期间，离陈康伯家乡较近的贵溪一带，“盗贼”四起，横行霸道，扰乱乡里，令百姓不得安宁，他挺身而出，组织本地武装进行联防围剿，智擒了“盗贼”头目，将“盗贼”一网打尽，保卫了家乡的安全，受到当地群众的称颂。
建炎末年，陈康伯开始步入仕途，最初是出任敕令删定官，预修《绍兴敕令》，时隔不久，通判衢州行使监察之权。数年之后，先后任太常博士、监察江东常平茶盐等职。
绍兴八年(1138)，出任枢密院大计议官，后来又改任户部司勋郎中一职。陈康伯有真才实学，又廉洁勤政，因而仕途最初比较顺利。
当时秦桧担任南宋宰相，把持朝政，他拉拢党羽，任人唯亲，排斥异己。陈康伯与秦桧在太学时是学友，但他从不摧眉折腰，趋炎附势，借故旧关系巴结这个奸相，更不与之同流合污，因而陈康伯任户部司勋郎中一职五年未得提升。绍兴十三年(1143)，陈康伯出任军器监之职，一年后(1144)，又做代理吏部尚书侍郎之职。
绍兴十五年(1145)五月， 值宋高宗(赵构)生辰之际，金派贺生辰使完颜承宗来宋，朝廷命陈康伯为接伴使，钱恺之为副使前往迎接。金使进入宋境后正值五月端午，天气渐热，高宗派宦官赐给完颜承宗一行扇帕等物以降温消暑，表示慰问，这是一种友好的礼节。完颜承宗作为异国来使接受本朝皇帝所赐应面向南宋朝廷临安(今浙江杭州)称谢， 才符合当时的外交礼仪。但金使完颜承宗蔑视南宋，无理要求接伴使、副使与其一同叩拜，才肯接受皇帝所赐。这显然是以金对宋的君臣关系，有辱于宋。陈康伯断然回绝了这种非礼的要求，完颜承宗说： “这是一个小节，朝廷不会在乎。”陈康伯坚辞不允，认为这是关系到是否降低南宋国格的大事，自己作为接伴使绝不能让来使有辱于南宋的国格。最后，金使完颜承宗迫于无奈只得向北叩拜， 接受所赐。从这件事上， 陈康伯表现出刚直不阿，决不卑躬屈膝的英雄气节。但金使到达南宋朝廷后，诬告陈康伯接伴怠慢，言行恶劣。主张议和、投降的奸相秦桧早就将陈康伯视为异己，又生怕由此得罪于金，招惹事端，加之朝中那些对金奴颜婢态的宦官火上浇油，秦桧便趋势贬了陈康伯代理吏部尚书侍郎之职，任知泉州。陈康伯看透了秦桧之流的卑劣行径，未作任何辩解，毅然辞别京城到泉州赴任。
陈康伯初到泉州之时，当地“海盗”异常猖獗，使泉州的海上运输和贸易活动受到严重威胁。南宋朝廷以前也曾多次派官员前去镇压和查办，但都因措施不力，加之有关官员贪脏受贿，甚至与之相互勾结，均无成效。陈康伯经过调查了解，认为这些“海盗”均属“地老虎”，他们对当地海上情况极为熟悉，可以化害为利，便决定施以怀柔政策。这一招果然使很多“海盗”出来归附官府，陈康伯把他们编入军籍，这些人经过转化，使打击“海盗”的活动进展很快。后来有些人难改恶习，还想在军中作乱，陈康伯得知后，把这些人定以死罪全部斩首示众。这一措施极大地震慑了“海盗”活动。陈康伯的一柔一刚，使泉州基本消除了“海盗”这一社会危害，维持了对泉州的统治。陈康伯在泉州任职期间，勤政爱民，一身正气，两袖清风，使泉州社会安定，百姓安居乐业。但当时奸相秦桧当权，结党营私，不是任人唯贤，而是任人唯亲、排斥异己。所以象陈康伯这种不媚权贵的清官，纵然政绩再突出也难得提升。直到绍兴二十五年(1155)秦桧死后，陈康伯才得以由地方调入中央，拜任吏部侍郎，受到重用。
陈康伯到达临安不久，就积极为朝廷出谋献策。在拜见高宗时，他大胆地提出了自己的政治主张，他建议朝廷节省费用，免去各种不必要的开支，减轻百姓负担，采取休养生息的政策，以促进社会稳定，经济繁荣，增强国力。并建议朝廷鼓励监司监察和御史、谏官，严惩贪官污吏，制止各种消极腐败现象。不久，陈康伯又兼任礼部、户部侍郎，他建议把每年税收的10% 储存起来，增加中央财政储备，以备水旱灾荒时急用。陈康伯以后又兼任了刑部侍郎，在他主持下，对秦桧当权时所造成的各种冤假错案，分清是非，平反昭雪，拯救了许许多多被冤枉的士大夫的生命，匡扶了正义，受到朝廷上下交口称赞，高宗对其愈加赏识。绍兴二十七年(1157)四月，高宗拜任陈康伯为吏部尚书，当时宰相等一些大臣建议高宗先任陈康伯代理吏部尚书，高宗未予采纳，说： “朕要重用于他，就要打破成规，破格提拔，何必再以‘代理’之称呢?”同年九月陈康伯又升任参知政事，成为副相。两年之后，即绍兴二十九年(1159)九月，陈康伯以其杰出的政治才干，被升任右仆射、同中书门下平章事，做了南宋的宰相，这是陈康伯第一次拜相。高宗皇帝对陈康伯非常器重，认为他是一个难得的相才，称赞说： “爱卿庄重沉着，遇事冷静，反应机敏，从不妄发议论，善于明辨是非，真乃宰相之才。”陈康伯深受感动，决心忠心报国，不负皇恩。陈康伯拜相之时，正值金要撕毁盟约灭掉南宋，独霸天下之时，可谓受命于危难之际。当时陈康伯已是63岁高龄。在他生命的最后一段岁月里，不畏强敌，力主抗金，为国家鞠躬尽瘁，死而后已，为保卫南宋江山写下了不朽的篇章。
与陈康伯同朝为相的是尚书左仆射汤思退，他与秦桧一脉相承，是一个主和投降派人物。高宗希望陈康伯与之通力合作、共商共议，处理好军国大事。陈康伯倔强正直，早就看不惯这种误国害民的奸臣，不愿与之同流合污。他对高宗坦率直言，说： “作为大臣应以国事为重，秉公办事，如果终日扶植党羽、拉帮结派、阿谀奉承，欺上瞒下，我鄙视这种小人，我不仅不敢与之为伍，更不能这样做。”陈康伯的凛然正气，令高宗皇帝极为叹服，更为诸多正直的大臣所敬佩。当时高宗皇帝按惯例赐给初拜宰相的陈康伯许多银绢，陈康伯坚辞不受，自任清廉寡取。
自绍兴十一年(1141)， 高宗、秦桧为了议和， 一再退让，决定放弃淮河以北土地，与金签订了屈辱的“绍兴和议”，即宋向金称臣，每年向金纳贡银绢25万两匹，两国以淮河大散关(今陕西宝鸡西南)为界。之后，双方的战争暂时停了下来。十几年后，完颜亮于绍兴二十三年(1153)篡夺金王朝皇位后，再起灭宋之心，为再度南侵，把国都迁至燕京(今北京城西南之幽州)以加强对中原和华北地区的控制，更便于对南宋的军事进犯。绍兴二十九年(1159)，金为南侵进行了一系列的准备。金下令扩充军队， 规定凡20岁以上，50岁以下的男人，不分什么情况，全部列入军籍; 派官兵到诸道总官府督造兵器，命令诸路工匠集中在燕京昼夜不停地打造军械，在潞河建造各类战船; 征集数万民工修筑、扩建汴梁(今河南开封)，作为南侵的进军基地; 金还暗中派人绘制南宋国都临安的地形图。浓烈的战争气氛弥漫在金的朝野上下。金攻占临安，吞灭南宋的野心，已暴露无遗。对此，宋朝不少人都有预闻，从来宋的金使身上也时而嗅出这种气息。南宋国子司业黄中出使金时，就察觉到金的南侵动机，回到临安立即上奏高宗皇帝，说金修筑汴梁，意在南侵，应早做防备。可高宗不以为然，认为金修汴梁，是做为离宫。黄中深感忧虑，又进谏高宗说： “看金修建汴梁，不是作为离宫，而是作为进攻我朝的基地，汴梁离临安很近，如果金军人马南迁汴梁，不几日就可兵临城下，这可谓燃眉之急啊! 沈该、汤思退两个宰相更是不以为然，不相信金有南侵的意图， 也听不进其他官员的忠告。绍兴三十年(1160)二月，高宗在朝廷上下纷纷议论中，对此才引起关注， 命同知枢密院事叶义向以出使金国为名前去探听虚实，叶义向返回临安后，上奏高宗皇帝说： 金撕毁盟约，图谋南侵，已成定局，我们应尽早备战。这时的高宗皇帝和宰相汤思退还是半信半疑，犹豫不决，仍幻想能维持这个屈辱的和议。
陈康伯认为，大量迹象已经表明，金要撕毁盟约，举兵南侵，现在应当及早作好战争准备，不然社稷难保，到时后悔莫及。他和兵部尚书杨椿联合向高宗提出了防御措施： 责令两淮诸将，明确各自的界限，加强防御，各守一段; 沿淮两岸，“措置民社”，增加人口，实则作为寓兵之计; 淮东地段，防备薄弱，“将骄卒少”，应撤换将军刘宝，增补兵力; 长江沿岸各郡县，加紧修固城池，多储粮草，增强内地的实力与防守。之后，陈康伯又面见高宗，告诫高宗对面临的严峻形势应有清醒的认识，现边备废驰，防御薄弱，必须加紧采取措施，加强防御，尤其是两淮的防御至关重要，并述说了如何加强两淮防御的具体措施。高宗只表示赞许，并未引起足够的重视。
之后，金军南侵形势日趋严峻，由于以汤思退为首的主和投降派的消极阻挠，防御金军进犯的措施难以实施，这实在令力主抗金的抗战派们忧心如焚。于是抗战派对宰相汤思退的指责渐渐激烈。侍御史汪澈大胆地站出来抨击汤思退“本无器识”，当初只是靠阿谀奉承，趋炎附势，巴结奸相秦桧才得以起家，济身于朝廷中的。他拜相之后，只贪图自己安逸，毫不为国家着想，没干一件好事。迫于众多朝中大臣的力谏和愤慨，高宗于绍兴三十年(1160)底罢去汤思退宰相之职。朝中宰相就只有陈康伯和朱倬两人。主和派汤思退被罢免后，抗战派就占了上风，加之各方探听的消息均证实金的确在图谋南侵，高宗为保住自己的统治地位，不得不采取了陈康伯的防御策略。绍兴三十年(1160)十月，任命曾大败金兀朮，屡建战功，被秦桧所排挤的老将刘锜替代淮东军将领刘宝，次年四月，责令两淮诸将划明界限，各自为守，并在沿江的各州郡，修固城池，储积粮草，加强战备，巩固边防，这为以后抵御金军南侵奠定了一定的基础。
金对宋的进逼随着其侵犯条件的成熟步步加紧，气焰异常嚣张。绍兴三十一年(1161)五月，金派使臣高景山、王全到临安，在紫宸殿面见高宗，他们盛气凌人，目无南宋朝廷，以极其傲慢的语言宣读了金主的意旨，提出索要淮南土地，要南宋派将相到开封谈判，这根本不是谈判，而实是以武力相胁迫。
南宋朝臣对金采取什么对策，众说纷纭。宰相陈康伯极力主张对金予以有力抗击，否则金一旦得势，南宋江山终无宁日，乃至被金所灭。他连夜召集三衙主帅、侍从、台谏及同安郡王杨存中共商举兵抗金大计，联合上奏高宗。这时高宗为形势所迫，便同意用兵。陈康伯立即传达了高宗的旨意，对众臣说： “在这种严峻形势下，我们不要再讨论和与战的问题了，只讨论如何战的问题!”这时少数主和派人物仍在顽固地反对抗金，主张议和，内侍省都知张去为主张采取避退政策，要高宗远逃至江西、四川一带，以避金军。右相朱倬这个两面派人物，在此关键时刻，沉默不语。陈康伯极力反对逃避，他义正辞严，上奏高宗： “金撕毁盟约，天人共愤。现在我们只有予以有力地抗击，才能保住大宋江山，如一再退让，则一败涂地，我朝亡国之时就不远了。我们抗击金军是正义的战争，如果圣上抗金意志坚决，那么士气必然大振。”并建议派京城禁军增援襄、汉防御。陈康伯有理有力地说服了高宗，并随之调兵遣将，加强防备。命吴璘任四川宣抚使，负责四川、陕西的防务; 长江中流江面宽、兵力分散，是防守重地，委派大将成闵率30000人扼武昌，并节制湖北、京西两路军马，加强长江中流防线; 淮河是长江的屏障，要保住长江，首先必须守住淮河。任命久经沙场的老将刘锜为淮南、江南、浙西制置使，节制诸路大军，以抗金军主力; 英勇善战的浙西马步军副总管李宝，主动请战，得到高宗、陈康伯同意和支持，他以战舰120艘、弓弩手3000，亲率水师从江阴出发，在海上还击金之水军，并很快进驻到胶州湾。老将刘锜也带兵驻进了扬州。诸路军马在很短时间内，依次进入战备状态。这说明陈康伯是极善用兵的。
绍兴三十一年(1161)八月，金水陆大军兵分四路开始对宋发动了全面进攻。金主完颜亮率主力，向淮南浩浩荡荡地挺进; 第二路从蔡州向南挺进，攻取荆、襄; 第三路从凤翔进军，直奔大散关(今陕西宝鸡西南)攻取四川; 第四路是水师从海上汹涌而来直奔临安。27万金军向宋境压来，号称60万，其势汹汹。
绍兴三十一年九月，金五千骑兵率先到达大散关，负责川陕防务的守将吴璘率军奋力抵抗，使金军未能突破大散关，其部还英勇出击，乘机先后恢复了秦州、洮州、陇州等部分失地，给金军当头一棒。金军中一部将王宏，曾为兰州宋军千户，后被金军俘获，在这次南侵途中，他寻机杀死金军安远大将军温敦乌页等人，率部归宋。鄂州都统制吴拱率部击退了金军进攻通化的部队。金军进攻信阳，也被大将成闵部队所击退。同年十月，南宋水师在李宝带领下，在密州胶西湾陈家岛，一举歼灭金全部水军，打破了金从海道南侵的计划。
抵抗金军主力的老将刘锜，到扬州后因年事已高，劳累过度，患了重病，他仍带病率部北上，到宝应、盱眙、淮阴等地部署淮东防务。当时负责淮西防务的宋将王权，是一个贪生怕死的胆小鬼，他驻守建康(今江苏南京)，迟迟不动，刘锜命他出兵，他才眼泪汪汪告别家小，把贵重家私装进船里以备逃走，他先被迫率师到长江北岸的和州，又在刘锜督促下，移师庐州(淮西治所，今安徽合肥)，终日提心吊胆，不布置防务，毫无抗金之意，使淮西防务近乎空设。所以致使金主完颜亮探知淮西的防务空虚情况后，很顺利地渡过了淮水。王权听说金军渡过淮河，惶惶不知所措，先从庐州退至和州，继而又退至东采石(今安徽当涂北)。这时，老将刘锜正率部与金军对持于淮阴，当他得知王权放弃庐州退逃的消息，又接到高宗让他退守扬州的紧急命令的“金字牌”，只好引兵南撤。金主完颜亮在短短数月时间，就挥师到达长江北岸的杨林渡一带，并强攻拿下扬州，逼刘锜又退守瓜州。至此，两淮防线尽为金军打破。
宋高宗听到金军兵临长江的消息，惊恐万分。众多的文武大臣们皆闻风丧胆，想方设法向外地输送家眷和财产。陈康伯和礼部侍郎黄中的家眷都无一人离开京城，许多朝臣们为他们这种无私无畏，忠心报国的精神所折服。为稳定人心，陈康伯下令临安城门的关闭时间比以往推迟半个时辰。可高宗依然恐惧不已，命太傅杨存中到内殿与陈康伯商议对策，席酒之间，陈康伯谈笑风生，轻松自如，一副若无其事之态。高宗听说后，虽心里稍觉安定，但他被金军吓破了胆，依然感到惊慌不安，只想逃命，于是他亲手写下诏书：“散百官，浮海避敌。”这其实就是解散朝廷，令群臣各自逃命，将南宋半壁江山拱手相让。陈康伯为使高宗收回成命，继续抗金，置自身安危于不顾，毅然焚毁了这一诏书，力谏高宗： “众臣跑光了，您势单力孤，就不成其为皇帝了。”高宗听后，清醒了些，打消了逃跑的念头。陈康伯又劝说高宗御驾亲征，以鼓舞士气，动员全民一致抗金。高宗勉强同意，并下亲征诏。
陈康伯慧眼识英才，他还请高宗任用了精明强干能征善战的主战派人物枢密使叶义向督管长江、淮河军事，虞允文(以后曾做南宋宰相)为参知军事，这一人事调整对以后抗金斗争起了重大作用。
绍兴三十一年(1161)十一月，金主完颜亮率大军进入江防高地采石(今安徽当涂北)，这时朝廷决定撤消败将王权之职，由李显忠将军前去接替。虞允文当时奉命前往采石犒赏将士，并督促王权将军权尽快移交给李显忠，他到采石时，王权早已逃之夭夭，李显忠尚未到任，宋军无人指挥。虞允文以国事为重，毅然承担起指挥作战的重任，他用兵有方，在采石指挥将士们英勇抗战，打了一个漂亮的阻击战，有力地挫败了金军，极大地鼓舞了宋军的士气。
完颜亮所部在采石惨败后，又移师瓜州(今江苏邗江南)，企图攻取京口(今江苏镇江)。京口守将刘锜年老病重，已难以料理军务。虞允文知难而进，自请率军前去镇守。他一到京口，积极加强防备，令金军未能渡过长江。完颜亮求胜心切，无条件地下令将士们三日内必须渡过长江，否则一律斩首。金中不少将士早就对金不惜百姓死活，强行侵略南宋的做法心怀敌意，这一来则更加激愤。一部分金军将领率部起事，杀掉了金主完颜亮。完颜亮一死，金军的进攻计划就被瓦解了，只得引军北退。
采石大捷和京口防守战的胜利，完全挫败了金南侵灭宋的计划，保住了南宋的半壁江山。陈康伯临危不惧，力主抗金，善于选贤用将，安定人心，在其中起了关键作用。高宗深有感触地对陈康伯等功臣称赞不已，说： “这次大捷，虽承蒙祖宗恩德之泽，也是天时与人和的结果。这都是众位爱卿不畏强敌，指挥有方，奋力拼搏的功劳。”
这次大捷后，大部金军北退，只有在和州驻守的30000金军还在负隅顽抗。陈康伯拟写了一份招安榜，向金军说明投降的安抚政策，促使他们归附南宋。金军闻知人心浮动，无心再战。李显忠趁机很快就收复了和州，金军弃城北逃。陈康伯又命宋军一鼓作气，收复两淮大部分失地。这时宋军在战场上处于有利局势。面临着两条道路的选择，是乘胜前进，继续北伐，还是与金谈判求和呢?
宋高宗在这种形势下，只知苟活偷安，满足现状，无意北伐，他仍一味地坚持与金议和。绍兴三十二年(1162)正月，金派使臣来宋，告知金世宗(完颜雍)即位。有人提出，应拒绝接待金使。高宗认为： “现在如果拒之门外，怎么能知道金的来意呢? 再说也有碍于两国的关系和好。”高宗显然存有与金和好的念头。一些朝臣劝说高宗，金已撕毁当初的绍兴和议，侵犯南宋，现在我们不能再沿袭对金称臣的礼仪了，应当用两国平等的敌国礼接待金使。高宗却说： “为了恢复旧有疆土，要回被金掠去的皇室祖宗陵寝之地，不再令百姓生灵涂炭。‘至如以小事大，朕所不耻。’”陈康伯累述金的种种罪行和宋的屈辱史，认为高宗作为南宋的象征，不能降低形象，有辱国格。若对金使再行臣礼，则众臣实在不敢领受。金使到达临安，仍要求南宋朝臣行臣礼，陈康伯理直气壮对其严加驳斥，坚持宋金平等的外交原则，改用了敌国礼接待金使。这一礼仪的变化，标志着南宋建立三十多年来对金称臣屈辱历史的结束，为南宋争得了与金平等的地位。
在击败金军南侵之后，有许多从金归宋的人，当时称之为归正人。这些人其中有的是流落在金的汉人归回的，有的是金人逃离本土而来的。陈康伯认为安置好这些归正人，对巩固政权、赢得民心很有益处。他下令分给他们官田、耕牛、种子和本钱，帮助他们安置住所，鼓励他们搞好生产、生活。对可以为官者，委以官职，对各种人都根据情况作了适当安置。这样，不仅使归正人安居乐业，也吸引了不少人欣慕而来，这些归正人对于南宋恢复生产，扩大政治影响，的确起了积极作用。
这次战争，使宋、金两国关系发生了新的变化。高宗这位一贯卑躬屈膝、主张议和投降、无所作为的皇帝已很难推行他的政策了， 他渐渐厌倦了政事， 决意传位太子赵昚，让赵昚支撑这个局面。高宗召陈康伯密议此事，陈康伯表示赞同， 于是草草拟写了立太子诏。绍兴三十二年(1162)六月，赵昚继承皇位，是为孝宗。次年改元隆兴。陈康伯继续任宰相，兼枢密使，并进封为鲁国公。孝宗皇帝早就极为敬重和推崇陈康伯，因而对其礼遇优厚，从不直呼其名，见面只称丞相。孝宗皇帝还在众臣面前对陈康伯大加赞扬说： “陈康伯有胆有识，气量不凡，朕当初随先皇在金陵(今南京)时，就十分钦佩他为官高洁清廉，处事从容不迫，他可比晋朝的谢安，在危难之时，能挺身而出， ‘为君谈笑静胡沙’。”
但此时的陈康伯已是66岁高龄，体弱多病，自觉难负重任，于绍兴三十二年(1162)十月，请求孝宗解除自己的宰相职务，让年富力强的其他大臣担任此职。孝宗考虑到国家的内忧外患，不能缺少这样一位贤明宰相，对其恳切挽留，说太上皇拜爱卿辅佐朕治理天下，朕继位不到半年时间，你就请求辞职，难道是朕亏待于你，还是朕不值得你辅佐呢?现在我朝边境并非安宁无事，金灭宋之心未死，你难道就忍心辜负太上皇的期望吗?陈康伯深为孝宗近乎哀求的挽留所感动，加之太上皇高宗也给他写了亲笔手谕，说孝宗皇帝坚决而诚心地要你留任，要理解和体谅圣意。陈康伯无奈，只能带病留职处理军国大事。但第二年，他的身体状况因年高和劳累每况愈下，再次提出辞相，且态度非常坚决。孝宗一推再推，最后只得同意了他的请求。于隆兴元年(1163)十二月，陈康伯辞去宰相，孝宗又拜任他为太保，观文殿大学士、福国公、判信州，封爵赐赏，大加慰劳，请他“有宣召，慎勿辞。”望他退而不休，一旦朝廷需要时，继续为国家出力献策。陈康伯第一次任相从绍兴二十九年(1159)九月起至隆兴元年(1163)十二月止，共四年零三个月的时间。
但是，在陈康伯辞相后不到一年时间里，金又发兵南侵。南宋时局的恶化，又呼唤着陈康伯出山。
原来，宋孝宗赵昚继位后不久，雄心勃勃，想出师收回失去的疆土。他任用张浚为枢密使，都督江淮东西路军马，同时升任高宗安插的投降派人物史浩为宰相。张浚向孝宗奏请出兵北伐，收复中原，史浩便出来反对。张浚建功心切，恐怕史浩等人从中作梗，失去战机，在孝宗同意后，不经三省及枢密院议定，就草草挥师北进。张浚的北伐因是孤军深入，缺乏配合和援助，在出兵的不久在符离一带即为金军大败。张浚因北伐失败被降职，也使史浩一气之下辞了宰相。这时孝宗重新起用了当初为高宗罢相的投降派人物汤思退为右相兼枢密使，主和派又占了上风。金在大败张浚北伐之后，在战场上又占了优势，于隆兴元年(1163)八月，金向宋索要唐、邓、海、泗四州，并要宋继续向金进贡称臣。汤思退请求孝宗派使臣赴金，答应金许割四州的要求，纳贡减半，孝宗当时又迫于高宗投降政策的压力，只有屈从。但割地求和，并不能使金满足，反而使金看清了南宋在主和派当权情况下的软弱无能，觉得大有可乘之机。隆兴二年(1164)十月，金又大举南侵，势如破竹，先后攻破楚州(今江苏淮安)、濠州(今安徽钟离)，占领滁州，再一次兵临长江，危及南宋朝廷。形势的恶化，使孝宗认清了求和仅仅是种幻想，误害国民，唯一的对策就是针锋相对，出兵还击。孝宗以汤思退执意求和，“自坏边备”的罪名，使汤思退第二次被革除相职。孝宗在众多官员的纷纷要求下，决定起用陈康伯、胡铨、虞允文、黄中等主战派人物，共图抗金大业。隆兴二年(1164)十一月，拜陈康伯为左仆射兼枢密使，这是陈康伯第二次入相，此时陈康伯已是68岁的老人，远住信州，重病在身，但他以救国大业为重，不顾年老有病，不顾家人及亲邻的劝告，毅然决定赴任就职。他说： “作为南宋朝臣，当国家危亡之际，赴汤蹈火，当万死不辞。”就这样，他满怀救国之志托着病体从信阳日夜兼程赶往临安。到临安后，由儿子、女婿搀扶进殿，拜见高宗。高宗免他参拜，上朝时让他坐着，允许他隔天一次上朝，抬他的轿子可直接到大殿门口，无重大事情不到官署办公。孝宗予以特殊照顾，关怀备至。
陈康伯虽精力、休力不支，但他入相后，却给抗金增加了很大信心，给将士们以很大鼓舞。步军司统制崔泉，在六合击溃金军先头部队，胡铨在淮东打败金军进攻。但是南宋的边备，在汤思退当政期间一度废驰，很难在仓卒之间，抵御金20万大军。在这种形势下，孝宗难图再战，加之高宗不断施加议和压力，渐渐趋向议和。金也对抗战派陈康伯重新入相有所畏惧，他们对完颜亮南侵失败的惨痛教训记忆犹新，加之连年征战，国力空虚，也希望议和。隆兴二年(1164)冬，宋、金达成和议，宋帝正皇帝号，改宋金君臣关系为叔侄关系，宋不再向金称臣，改“岁贡”为“岁币”，银绢由原25万两、匹，减少为20万两、匹，仍以淮水到大散关为界。史称“隆兴和议”。隆兴和议尽管使宋在某些条款上比“绍兴和议”有所改善，但实质上仍是一个不平等的和约。陈康伯对这个和约的签订虽表不满，但在当时形势下，自己已是风烛残年，徒有壮志，回天无力了。
隆兴和议签订以后，陈康伯心境不佳，终日闷闷不乐，身体日趋衰竭，眼睛也近乎失明。乾道元年(1165)正月，陈康伯数次奏请孝宗辞去宰相，回家乡养病。孝宗舍不得这位劳苦功高、令人敬仰的宰相辞他而去，均未批准。免他朝谒，让他安心养病。陈康伯在病危期间，念念不忘抗金大业，多次向孝宗陈述加强边防，充实国力，收复中原的意愿。孝宗深为感动。
乾道元年(1165)二月的一天，陈康伯在上朝后，忽感胸闷气短，咳喘不止。当日，这位正直无畏，高洁清廉，力主抗金，忠心报国，为世人所敬仰的一代名相，含着对抗金大业未成的遗恨，离开了人间，终年69岁。他的去世，对抗金力量是个巨大的损失。孝宗皇帝极为悲痛，追赠陈康伯为太师，谥号文恭。
