当桓玄独揽朝廷大权，安排妥当以后，就任命刘牢之为征东将军、会稽内史，采用明升暗降的方法，收夺他的北府兵权。刘牢之听到任命，知道桓玄开始收拾他了，儿子刘敬宣劝他袭击桓玄，刘牢之犹豫不决，问计于刘裕：“我想北上会合在广陵的高雅之，起兵匡扶社稷，阁下能和我一起去吗？”
刘裕回答说：“当初将军率领数万精兵，望风投降，朝野人士对将军已经失望，如今桓玄已经得志，威震天下，广陵起兵怎么可能成功呢？刘裕不打算追随将军，回京口当个老百姓好了。”
就是因为这个原因，桓玄对刘裕便始终采取笼络措施，另一方面，也是想通过刘裕安定收买北府将士。
桓玄是桓温之子。桓温在世时，就有当皇帝的野心，只是由于王、谢等门阀士族的阻挠，才未能如愿。桓玄在除掉司马道子父子之后，认为篡权的障碍已经扫除，便在元兴二年（403年）2月受封为大将军，9月又自称相国、封楚王、加九锡、领十郡，篡位的野心已昭然若揭。
刘裕见世事如此，汲取了北府其他将领的教训，在桓玄征求他意见时，虚与委蛇，作出了表面上的依附，以迷惑桓玄，桓玄心中顿时一块石头落了地，更增加了对刘裕的信任。每次游玩，总要把刘裕接过去，盛情款待，赏赐丰厚。
桓玄的妻子刘氏却比丈夫清醒多了，认为刘裕并不可靠，应该尽早除掉。桓玄颇为自负，以为自己能够驾驭刘裕这样的人物。正是由于桓玄的优柔寡断，给了刘裕以机会。
东晋元兴二年12月（公元403），桓玄废晋安帝为平固王，安帝的弟弟司马德文由琅琊王降为石阳王。自己称帝登基，国号楚。东晋朝是王谢庾桓四大家族势力平衡下的产物，王谢庾三族相继衰落，桓氏成为唯一独大的家族，桓玄便轻而易举的取而代之了。
桓玄称帝后，骄奢淫逸，游猎无度，政局动荡。益州刺史毛璩根本不买他的账，起兵讨伐他。刘裕便于元兴三年（公元404）二月初一，联合北府兵其他将领刘毅、何无忌、檀凭之等举兵响应。他们在京口誓师后，同时在四处举事，刘裕被推为盟主，宣布卫晋抗楚。起兵杀入建康。桓玄抵挡不住，便挟持安帝和琅琊王西逃荆州。刘裕追击荆州，桓玄大败，舍下安帝，继续西逃。被益州刺史毛璩的部下俘获后杀死，时年38岁，谥号武悼皇帝。桓玄所建立的楚国，宣告灭亡，只存在3个多月。
由于刘裕对东晋有再造之功，他被司马皇家推举为使持节，进封为侍中、车骑将军、都督中外诸军事、徐州刺史、青州刺史、兖州刺史、录尚书事……刘裕从此控制了东晋朝政，成为权顷天下的显赫人物。
这里有一个小插曲，顺叙一笔。桓玄称帝，派刁逵镇守历阳，兵败后被押送建康。刘裕自然不会放过这个报仇雪耻的机会，不但刁逵被杀，刁家一门，几无遗漏，都遭到灭门，一雪刘裕当年绑在马桩上示众的耻辱。刘裕由于少年时代备尝艰辛，所以报复心理格外强烈（司马光评价此事，认为刘裕在这方面，远不如刘邦和曹操）。
从桓玄兴师入都到后来废晋立楚，门阀士族赞同其消灭司马道子父子势力，但不敢公然反对其篡晋，反映门阀士族已经衰微，丧失了左右政局的能力。真正有能力颠覆桓玄的，却是并非士族高门出身的北府将刘裕。昔日在朝中举足轻重的门阀士族，现在大都已无所作为。相应地，东晋皇室由庶族刘裕恢复以后，重建士族与司马氏共治的门阀政治局面是再也不可能了。不过，刘裕以庶族之身收拾残局虽易，代晋建宋却并非可以一蹴而就，而且需要相当长的准备和积累。
但是，庶族代替门阀士族的统治地位，终将带来朝代更替（“易姓”）、政制易形（“易制”）。
刘裕灭桓氏后，要取消司马皇帝的名号，还必须自己先取得更高的威望，因此，刘裕为了灭晋而进行大规模的北伐。正是刘裕抱着这样的目的，所以他的北伐不是真正的北伐，只是为了篡晋而猎取名声，致使后世诟病不断。
刘宋开国
自公元410年至417年间，刘裕北伐，先后消灭了南燕、割据四川的谯纵和后秦等政权，夺取了北方广大地域和长安、洛阳两大古都。但却没有乘胜追击，而是匆忙赶回建康篡位，这或许是古今中外权臣的共同宿命，刘裕又重复了当初桓玄所走过的那条旧路。
此时，刘裕已年过60，自知时日不多，为了在有生之年实现皇帝梦，他便想伺机害死安帝。但安帝的弟弟司马德文很是机敏聪慧，他看到刘裕举止反常，心怀鬼胎，担心安帝有事，便日夜守在安帝的身边。就是安帝的饮食，也是自己亲口尝了之后再给安帝。据说，当初有谶语说过：“昌明之后有二帝”，意思是说在晋孝武帝之后晋朝还要再传两任皇帝。刘裕无机可乘，焦急万分。世上不怕没有机会，就怕有人惦记。刘裕终于逮着个机会：义熙十四年（418年）12月戊寅，琅琊王司马德文突然患病，不得不回府医治。琅琊王刚一离开，刘裕便指使心腹、中书侍郎王韶之迅速潜入皇宫，缢杀了37岁的晋安帝。
安帝死后，刘裕假作遗诏，推琅琊王司马德文嗣位。是为恭帝，改元元熙。司马德文明知其兄为刘裕所害，但朝中尽是刘裕爪牙，自己无一亲信，无法追究，只有忍气吞声。元熙元年（419年）正月初三日，恭帝在刘裕心腹的逼迫下，为表彰刘裕推立有功，下诏封刘裕为宋王。
刘裕本希望晋恭帝司马德文能以禅位的形式把帝位传给自己，谁知一年过去了，恭帝仍毫无让位之意。于是，他派人散布风声，说宋王功高，晋室无用，还不如让贤。朝野风传，晋室压力巨大，好像晋恭帝理所当然就应该把皇位让出来似的。
刘裕急欲登上帝位，晋恭帝佯装不知，而自己又难于启齿，于是，他召集手下朝臣饮酒欢宴。在筵席上，刘裕若无其事地说：“当年桓玄篡位，晋国大权旁落。是我首先提倡大义，复兴皇帝宗室，于是承蒙皇上恩赐而有九锡之尊。如今我的年纪也快老了，地位又如此尊崇，无以复加，天下的事最忌讳装得太满而盈溢出来，那样就不可以得到长久的安宁了，现在我要将爵位奉还皇上，回到京师颐养天年。”
群臣不理解他的真正含意，只是一味盛称他的功德。这日天色已晚，群臣散去。中书令傅亮走出宫门，方才悟出宋王一席话的弦外之音，但是宫门已经关闭，傅亮便叩门请求见宋王，宋王即令开门召见他。傅亮入宫，只说：“我应该暂且返回京师。”刘裕明白他的用意，也不再多说什么，直接问：“你需要多少人护送？”傅亮回答说：“数十人就足够了。”随即与刘裕辞别。傅亮出宫时，只见彗星划过夜空，傅亮拍腿叹曰：“我过去常常不信天象，今天看来天象开始应验了。”
傅亮回到健康，正是夏历四月，正巧因留在朝廷坐镇的尚书左仆射刘穆之病故，晋恭帝遂征召刘裕入京辅弼。刘裕怕政权旁落他人之手，便留次子刘义真镇长安，匆忙结束北伐，自己仓促返回建康。导致关中之地得而复失，尽入郝连勃勃之手，从此之后南朝再无攻入长安之举。
傅亮便按预先和宋王商量好的办法，劝恭帝禅位，并草拟诏书，请恭帝再亲手抄一遍。他一边抄，一边对左右侍从说：“桓玄作乱的时候，晋室已失掉天下，后赖刘公讨伐桓玄，才又使晋朝延续了20年。今日禅位给他，是我甘心所愿。”420年6月11日，恭帝司马德文让位，又重新回到琅琊王府第，后又被封为零陵王。14日，宋王刘裕即帝位。至此，晋室灭亡，刘宋开国。元熙二年（公元420）六月丁卯日，宋王刘裕登基称帝，改国号为“宋”，建立了南朝最大的王国，定都建康（江苏南京），也就是刘宋王国，刘裕自己则是开国皇帝宋武帝。
但是，刘裕年将六旬，继承人刘义符才16岁，而晋恭帝正当盛年，自己死后，恭帝复辟怎么办？当年正是桓玄没有杀掉安帝，才有后来之患。虽然晋恭帝已废为零陵王，他也让自己的皇太子刘义符迎娶了恭帝之女海盐公主司马茂英为太子妃，结为儿女亲家，但是他仍然不放心，唯恐有人再学自己“迎立废帝”的故伎。因此，他下决心非要把恭帝除掉才能安枕。但是恭帝的褚灵媛皇后对丈夫百般卫护，所有的饮食用品她都要先亲自试过才给恭帝，刘裕一时找不到合适的下手机会。刘宋永初二年（公元421）九月丁丑日，刘裕派褚皇后之兄褚叔度求见皇后，就在褚皇后会见哥哥的空当，刘裕派兵从后院越墙而入，杀死了内房中的晋恭帝。8个月后，永初三年（公元422）五月，60岁的宋武帝刘裕病逝，刘义符即位，是为宋少帝。
武敬皇后
刘裕常年从军在外，夫妻欢会时间自是屈指可数，少之又少了。所以，臧爱亲除在早年与刘裕生下长女刘兴弟（就是后来的会稽公主）外，未能再生下一男半女。等到刘裕功业大成时，臧爱亲已经接近人生的暮年了。夫妻虽然相会了，但多年贫困生活的煎熬，使得臧爱亲已不可能再生育了。在“不孝有三，无后为大”的时代，女人没有男嗣本身就有一种罪恶感。但刘裕却不这么想，他始终不忘糟糠之妻，后来虽贵为王侯，接着又登基称帝，他把臧爱亲视若拱璧。臧爱亲可说是他一生中最重要的女人。这是因为：
臧爱亲多年处身于贫穷之中所表现出来的节操，深得刘裕的敬重。两人是贫贱夫妻，曾经相濡以沫，患难与共、甚为相得。刘裕在军中多年，始终穿的是妻子臧氏给他做的“衲布袄”。这也是刘裕孤身在外打拼时的一种力量，一种安慰。可以说，两人志趣相投，都有一颗简朴的心。在生活上刘裕崇节俭，不爱珍宝，不喜豪华，宫中嫔妃也少。宁州地方官曾经奉献琥珀枕，是无价之宝，他视如敝屣。在出征后秦时，有人说琥珀能够治疗伤口，他即命人将它砸碎，分给将领作为治伤药。刘裕本不好色，平定关中后，他得到了美女姚氏（后秦天王姚兴的侄女）十分宠爱。臣下谢晦劝谏他不要因女色而荒废政务，他当晚就将姚氏送出宫去。基于此，臧爱亲不因年老色衰而秋扇见弃。
作为一个没有任何背景的没落贫民，刘裕一直是靠实打实地勇猛血战博取功名。
刘裕到35岁之后，时来运转，封官加爵，40岁时更成了东晋王朝的股肱人物。臧爱亲料到会有这一天，但没想到刘裕竟有这么大的显赫功名被封为豫章郡公。一时间，以前奚落过他们的街坊，嘲笑过他们的邻居，不肯接济的亲戚们，都围着现在是豫章郡夫人的臧爱亲转起了圈圈，都拼了老命地来锦上添花了。阿谀奉承和送礼的数也数不清。
臧爱亲并不为这些所动，虽然丈夫成为权臣，她仍然过着俭朴的生活，清简寡欲。“器服粗素”（《宋书？后妃传》）。不好奢侈享乐；想通过她升官发财的亲属也没有一个达到目的的。
在这方面，刘裕和臧爱亲倒真不愧是患难夫妻。后来刘裕称帝，也和妻子一样，很注意革命传统教育。宫内没有个人的私藏，只将从前使用的农具、破衣专置一室，类似于后来的展览馆，定期开放，组织子女接受革命传统的熏陶，希望能够警醒后人。他的住处也非常简朴，床头上挂着葛布灯笼和麻绳拂以及打了补钉的棉袄。据史载，刘裕常穿木屐，以求勤俭治国。官员给他做脚蹬子，要用镀银的钉子，他不允许，说用铁钉就很好了。他的女儿们出嫁，送钱不多，也没有锦绣珠玉的妆奁。他的整个生活是“未尝视珠玉舆马之饰，后庭无纨绮丝竹之音”（《宋书？武帝纪》）。
因此，刘裕在中国历史上是个比较明智的帝王，堪称一代有为之君。
但他的良苦用心，叙述旧日的苦，有对自己改变自身地位的能力的赞许，他从社会低层走上高层，确实不易，他要用这种有价值的回忆，教育后人，可是这种回顾毕竟是向后看的，对别人不会产生多大的积极作用。
他的孙子孝武帝刘骏继位后嫌宫殿狭隘，便另造了一座玉烛殿。一次他来到刘裕所居的屋子，看见床头用土作障，墙壁上挂着葛草灯笼，麻绳做的拂，不禁鼻子发出嗤笑声。有一个侍中趁机称赞刘裕勤俭有德，刘骏变色说：“一个种田的老农，用这些东西已经算是奢侈了！”其不屑如此，倘若刘裕地下有知，不知作何感想？
熬啊熬，臧爱亲的苦日子终于熬到了头，苦尽甘来，好日子已经呈现曙色，将要灿烂地照拂过来了。臧爱亲却一病不起，无福消受。臧爱亲对子女要求极严，她把刘裕穿了多年补缀多层的破袄赠给长女，让她以此教育后人。臧爱亲深知丈夫创业艰难，更忧虑这些从小长于富贵中的年幼儿孙们败家损业，怕后人不知省俭和谨慎，祸害刘家前程。因此，在她病重不治的时候，她特意把旧的衲布衫交给女儿刘兴弟保存。这件粗衣是当初穷苦时臧爱亲亲手为刘裕缝制的，早已是补丁摞补丁。在交付这件旧衣的时候，臧爱亲叮嘱刘兴弟：以后儿孙中，若有骄横奢侈的，就将此衣警示，不忘先人创业之艰。“后世若有骄奢不节者，可以此衣示之。”（《宋书？徐湛之传》），给长女教导弟妹的权力，并以往日的贫苦作为家训的资料。会稽公主于是将衲布衣珍藏起来。
义熙四年（公元408）正月甲午日，臧爱亲病逝于东城（今安徽定远东南），时年48岁。她没有看到丈夫登基称帝的那一天。这个时候刘裕还只是东晋的豫章郡公，因此晋安帝追封她为豫章夫人，并归葬丹徒老家。
刘裕对患难发妻的早逝非常痛心，当他称帝之后，他追封已经辞世12年的臧爱亲为武敬皇后。《资治通鉴》第119卷记载：八月，辛未，追谥妃臧氏为敬皇后。尽管刘裕拥有嫔妃无数，刘裕始终都没有再立皇后。七个儿子（包括皇太子）的母亲都仅仅封嫔妃而已。臧爱亲生于忧患，可是却能死于安乐，人生也算完整