群臣见拓跋焘北伐意志坚定，便推举了夏国投降的史官张渊、徐辩，进谏拓跋焘。张渊这个人德高望重，曾历仕几国，颇通晓些天文地理，占卜数术，年轻的时候就曾劝前秦苻坚不要南征东晋，结果言中，因此他的观点在当时的人看来还是颇有预见性的。张渊以天时不利为理由，认为北伐必败，即使侥幸能赢，也不利于皇上的统治。群臣也借机附和。拓跋焘心中犹豫，便把崔浩召来，与张渊等人当朝辩论。
崔浩也以天象为根据，认为现在正是北伐大漠的好时机，反驳了张渊的所谓“天时论”。张渊心中不服，又说：“蠕蠕那么个荒凉偏远的国家，得到他们的土地也不能耕食，得到他们的臣民也无法驾驭，而且那些人都是反复无常的野蛮人，没有用，何苦要兴师动众去攻打呢？”
崔浩微微一笑，道：“张大人谈论天象，还是颇内行的，若是论及形势，见解都太一般了。你的话乃是汉朝的老生常谈，放到今天来用，不合时宜呢。为什么这么说呢？这个蠕蠕国的首领，原先是我们魏国叛逃的奴隶。如今消灭主凶，收服人民，让他们重操旧业，怎么可以说没有用呢？漠北高地，气候凉爽，没有蚊虫，水草茂盛，夏天北迁，正是好地方啊，怎么会不能耕食呢？蠕蠕的臣民投降，贵族可以把公主嫁给他们，一般的大臣可以封为将军、大夫，在朝中做官，怎么会无法驾驭呢？而且蠕蠕几次侵入我国，官民都惧怕。如果今年不乘夏天进攻，把他们彻底打败，等到秋天他们又会来骚扰，我们就睡不好安稳觉了。太宗（指魏明元帝拓跋嗣）以来，每年都是警报连连，这又何苦呢！呵呵，世人都说张大人、徐大人通晓方术，预知兴亡，微臣就想问一下了，当初赫连昌灭亡之前，有何征兆么？如果知道了而不说，那就是你不忠，如果你确实是不知道，那就是你的方术根本不行。”
这时赫连昌也在座，张渊等人看看崔浩，又瞧瞧赫连昌，无言以对。拓跋焘十分高兴，对众臣道：“我意已决，张渊这些亡国之臣，意见根本不值得听。”说着，又让崔浩去说服其他那些想不通的大臣。
退朝之后，有位大臣又问崔浩：“如今宋国在南方为患，我们这里出兵北伐，行军千里，谁人不知？假若蠕蠕远逃而宋军又来，那可就危险了！”
崔浩摇头说：“此言差矣。今年如若不把蠕蠕摧毁，则无法抵御南朝之敌。我国自攻破夏国以来，南朝怕得要命，所以嗓门喊得最响，说要出兵防卫淮北。依我看来，等我们击破蠕蠕，凯旋归来，他们都不会来呢。为何这么说呢？想当年刘裕得到关中，留下爱子，精兵数万，良将强兵，还无法守住，最终全军覆没，至今还有人为此悲叹不已。何况如今我国昌明盛世，兵马强壮，他们若来，岂非羊入虎口？而且就算我们把河南给他们，他们也守不住。宋国有自知之明，肯定不会来打，就算用兵，也只是防御边境而已。这些问题，仔细分析一下就能想明白的。我们再来看蠕蠕，他们自恃地处偏远，我国无力攻打，所以夏天放牧牲畜，到了秋天就聚集大军，南下抢掠。如今我们乘着夏天，攻其不备。大军一到，他们必然惊诧，望风而逃。这个季节里，公马护群，母马恋驹，很难驱使，如果没有水草，很快就得困死，我军正可一举消灭。这才是一劳永逸的长久之计，机不可失啊！幸亏皇上已经决定出兵了，你们这些公卿啊，见识太短浅了！”
拓跋焘挥师北上，分兵两路，取道黑山（今内蒙古和林格尔西北）和大娥山，大举攻打柔然。东路由拓跋焘亲自率领，很快就抵达漠南。拓跋焘舍弃辎重，以轻骑兵突袭柔然，杀到栗水（今蒙古西北翁金河）。柔然首领牟汗纥升盖可汗大檀这时哪有什么防备，正乘着水草茂盛，漫山遍野地放牧呢。魏军忽然杀到，柔然的军民个个吓得大惊失色，四散溃逃。可汗大檀烧了帐篷，跑得无影无踪。大檀的弟弟匹黎先驻扎在东面，听说魏军来犯，前来支援，却在半道刚好撞上长孙嵩率领的西路军，一败涂地。
拓跋焘一路追赶，深入大漠，布下罗网，搜索大檀。一直为柔然所压制的高车各部落也乘机抢掠柔然的牛马，归附北魏。这一仗柔然损失惨重，被打得毫无脾气。
拓跋焘追到涿邪山（今蒙古满达勒戈壁一带），因为离都城过于遥远，担心柔然埋有伏兵，才下令退兵。事后有投降的柔然人报告说大檀其实已经身染重病，逃入山中，离魏军前部不过百八十里的距离，魏军撤退，才得以保住性命。拓跋焘在最后关头未能按照崔浩的意思将穷寇追到底，丧失了消灭柔然的一个最佳的时机。
尽管如此，北魏还是收获颇丰。柔然大部投降，可汗大檀羞愤而死，其子吴提继位，号“敕连可汗”（鲜卑语“神圣”之意），柔然开始衰落。北魏还控制了高车的各大部落，实力大增。为了防止柔然的侵扰，北魏从明元帝拓跋嗣时起就开始重修汉代留下的北方
长城，拓跋焘又沿长城自西向东设立沃野（今内蒙古五原北）、怀朔（今内蒙古固阳北）、武川（今内蒙古武川西）、抚冥（今内蒙古四子王旗东南）、柔玄（今内蒙古兴和西北）和怀荒（今河北张北）六个军镇，派遣重要将领到那里守卫，成为保卫都城的军事屏障。柔然对于北魏，一直在军事上处于弱势，六镇功不可没。只是让拓跋焘没想到的是，这六个军事重镇的设立，竟也埋下了一个世纪后北魏衰败灭亡的定时炸弹。
拓跋焘回到平城一看，宋国果然如崔浩预言，尽管口头上嚷嚷着要收复河南的地盘，其实根本就没有动作。拓跋焘大为叹服，加封崔浩为侍中、抚军大将军，更加重用他了。
这时候，安分了六年的宋文帝刘义隆才如梦方醒地正式派兵北伐；北魏已经解决了北面的隐患，可以一门心思地对付宋军了，刘义隆与父亲刘裕在战略上的差距真不是一点两点。宋国派使者田奇来到平城，向拓跋焘宣示主权：“河南以前是我们宋国的国土，中间被你们侵占，我军将收复旧土，但不会进入河北。”（宋国的口气，显然打仗底气不足，先跟对手说好底线，又哪能决一死战？）
拓跋焘一拍桌子，怒道：“我毛发还没干的时候就知道河南是我魏国的地方，你们怎么拿得走？如若你们进攻，我们可以撤军先避锋芒，等到冬寒地净，河水封冻，我军自然会重新占据这些地方。”
宋文帝沉不住气了，元嘉七年（北魏神麚三年、公元430年），他命右将军到彦之与安北将军王仲德、兖州刺史竺灵秀率水军五万，由淮水入泗水，沿黄河西进；骁骑将军段宏率精骑八千直指虎牢，豫州刺史刘德武率兵一万跟进；后将军长沙王刘义欣率兵三万监征讨诸军事。
这年夏天天旱，泗水河里的水都渗入了地下，水军的船只无法正常行驶，每天只走十来里路。到彦之用了三个月的时间才进入黄河，此时已近秋天。前文说过，河南的四个重要据点从西向东是金墉（即洛阳）、虎牢、滑台、础x，北魏的鲜卑军队不适应夏秋之际在河南一带作战，而且河南一带的守军也偏少。拓跋焘听从崔浩的建议，主动撤出守军。
宋军一场漂亮仗没打，就占领了四座城池，西面的部队甚至进抵潼关。司州、兖州统统回归，宋军上下喜出望外。唯独刘裕旧部王仲德面有忧色地说：“你们这些年轻将领没跟胡人打过硬仗，哪里知道胡人狡诈之处。现在他们北退，一定是等着反击呢。假若冬天河水封合，他们肯定会再来的！”
到彦之不过是刘义隆当年放在荆州的旧将，哪里听得进这些，只是一味向朝廷报喜。局促平凉一带的赫连定见宋军恢复河南，翻盘的信心大增，便派了使臣与宋国求和，订立盟约。双方相约共同攻打北魏河北之地，事成之后，以恒山以东归宋，恒山以西归夏。（我在《纵横十六国》中曾说过，这是一个可笑的盟约，早早划定势力范围，却完全不自量力。更何况这样临时抱佛脚的盟约，毫无诚信可言，最终留下一个笑柄，让北魏上下鄙视一把。）
拓跋焘听说夏宋同盟，决定先讨伐夏国。群臣都担心宋军乘虚渡河。拓跋焘又问崔浩，崔浩胸有成竹地分析道：“刘义隆和赫连定联合，看起来很强大，其实都是玩虚的，两家都希望对方先行动。宋军排兵布阵，有一大弱点：在河南东西绵延两千多里的战线上分散兵力，每处不过数千人。这样的阵势，防守还凑合，渡河进攻是万万不可能的。赫连定残根易摧，一攻即溃。届时我军再东出潼关，席卷河南，必获全胜。”
拓跋焘依计行事，命安颉等人在河北待命，只等天气寒冷，就渡河南下。他则亲率大军，进攻平凉。
夏国守平凉的是上谷公赫连社干，拓跋焘派赫连昌去招降不成，便又派安西将军古弼攻打安定。赫连定这时候正打下魏国的鄜城（今陕西洛川东南），听说平凉这边有危险，赶紧带了两万步骑兵救急，却被拓跋焘先算一步，以刚刚得到的高车骑兵袭击。赫连定猝不及防，大败而逃。拓跋焘一路围追堵截，把赫连定的军队困在鹑觚原（今陕西长武西北）上。拓跋焘下令阻断对手的水草资源，夏军很快就人马饥渴，支撑不住。赫连定无奈出兵挑战，被北魏将军丘眷击败，死者上万。赫连定身受重伤，单骑逃跑，一路上收集残部和逃难的数万民众，西保上邽。（痛定思痛的赫连定在一年后率部西进，准备灭掉西秦和北凉后割据河西地区，可惜任务只完成了一半（灭西秦），就被吐谷浑骑兵击溃，身败国灭。）
赫连定的失败使关中各地的夏军再无战心，北魏很快就乘胜攻克安定、平凉、长安、临晋、武功等地，尽得关中。而东线的河南一带，也已捷报频传。
正如明眼人崔浩所见，宋军的兵力过于分散，面对阵容强大的北魏铁蹄，极难胜任防御黄河的任务。这就好比下围棋，每个局部都想占住，然而处处都是薄形，结果自然是处处受攻，没有一处能真正转化为实地。
形势判断过分乐观的到彦之却不觉得危机将至。他企图派偏将姚耸夫北渡黄河，进攻冶坂（今河南孟县西）。姚耸夫被安颉打得大败而回，到彦之仍没有认识到战情的紧迫。他只是简单布置了沿河的防线，就和王仲德一起回保东面的东平，以为河南四镇可以高枕无忧了。
神麚三年（公元430年）的寒冬来得特别早，黄河北岸待命了几个月的魏军终于行动了。十月下旬，冠军将军安颉率领大部军队从委粟津（今河南范县东）渡过黄河，进逼宋军最西面的据点金墉。自上一次魏宋河南大战以来，金墉城的城防已有多年失修，宋军得城不久，也没有粮食储备。守将杜骥根本没有死守的打算，只是害怕这样逃跑要被治罪，就骗洛水边上带有小股部队的姚耸夫说：“金墉城防已经没问题啦，粮食也够吃，就缺人呢，将军若来助我，必立大功。”
姚耸夫刚打过败仗，立功赎罪心切，就傻傻地来金墉报到。来到城头一看，嘿，这都什么破墙啊，怎么守哪？眼看魏军就要杀到城下，咱们跑吧，一扭马头就往南撤退。
狡猾的杜骥也跟着逃跑，回到建康跟宋文帝说：“微臣本想固守金墉，怎奈姚耸夫来到城下就逃跑，军心沮丧，难以控制，以致失守。”宋文帝很怒，就下令把姚耸夫斩首。（宋军战斗力本身就弱，姚耸夫在当时还是相当勇猛的一员偏将，却被自己人陷害而死；宋文帝文治不错，军事水平却十分低下，对自己将士的性格、能力了解太少，比太武帝拓跋焘差得太远了。）
安颉攻下洛阳，将宋军留下的五千多将士全部杀害，继而与龙骧将军陆俟攻打虎牢，迅速将其攻破（这一战果比上一次大战大有进步。从中也可看出，由于魏军并不重视城池本身的防御工事，而更看重机动兵的战斗力，他们在占据这些城池时并没有花大工夫建设和改造城防，导致虎牢这样重要的关口已经不再那么易守难攻了），宋军守将尹冲被俘后被杀，荥阳太守崔模投降。
这时河北的魏军集结在东平西北面的七女津，到彦之怕魏军渡河，忙派偏将王蟠龙到河中夺取北魏的渡船，却被魏将杜超等人所杀。洛阳、虎牢相继失守，青州西面只剩下滑台一处还由宋将朱修之苦守。到彦之不听部将垣护之的劝阻，也不再协防滑台，下令退兵。
到彦之打算焚烧战船，步行南撤。王仲德劝道：“洛阳、虎牢被攻陷，势所难免。现在敌军离我军尚有千里，滑台还有强兵把守，如若放弃战船南逃，军心散乱，必成溃散之势。于今之计，应乘船入济水，至马耳谷（今山东东平陵城东南）口，再作商议。”
宋军便顺济水南行。行军艰苦，到彦之多年的旧疾眼病忽然复发，疼痛难忍，军中将士也有不少人染上瘟疫。到达历城（今山东济南）时，到彦之终于不愿这么缓慢地走水路了，下令烧船弃甲，步行逃往彭城。所谓兵熊熊一个，将熊熊一窝，主帅这一撤，各地守将也无心恋守。兖州刺史竺灵秀南下逃往湖陆，青州、兖州一带的宋军陷入一片惊恐。
东线的魏军南渡，兵临济南，济南城中只有几百名将士，由太守萧承之率领。这位萧承之就是将来建立南齐政权的萧道成的父亲。此人颇有些见识，魏军声势浩大，他命手下放弃守备，大开城门，以待魏军。众人不解，他说：“现在我们守卫孤城，形势危机，若再示弱，城将不保。不如给敌人留下我军强劲，并不惧怕他们的印象。”魏军来到城下，果然害怕城中有伏兵，反而带兵撤退。（这又是一例空城计，历史上这样真实的战例还是不少的。）
宋国的其他各城大多望风而遁。魏将叔孙建追击竺灵秀，在湖陆把他打得落花流水，宋军又损失了数千人。到彦之、王仲德回到建康，此仗败得丢盔卸甲，府藏武库都已空虚。宋文帝对到彦之的一片信任，全化作泡影，失望气愤之余，免了到彦之、王仲德的官职，听候处置