力量也逐渐加强，军权逐步集中到自己手中。
陈炯明和一般军阀不同的地方，在于他具有民主思想，反对军治、党制，提倡民治。孙中山的理想是成立一个正式的中央政府，领导全国革命，而陈炯明所倾心的，是联省自治。“五四”运动后，一些文人学者认为，既然南北政府都无力统一全国，与其连年征战，不如各省先行自治，把自己的事情办好了，再实行联省自治。如此便可以不通过武力而最终实现全国统一。因此，联省自治的主张一经提出，不仅风靡南方各省，而且迅速波及北洋政府治下的北方省份。
然而孙中山成立正式政府和选举总统的主意已定。1921年1月12日，非常国会在广州复会。孙中山号召国民党人，像推翻清政府、袁世凯那样，再发动一次全国性的革命，来推翻北洋政府，他宣称：“北京政府实在不是民国政府。我等要造成真正民国。”陈炯明则反对孙中山的意见，在他看来，一旦广东成立正式政府，结局只有一个：南北之间将再次陷入战争之中。在一次谈话中，他说，“因现下时机未熟，如广东选出总统，北方必借口来打，是自树目标，使人攻击”。陈炯明认为广东基础尚未巩固，一有战事，实在危险；届时他期望的“地方自治”还是建设“模范省”，统统都变成镜花水月。
但赞成孙中山意见、主张成立广东政府的还是主流派。1921年4月召开的非常国会上，表决通过了中华民国政府组织大纲，在这个大纲中，只规定了大总统的产生和权限，却没有任期，也没有规定政府的组织架构。一切政务、军务、内阁任免，均由大总统“乾纲独断”。会议采用记名投票，“以示负责”。结果孙中山得218票，陈炯明得3票，废票一张。孙中山当选为中华民国大总统。整个过程仅用了不到两个小时。
以下情势发展也正如陈炯明所料。1921年10月，国会非常会议通过了孙中山提出的北伐议案，在做北伐准备的巡视中孙中山到了南宁，多次召见陈炯明，商谈北伐事宜，反复向其说明北伐的重要意义，希望不要错过时机。但陈炯明仍然主张先定省宪，以确立民治的基础；再议国宪，循序渐进地推进统一。他说自己并不反对北伐，只是现在兵疲将惫，囊空如洗，根本不可能远征北方。
10月12日，孙中山致电陈炯明催付北伐费400万元，陈电复只允付200万元，而且还要等到北伐军出发后再交。孙中山得电后极为愤怒，想罢了陈炯明的职。胡汉民唯恐事情闹大、造成分裂，因此竭力调停。孙中山后来又多次电召陈炯明回广东，但陈一拖再拖，拒不回粤。
10月29日，孙中山在梧州设大本营，一面派汪精卫回广州筹饷；一面躬亲督师，溯江北上，向桂林前进。他愤然表明：“我已立誓不与竞存（陈炯明字）共事。我不杀竞存，竞存必杀我。”看得出，两人关系此时已几近崩溃。
炮轰总统府（1）
1922年2月3日，孙中山以大元帅名义发布动员令，10万余大军分路出师北伐。但由于连年战乱，湖南方面宣布保境息民，公开拒绝北伐假道。入湘计划于是告吹。3月26日，孙中山在桂林召开会议，决定班师回粤，改道江西北伐。
4月9日，孙中山决意变更计划，令在桂各军一律返粤，潜师而行，到了梧州，陈炯明才知道。16日，孙中山在梧州召开军事会议，陈炯明仍避而不见。孙中山再一次愤怒，想将陈炯明的总司令、陆军总长、内务总长、省长等职一概免去，但胡汉民以操之过急恐生变为由，极力劝阻；另一面，胡汉民又劝陈炯明去孙中山面前认错，“照总理素来待人宽大的胸襟，定可以不咎既往的”。但等了三天，陈炯明还是没有出现，孙、陈二人的矛盾再次激化。孙中山随后解除了陈炯明粤军总司令一职，令其所属部队直属于大元帅。
4月23日下午，孙中山在越秀山总统府召开全体幕僚会议。大本营内有两种意见，一是主张暂缓北伐，先清内患，解决“陈家军”；二是立即转道北伐，避免与陈炯明直接冲突，双方仍留转圜余地。
孙中山赞成第二种意见，“竞存叛迹未彰，在桂粤军数年奋斗，犹欲保存”，因此，他决定亲自督师北伐，“两广仍交竞存办理，给以殊恩，当能感奋”。
孙中山急图北伐，与北方形势的发展，不无关系。4月下旬，第一次直奉大战爆发。孙中山与奉、皖军阀一直有秘密接洽，结成三角同盟。孙中山深感这是联合奉、皖军阀，夹击直系的千载良机，必须立即出兵策应，他已无暇顾及解决陈炯明问题了。
但出乎意料的是，直奉开战，仅及一周，奉军便被吴佩孚击败，狼狈退回关外，南北夹击直系的计划，化为泡影。但南方的北伐，却如弦上之箭，不得不发了。
1922年5月4日，孙中山以陆海军大元帅名义下令从韶关北伐，李烈钧为北伐军总司令，许崇智为三路总指挥。北伐军在前进途中秋毫无犯，纪律严明，声势大振，势如破竹。
北洋总统徐世昌在巨大的压力之下，宣布辞职。由于孙中山曾一再发表政治宣言，承诺只要徐世昌下台，他亦将同时下野。因此，舆论普遍认为，徐世昌下台后，停止内战，和平统一，终现一线曙光。6月3日，蔡元培、胡适、高一涵等200多位各界名流，联名致电孙中山和广州非常国会，呼吁孙中山实践与徐世昌同时下野的宣言，可见这个要求在当时是颇得人心的。但徐世昌下台后，皖系又借机抬出黎元洪复任大总统，遭到孙中山的通电反对。
这一边，当陈炯明被孙中山罢黜的消息传出，驻守在广西的粤军，顿时沸反盈天。1922年５月８日，孙中山委任陈炯明的部下叶举为粤桂边督办，以示对粤军的信任。然而叶举并不领情，5月20日，叶举率驻桂之粤军第一军所部50余营突然开入广州。同时，发电要求孙中山恢复陈炯明粤军总司令和广东省省长职。
汪精卫和马君武等到惠州征求陈炯明的意见，陈炯明信誓旦旦地说：他从党谊和人格起见，必无反对先生之理，对于部下各将领，也一定完全负责；倘有不听命令，而反对先生者，他唯有自杀以谢国人。
此时的陈炯明似乎并未最后下定反叛的决心，但随着矛盾的不断激化、升级，终于使他作出“天下大不韪之举”。
1922年6月1日，孙中山自韶关到达广州，一是想震慑陈炯明部队的滋闹，二来想让前方将士，知后方并无变故，可以安心前进。到广州后，孙中山想马上召见叶举等当面谈话，解决军饷和移防问题，但叶举却借故在一天前离开了广州。孙中山非常愤怒，曾密令海防司令陈策开炮轰击“陈家军”，但被劝阻。
陈炯明则在惠州隐居。各界吁请陈炯明回省的函电，铺天盖地，见诸报端；前往劝驾的使者，车水马龙，络绎不绝。甚至连陈独秀也到了惠州，劝陈炯明不如加入共产党，领导华南地区的革命。
6月2日，孙中山在总统府设宴招待粤军将领，竟没有一个高级军官应邀前来，只来了几个中下级军官。
孙中山一连拍了三封电报，要求陈炯明立即到广州面商一切，又派人到惠州催驾。但陈炯明拒绝在这个时候到广州。他说，在省城军队撤出之前，他都不打算到广州。陈炯明曾经说过，一旦粤军叛孙，则“天下之恶皆归焉”，他不在这个时候去广州似乎是为了避嫌。
然而，局势在继续恶化，6月3日，叶举宣布广州戒严，大街通衢，遍布岗哨。6月12日，孙中山邀请广州报界出席茶会，决心通过报纸，向陈炯明摊牌。孙中山不仅将他与陈炯明的矛盾公之于众，而且还语气颇为严厉地说：
现在我得向你们全体提出请求：请你们在10天内，以同一口径对他们发出警告。告诫其撤到距离广州30里以外地区。若他们置之不理，时间一到，我将用3寸直径的大炮发射有毒炮弹轰击他们。我会提前9小时发出通知让市民躲避，接着的3小时内，达姆弹将落到他们头上。那样的话，他们60余营的兵力会全部完蛋。
炮轰总统府（2）
据记载，说这番话的时候，孙中山的表情十分愤怒，显然有些话已有情绪成分，但孙中山显然忽略了这个事实：此时陈的部队有5万余人在广东，孙中山只有500名的卫队，双方实力相差实在太悬殊了。
双方的火药味越来越浓。6月15日深夜，粤军高级将领在郑仙祠召开紧急会议，决定发动军事政变，驱逐孙中山下台。就在这危急关头，“陈炯明在惠州派秘书陈猛荪持亲笔信劝止叶举……信大意说孙中山出兵北伐如果能胜固好，如其失败，我以陆军部长身份暂将部队调返东江训练，做充分准备，到时仍可收拾残局。陈猛荪持信送到郑仙祠。叶举阅后，当着陈猛荪的面将信掷落地上，说陈炯明不知军事，还说：回东江哪里找吃的？叫陈猛荪回报陈炯明事情已不容不发……陈炯明怒不可遏地把茶盅也打碎了。”
叛乱终于发生了。6月15日，叶举先是通电要“孙中山与徐世昌同时下野”；当晚又在白云山下司令部召集旅以上军官会议，会上有人主张立即冲进总统府活捉孙中山，有人主张先炮击总统府，将孙中山赶出广州。最后决定炮击方案，并确定熊略为行动指挥官。熊略受命后，认为孙中山待人不薄，遂派亲信到总统府向孙中山秘书林直勉暗中通报。
其实早在当晚10点，总统府已接到一军官电话：“今夜粤军或有不轨行动，将不利于总统，务请总统离府。”但孙中山认为是谣言，不肯信。当林直勉12点又得到类似消息时，孙中山仍不肯相信，他说，当年陈炳焜、莫荣新在广州如此作恶多端，尚不敢公开叛乱，何况陈炯明、叶举等人跟随自己多年，粤军第一军是一手培植起来的，不会敢于公然发难。当时，观音山总统府只有50多名卫士，所有的武器，就是34支手提机关枪、一万多发子弹。队长姚观顺直接负责保卫孙中山与宋庆龄所住的越秀楼。
16日凌晨1点钟，已经能听见总统府外的部队的集结声和嘈杂声音了，林直勉等三人再来劝孙中山离开，可是孙中山说：陈炯明“胆敢作乱，我便要负平乱之责，如力不如，唯有一死，以谢我四万万同胞。”已是凌晨三点，林直勉仍无法劝说孙中山离开总统府，见情势越来越危急，林直勉只好强挽着孙中山离开了总统府。
这是宋庆龄后来对当天所发生回忆：“6月15日之夜2时，我正在酣梦中，忽被先生叫醒，并催速起整装同他逃出，他刚得一电话，谓陈军将来攻本宅，须即刻逃入战舰，由舰上可以指挥剿平叛乱；我求他先走，因为同行，反使他行动不便，而且我觉得个人不致有何危险，再三婉求他，始允先行，但先令50名卫队全数留守府中，然后只身逃出。”
孙中山从总统府右侧的粤秀街走出，他身穿白夏布长衫，戴墨晶眼镜，很像个医生。在街上碰到叛军，林直勉说：“我的父亲患了重病，所以不得不深夜请医生到家里诊治。”泰然自若的孙中山并没有引起叛军怀疑。一路上，他们又数次与叛军遭遇，但是孙中山的态度一直很从容，他们沿着长堤一直走到海珠公园附近，公园是江中心一个不满1000平方米的小岛，当时海军的总司令部就设立在这里。
他们雇了小船渡河前往海珠军部。行至河中时，有哨兵喝止，喊口令，而他们又答不上来。紧急之下，林直勉大声喊：我是总司令的朋友，来自总统府，有要事报告。海军总司令温树德亲自出来，林直勉说：“大总统在此。”这才登岸。
叶举部署了第二师4000多叛军围攻总统府，但他们的多次冲锋均被总统府卫队击退。下午4时，总统府终被占领，财物被抢劫一空，大批文件被烧毁。
叛军从后门冲进来时，卫士马湘和黄惠龙护着宋庆龄从前门逃出来，埋伏在附近的叛军冲过来的时候，马湘把自己手中的50多枚银元撒在地上，趁叛军抢钱之时，匆忙躲进了对面小巷的一家开着门的民宅中。
宋庆龄后来写下了《广州脱险》一文，详细记述了她在叛军枪林弹雨中脱险的经过，被她称为“将来自传中最动人之一章”。
他走了半小时以后……忽有枪声四起，向本宅射击……叛军喊着：“打死孙文！打死孙文！”
到了8时，卫队的枪弹几乎用完，队长劝我下山……我们4人，在地上循着那桥梁式的过道爬行……我们四面只听见流弹在空中飞鸣。有一二回正由我鬓边经过。后来，我再也走不动了，凭两位卫兵一个抓住一边肩膀扶着走。我心想再也熬不过了，请他们把我枪毙。四周横七竖八躺的都是死尸……
我们跑过一家矮小的农舍去躲避，我昏倒在地……枪声沉寂之后，我化装成村妇，不知走了多少路，最后来到了一位同志的家中……那夜通宵闻见炮声……最后听见战舰开火的炮声，才使我如释重负，知道中山先生已安全无恙了。
那天晚上，我终于在舰上见到了中山先生，真是死别重逢。
一路艰辛的宋庆龄终于住进了中山大学的校长钟荣光家，由于过度紧张和劳累，她在钟家流产了，这也是她一生中的唯一一次妊娠。这一路的磨难对于她而言是九死一生，而她在此事上表现的临危不惧和几年来辅助孙中山先生的功绩，使国民党中原来一些对他们婚姻不满的党员也开始对她刮目相看。
“永丰”舰上的55日
从1922年6月16日到8月9日的55天，孙中山一直住在永丰舰上。这艘舰是1910年向日本订购的，1917年，北洋舰队第一舰队司令林葆铎拥护护法运动，脱离北京政府，率领舰队开赴广州，自陈叛乱后，孙中山一直以此舰为座舰指挥舰队和陈的叛军作战，他逝世后，此舰改称为“中山”舰，装有8门大炮，1938年在对日作战中，中山舰被日军击沉，沉没在武汉附近的长江金口，全体官兵殉国。
孙中山移驻“永丰”舰后，外交总长伍廷芳即来谒见。孙中山嘱伍廷芳尽快把广州叛乱