袁世凱死後,黎元洪出任總統。1916年10月馮國璋被選為副總統,11月在南京宣布就職,仍兼江蘇督軍。馮國璋就職副總統後,便在南京設立副總統辦事機構,並以國家元首的姿態公開接見中外記者,大談治國方略,主張中國建設要漸次進行,反對國民黨的激進方針,一時政治上頗為活躍。1917年初,江蘇商民鑑於馮國璋坐鎮南京,維護社會治安有功,便發動集資為馮國璋豎立「豐碑」;未幾,江蘇軍界聯合會聞知,亦願加入發起,改為建立馮公生祠,取華符之「華」字名為「華園」,並擬鑄造銅像。事為馮國璋所聞.他「恐為人所譏議,立即致函辭謝」,謂:「華園一事千萬打消,如不能中斷,請即改為勸工場,以利民生經濟。」不久,將建華園和鑄像之捐資建成貧民工廠和勸工場,此事一時傳為美談,並為馮國璋增添了幾分光彩。不僅如此,馮國璋更以反帝制餘孽面孔出現。段祺瑞出任國務總理後,將閣員名單派人送到南京請馮核准,馮一看名單上竟有曹汝霖,便對身邊的人說:「這張名單我能同意嗎?連帝制餘孽也要當閣員了,太不象話了,芝泉(段祺瑞)真是胡鬧呀,我準備把它退回去?」1917年2月,馮國璋赴京調解黎元洪與段祺瑞因對德斷交而引起的「府院之爭」。馮到京後,住在禁衛軍司令部,整天忙於接見軍政各界要人,發表個人對時局的看法,「欲求對外一致,不可不先求內政刷新」,一時贏得各界的好感。他還在中國大學以「教育救國」為題演講,獲得了師生的歡迎。3月,段祺瑞因不滿國會和黎元洪的外交政策而辭職赴津,馮國璋受黎之託親自赴津挽留,並與段聯袂回京。馮見段剛愎自用,目中無人,最後表示無力調解。回南京後,馮國璋預料到段祺瑞必將對己不利,於是決定集聚實力,迎擊段祺瑞的種種挑戰。他聯合江西督軍李純、湖北督軍王占元,建立了「長江三督」勢力,又竭力籠絡各省軍閥和英、美勢力,從而伏下了未來的直皖之戰。不久,黎元洪在美國公使「允為後盾」的支持下,斷然下令免掉段祺瑞國務總理的職務。段憤然赴津,立即煽動「督軍團」倒黎,於是皖系各省軍閥在段的指揮下,紛紛獨立,使黎進退兩難。這時,馮國璋曾致電錶示支持黎元洪,並建議由王士珍出來組閣。由於王士珍首鼠兩端,害怕招致災禍,一時沒敢答應;段卻趁機派其親信徐樹錚慫恿安徽督軍張勳出面調停,且暗示使清遜帝溥儀復辟,結果黎氏受騙,解散國會,引出了一場復辟的醜劇。
1917年7月1日,張勳在北京復辟,黎元洪避入日本公使館,致電南京請馮國璋代行總統職權,維護共和。馮國璋於7月3日通電全國指出:「國璋在前清時代,本非主張革命之人,……國璋今日之不贊成復辟,亦猶前之不主張革命,……彼(指張勳)恃京師為營窟,挾幼帝以居奇,手握主權,口含天憲,名器由其假借,度支供其虛糜,化文明為野蠻,委法律於草莽,此而可忍,何以國為!」第二天,馮國璋在軍署接見英國領事時說:「中國政體已走上了共和。不容許再有皇帝,我可以告訴你們,我跟段總理都是站在反對地位的。」復辟敉平,馮國璋於14日致電「奉還大總統職權,請黎元洪復職」。黎愧於解散國會,故決心去職,致電馮國璋說:「慚魂雖化,枯骨猶生,黽載河間,奠我民國。」段祺瑞企圖乘機使其親信倪嗣沖接替馮國璋江蘇督軍之職,於是大施調虎離山之計,18日致電促馮北上就大總統之職,並派靳雲鵬為專使赴南京迎馮國璋北上。靳對馮說:「段此次組閣表示必可聽馮四哥的話,二人同心,其力斷金!」馮深知段之野心,不為靳語所迷惑,斷然拒絕段祺瑞的安排,並針鋒相對地提出離寧條件:調其部下江西督軍李純為江蘇督軍,陳光遠為江西督軍,第十五、第十六師為總統衛隊。靳致電段祺瑞報告,段則以吳光新、傅良佐為長江上游警備總司令兼四川查辦使和湖南督軍為交換條件,答應了馮的要求。馮國璋鑑於自己的勢力在長江下游得以鞏固,便於8月1日率第十六師抵達北京就職。
馮國璋進京後,先拜訪黎元洪,再次力言勸其復職;又派內務部總長湯化龍為大總統代表,進宮答謝清廷對他榮升大總統的祝賀。隨後,他便將王士珍、段祺瑞請進府來,敘「北洋三傑」之友誼。馮極為親切地說:「咱們老兄弟三個連枝一體,不分總統、總理、總長,只求合力辦事,從今而後再也不會有什麼府院之爭了。」馮把「府院一體,內外一心」的高調呼得山響。然而這僅是表面文章,馮國璋決不是第二個黎元洪。他是一個有軍隊、有地盤、有勢力、有野心的不低於段祺瑞的實權人物,他決不象黎元洪那樣甘心當「活動的蓋印機器」。因此,馮國璋來京就職代大總統,無疑加深了馮段之間的矛盾,促進了北洋集團的分裂。段祺瑞剛愎自用,非常看不起馮國璋。馮國璋來北京前夕,段祺瑞聽到馮用債券收買上海外商存土(鴉片),借製藥為名,從中牟利的消息後,便對身邊人說:「我與馮是舊友了,此君有個錢癖,固所深知。但以今日環境論,我絕不能反對,因小失大,致傷感情。且系蘇省官紳合辦,彼既事前未徵求我的意見,我只好裝作聾聵。」段祺瑞宣揚散布馮國璋有「錢癖」,並非無端攻擊,馮國璋自保定發跡後,通過各種搜刮手段,已陸續聚斂了大量的財富,成為軍閥、大地主和大資本家三位一體的典型人物。例如,他在原籍河間和阜城、興濟等地有土地3000餘畝;在江蘇與張謇合辦鹽墾公司。購地70萬畝;在詩經村、天津、北京有房千餘間;在直隸夾山、遵化、興隆有3座金礦;在南京、北京、天津有10座錢莊和銀號;並且在中華匯業銀行和「北四行」均有大量股票和存款。儘管如此,仍不能滿足其貪慾。當他走進總統府看到三海活蹦亂跳的魚群時,卻又動了心計,正好一個姓李的嬖人對其買好,進言說:「三海之魚,自明清以來從未網罟過,如果打出賣給魚商可值10萬餘元。」李某見馮猶豫不定,又說:「成文規定,三海魚鳥花草歷來是皇帝總統私產。」於是,馮國璋招魚商捕之,議價8萬元。從此,馮國璋落得貪婪名聲,所以段祺瑞是很藐視他的。
段祺瑞上台後,以「再造共和」功臣自命,獨攬軍政大權,拒絕恢復《臨時約法》和召開國會。於是孫中山以維護《臨時約法》為號召,聯絡海軍總長程壁光及西南軍閥於1917年9月在廣州建立了與北京政府對峙的護法軍政府。段祺瑞面對此局勢,立即決定對南方實行「武力統一」的軍事討伐。9月18日零陵鎮守使劉建藩和駐衡陽湘軍旅長林修梅通電宣布湖南「自主」。10月6日,護法戰爭首先在湖南爆發。正當段祺瑞全力對南方用兵之際,代大總統馮國璋卻提出了與段祺瑞的「武力統一」對立的「和平統一」政策,即保持西南各省軍閥割據現狀,以換取他們對北京中央政權的承認,保持中國名義上的統一。馮為了貫徹他的「和平統一」政策,利用他直系軍閥首領的地位,密遣其婿陳之驥赴湘,運動王汝賢、范國璋聯名通電主和。於是王、范通電:「懇請大總統下令徵求南北各省意見協議組織立法機關,議決根本大法,以垂永久而絕紛爭……。」10月20日馮又指使「長江三督」聯名提出停止湖南戰爭,撤回湖南督軍傅良佐,改善內閣和調整倪嗣沖安武軍駐防四項主張。段對南方戰爭徹底失敗。12月25日,馮國璋發布「弭戰布告」,要求南北兩軍「於軍事上先得各方之結束,於政治上乃徐圖統一之進行。」馮國璋的「和平統一」政策暫時占了上風。
段祺瑞雖然一度下野,但皖系實力仍存無損。因此段下台後,竭盡全力破壞馮的「和平統一」政策。首先拉攏直系內部主戰派首領直隸督軍曹錕於12月召開「天津會議」,煽動繼續對南方用兵;同時,段還指示徐樹錚勾結奉系軍閥張作霖派兵入關,以威脅馮國璋。馮雖有十五師、十六師,卻仍感力量單薄,而敷衍西南的「和平統一」政策因進行緩慢而無效果,致使護法戰爭於1918年1月中旬重新交火。段祺瑞的陰謀得逞,馮在北京陷於孤立。