前身為廣東軍隊建國粵軍第一師。「四軍」是國民革命軍的始創部隊之一，更是北伐的主力，曾在湖南及江西分別大敗吳佩孚及孫傳芳，奠定北伐的成功；因而贏得「鐵軍」的稱呼。北伐途中國民黨實行分共，四軍之下本來共產黨員甚多。結果四軍內部份由共黨掌握的部隊在南昌發動兵變(「南昌起義」)。之後原四軍各有際遇，部份成為共產黨部隊；部份在各次內戰中被消滅；部份投向蔣介石陣營，發展成十九路軍，成為一二八事變中的著名抗日部隊；而部份於北伐時留守廣東的部隊，則一直維持至抗日戰爭正式爆發；以至抗戰後的內戰。

1925年7月，國民政府正式在廣州成立，統一各駐粵軍隊為國民革命軍。粵軍第一師改為第四軍,下轄三師。當時編制如下：

軍長：李濟深
副軍長：陳可鈺
參謀長：鄧演達
政治部主任：麥朝樞
第十師
師長：陳銘樞
副師長：蔣光鼐
下轄二(十八團蔡廷鍇)、二十九團(孫繩)、三十團(戴戟)
第十一師
師長：陳濟棠
副師長：徐景唐
下轄三十一團(余漢謀)、三十二團(香翰屏)、三十三團(黃鎮球)
第十二師
師長：張發奎
副師長：朱暉日
下轄三十四團(許志銳)、三十五團(繆培南)、三十六團黃琪翔
獨立團(二十四團)
團長：葉挺