在清末海军的基础上，先由中华民国临时政府，继由北洋政府、国民政府建立和统率的海军。1911年（清宣统三年）武昌起义后，清政府海军巡洋、长江舰队所属舰船纷纷起义，加入革命行列，并以此为基础，建立中华民国海军。其发展过程可分为两个阶段。

1912～1928年的海军1912年1月，中华民国临时政府在南京成立，设海军部，黄钟瑛任海军部总长，汤芗铭任海军部次长兼北伐海军总司令。4月，临时政府迁北京，增设海军总司令处。改任刘冠雄为海军总长，黄钟瑛为海军总司令。至次年7月编成第1、第2舰队和练习舰队，共有舰艇40余艘，总排水量约4万吨。对清末主要海军学堂进行部分调整：将江南水师学堂改为南京海军军官学校；福州船政学堂分为制造学校和马尾海军学校；烟台海军学堂、广东水师学堂分别改为烟台海军学校、广东海军学校；改水师练营为海军练营。1912～1913年，先后将江南船坞、大沽船坞、福州船政局收归海军部管辖。1914年12月，海军部改海军警卫队为陆战队（营）。1915年，海军部将接收之吴淞商船学校与南京海军军官学校合并，改名为吴淞海军军官学校。1917年7月，海军总长程璧光、第1舰队司令林葆怿率“海圻”等7艘舰船，由吴淞南下广州，与先期到达广州的“海琛”巡洋舰连同原驻粤2艘舰艇和后来抵粤的练习舰队之“肇和”巡洋舰共11艘舰艇参加护法。从此，海军分裂为北洋政府海军和广州革命政府海军，以后又出现东北海军.

北洋政府海军1917年7月，北洋政府内阁改组，任刘冠雄为海军总长，饶怀文为海军总司令。将留北洋的舰艇重新编组为第1、第2舰队和练习舰队，主要活动于长江中、下游和福建海面。12月改海军总司令处为海军总司令公署。1918年1月，在福州船政局内组建海军飞机工程处，后改名海军飞机制造处；4月，改艺术学校为海军飞潜学校。1919年制成第一架水上飞机（至1937年共制成各种飞机20余架）。1919年7月，海军部在哈尔滨设吉黑江防筹备处。次年5月，该处改为吉黑江防公署，并以“江亨”等8艘舰艇组成吉黑江防舰队。1922年4月，吉黑江防舰队改归奉天省节制。第一次直奉战争中，海军助直反奉。1923年6月，海军陆战队在福建扩编为暂编海军陆战队第1混成旅。1924年3月，由粤北上之“海圻”等舰艇编为渤海舰队。同年，厦门船坞移归海军部管辖。1927年3月，海军总司令杨树庄率第1、第2舰队和练习舰队宣布脱离北洋政府，加入国民革命军。不久，渤海舰队为奉军吞并。至此，北洋政府海军瓦解。

广州革命政府海军1917年9月，中华民国军政府在广州成立，程璧光任海军总长，林葆怿任海军总司令。将南下各舰编为护法舰队，原广东舰艇编为江防舰队，由江防司令部管辖。1918年7月，总裁制军政府成立，林葆怿任政务总裁、海军部长兼海军总司令。1920年11月，孙中山重组军政府，任汤廷光为海军部长。任林永漠为舰队司令兼署理海军总司令。1921年5月，中华民国政府在广州成立，仍任汤为海军部长。1922年4月，海军闽、鲁两派矛盾激化，部分舰艇策划北归，非常大总统孙中山遂下令收回在粤海军军舰，任温树德为海军总司令、陈策为江防司令。6月，陈炯明叛变，海军被陈控制。1923年3月，陆海军大元帅大本营在广州成立，任陈策为海防司令、杨廷培为江防司令、温树德为舰队司令。12月，温被北洋政府收买，率“海圻”等6舰由汕头驶往青岛。1924年5月，大本营将留粤的“飞鹰”等舰编为练习舰队，潘文治任司令，归粤军总司令节制。1925年7月，国民政府在广州成立，军事委员会设海军局。1927年3月，北洋政府海军总司令杨树庄率部参加国民革命，被任为国民革命军海军总司令。随即指挥所部配合北伐军攻占淞沪、南京，后又在吴淞至山东沿海与渤海舰队多次作战。9月，成立鱼雷游击队。至此，国民政府海军辖4个舰队，共有舰艇44艘，总排水量3万余吨。1928年2月，海军陆战队成立第2混成旅，并正式组建陆战队司令部。旋又将2个混成旅缩编为2个独立旅。12月，军政部设海军署。

东北海军第次直奉战争中奉军败北后，张作霖于1922年8月在东三省保安总司令部设航警处，管辖吉黑江防舰队，筹建海防舰队。1923年1月，在葫芦岛创办航警学校。1924年东北海防舰队成立，辖“镇海”等4艘舰艇，以营口为基地；设江海防总指挥部于奉天（今沈阳），沈鸿烈兼总指挥。1926年1月，东北江海防总指挥部改组为东北海军司令部，沈鸿烈任司令。1926年11月起东北海军司令部陆续接管渤海舰队。1927年6月，改称东北海军总司令部，张作霖兼海军总司令，沈鸿烈任副司令兼代总司令，将江防、海防、渤海三舰队合并为东北联合舰队。张作霖旋组织安国军政府，任张宗昌为海军总司令，将东北联合舰队改编为第1、第2舰队和吉黑江防舰队。1928年7月，张学良任东北保安总司令兼海军总司令，将安国军各舰队改称东北海防第1、第2舰队和江防舰队，辖“海圻”等26艘舰艇，总排水量近2万吨。

1929～1949年的海军1929年4月，国民政府将军政部海军署扩充为海军部，杨树庄任部长，陈绍宽任政务次长代理部务。直辖第1、第2舰队、练习舰队、鱼雷游击队和测量队、巡防队、航空队，共有舰艇50艘左右，总排水量近3.5万吨。东北海防第1、第2舰队编为第3舰队（未实行，至1933年7月5日方正式纳入海军编制序列，改称第3舰队），仍隶属东北边防军司令长官部。北伐时留粤的舰艇编为第4舰队，归广东省政府管辖。7月，发生中东路事件，东北江防舰队被苏联黑龙江舰队击毁舰艇5艘，自沉舰艇2艘，江防舰队基本覆没。海军部继1927年在上海设立海军航空处后，1923年6月又筹设厦门海军航空处。1933年两处合并于厦门称海军航空处，负责海军航空飞行训练，监督、指挥所属航空队、航空工厂及航空教育机构。同期，海军部着力于整顿：调整组织，统一编制；颁布各种条令、条例，完善法规；裁汰、建造、改装舰艇（1912～1937年，共建造排水量2600吨级平海巡洋舰以下各型舰艇51艘，改装12艘）；加强海军学校，除马尾、青岛、黄埔3个主要海军学校外，又于1932年在江苏镇江开办电雷学校。至1937年海军共有各型舰艇120余艘，总排水量约6.8万吨。

“七七”卢沟桥抗战爆发后，海军在敌强我弱的形势下，无力在海上拒敌。为阻敌溯江西进，先后在上海、江阴、马当等地港口和水道构成多道阻塞线（见江阴阻塞作战），并在珠江、闽江和青岛、刘公岛等港口、水道沉船堵塞，以迟滞日舰进攻。1938年1月，裁撤海军部，成立海军总司令部，隶属军事委员会，陈绍宽任总司令，保留第1、第2舰队番号；建立海军炮队、海军特务队和海军雷队。武汉、广州、宜昌沦陷后，沿海港口及长江中、下游均被日军侵占，海军所剩10余艘小型舰艇后撤川江。至此，海军已无力作战。