1929年3月，蒋桂战争爆发。陈绍宽率第一舰队掩护陆军作战，蒋介石与陈绍宽坐镇旗舰亲自指挥。历时一个多月，闽系海军协同陆军击败桂系部队。战后，蒋介石认为海军拥护南京政权态度坚决，可利用其力量，遂同意成立海军部。1929年4月12日，国民政府明令设立海军部；6月1日，海军部正式成立，军政部海军署同时撤销。
海军部是南京国民政府主管海军军政的机构，因当时已无海军总司令部，其职能范围扩展至海军指挥作战与训练等事宜。该机构初属行政院，1932年2月后，兼受军事委员会和行政院管辖，但以军事委员会为主导。海军部成立初期，下辖军衡、军务、舰政等6司，并设有总务厅、经理处、参事室等附属单位，以及警卫营、军乐队等配套部门。后经1930年《海军组织法》调整，将总务厅改为总务司，1934年将经理处改为军需司，最终形成8司建制。其职能涵盖作战指挥、舰艇管理、军港建设等。1938年，为适应抗战形势需求，海军部奉命撤销，并于同年1月改组为海军总司令部。
海军部主要职官：
部长
杨树庄（上将），1929年4月特任，1931年12月辞职；
陈绍宽（上将），1931年12月特任，1938年1月免；
陈季良（中将），1934年12月代理，1935年3月免代。
政务次长
陈绍宽（中将），1929年4月任，1932年1月免
陈季良（中将），1931年10月代理，1932年1月任，1938年1月免
常务次长
陈季良（中将），1939年4月任，1932年1月免
李世甲（中将），1931年10月代理，1932年1月兼任，1934年2月免兼
陈永训（中将），1934年2月任，1938年1月免
高级顾问
萨镇冰，1929年4月任
林建章，1929年6月任，1940年6月卒
杜锡珪，1931年12月任，1933年12月卒
杨树庄，1931年12月任，1933年12月卒
李鼎新，1934年1月任
顾问
刘传授，谢葆璋，何品璋，陈兆锵，周兆瑞（以上1934年前任）
史蒂生（德），1935年12月聘
信夫淳平（日），1935年12月聘
寺冈谨平（日），1935年12月聘
海军稽查官
谭旺霖，1930年1月任，1938年1月免
海军总教官
伯利（英），1931年3月聘
占乐门（英），1931年3月聘
总务司司长
李世甲（少将），1929年4月署理，1930年2月任，1934年2月调
杨庆贞（少将），1934年2月任
军衡司司长
杨庆贞（少将），1930年2月任，1934年2月调总务司司长，1935年7月兼任
陈杜衡（少将），1934年2月代署
李孟斌（少将），1934年2月任，1935年7月调海军学校校长
贾勤（少将），1937年8月任
军务司司长
杨庆贞（少将），1929年4月任，1934年3月免
贾勤（少将），1934年3月任，1937年8月调军衡司司长
船政司司长
唐德炘（少将），1930年2月任，1936年8月免，同年9月复任
军学司司长
吕德元（少将），1932年10月任，1937年8月免
军衡司司长
许凤藻（少将），1929年6月任
林献炘（上校），1930年4月任，1933年调，1934年复任，1937年8月免
林元铨（上校），1933年任，1934年免
海政司司长
许继祥（少将），1930年2月任，1937年8月免
经理处处长（后改军需司）
罗序和（少将），1930年2月任，1935年12月免，旋复任
政治部主任
林知渊，1929年4月兼任
参事处处长
吕德元（少将），1930年1月任
技监室技监
郑滋樨（少将），1930年5月任
编译处处长（前身为海军编译委员会）
吕德元（少将），1926年6月任，1935年2月免
余振兴（少将），1935年3月任，1938年2月免
无线电台总台长
沈琳，1935年前任
军乐队队长
蒲聪森（上尉），1934年前任