胡宗南出生于1896年，浙江镇海人，早年时期，他曾在南京高等师范学校读书学习，1924年，国民党召开“一大”之后，确立了“三大政策”，同时，黄埔军校也在广州成立。得知这个消息后，胡宗南报考了黄埔军校，但因为身高不足一米六，所以他没有被录取，此后在国民党元老廖仲恺的特许下，胡宗南得以参加复试，并被录取，成为黄埔一期的学生。
在这之后，胡宗南参加了东征与北伐，东征期间，他担任了机枪连排长，在掩护教导第一团期间崭露头角，自此受到器重。北伐期间 ，胡宗南奉命由赣入浙，进攻沪、杭之敌，并且屡次立功，担任了国民革命军第一军第一师第二团团长。
1930年，中原大战爆发，此战可以说是直接关系蒋的地位，当时胡宗南担任第一师第一旅旅长，他在刘峙的指挥下，他率领第一旅转战津浦，陇海两线，为蒋立下赫赫战功，是蒋取得中原大战胜利的重要功臣。
1932年，胡宗南参与并组织了力行社、复兴社，成为蒋的“十三太保”之首。同时，胡宗南也开始了自己平步青云的人生经历，他虽然不是黄埔一期的第一位师长（第一位师长是范汉杰），但也创造了黄埔军校多个第一。比如，胡宗南是黄埔军校第一位担任军长的人，也是第一个担任兵团总指挥以及集团军总司令、战区司令长官的人。
1932年6月，胡宗南还率部参加了进攻红四方面军的战斗，包括红军长征期间，他也活跃在西北地区堵截红军，给红军制造了不小的麻烦。不过，总体来说，面对红军时，胡宗南是一个志大才疏的人，他的进攻虽然给红军制造了麻烦，但并没有影响红军整体的发展壮大。
1937年，全面抗战爆发后，胡宗南立即投身抗日救国的烽火狼烟当中，并率领第一军奔赴上海，参加了淞沪会战。淞沪会战之后，第一军精锐几乎损失殆尽，但经过短暂休整后，又迅速投身战斗当中。
此后胡宗南指挥部队参加了南京保卫战、兰封会战、武汉会战，并在1938年率部驻守西安，担任了国民党第十七军团军团长、第三十四集团军总司令、第八战区副司令长官、第一战区司令长官等职务。那段时期，他主要以加强河防为主，虽然极少与日本侵略者正面交锋，但依然为抗战的胜利贡献了一份力量。
然而，抗战胜利后，胡宗南却积极追随蒋，走到了人民的对立面，他在西北地区拥兵五十万以上，封锁陕甘宁边区，被人称为“西北王”。只不过，在与我军交战过程中，他依然志大才疏，尤其是1949年西南战役期间，胡宗南的数十万大军被我军歼灭，1950年3月26日，他几乎只身离开西南，乘坐飞机前往台北。
到台湾之后，胡宗南郁郁不得志，但他依然不死心，还在大陈岛一带组织游击队，骚扰东南沿海，只是几乎掀不起什么浪花。1959年，胡宗南“退役”，此后他多以“顾问”的身份继续为国民党效力。1962年2月7日，胡宗南在台北去世，终年66岁。值得一提的是，在他死后，他还被国民党追晋一级上将。