张贻祥出生于1909年,安徽省金寨县人,青少年时期,他追求进步思想,向往真理与光明,渴望将来为拯救国家与民族而战斗。1929年,20岁的张贻祥参加了赤卫队,同年,他加入了共青团,1931年,张贻祥转为正式党员。
在张贻祥入党的这一年,他参加了红军。加入红军后,张贻祥主要活跃在鄂豫皖根据地,跟随红一军参加了鄂豫皖根据地的反“围剿”作战。红一军改编为红四军后,张贻祥继续在鄂豫皖战斗,1931年11月,以红四军为基础,红四方面军在鄂豫皖根据地正式成立,张贻祥也成为红四方面军的一员。
1932年,红四方面军的第四次反“围剿”遭遇失利后被迫西征,前往陕南一带,张贻祥也跟随红四方面军的主力部队踏上了西征之路,并参加了川陕根据地的开辟与建设。在川陕根据地期间,他担任了红三十一军第九十一师二七一团营政治委员、团政治处主任等职务,参加了反“三路围攻”、反“六路围攻”等战斗,为建设川陕根据地以及壮大红四方面军的力量作出了重要的贡献。

1935年5月,张贻祥随军参加了长征,6月,红一方面军与红四方面军会师之后,张贻祥继续跟随红四方面军行动,他三过草地,历经千难万险后到达甘肃,见证了红军三大主力的会师与长征的胜利。西路军战败后,张贻祥还参加了援西军,并担任了援西军特务团政治处主任。
1937年,全面抗战爆发后,张贻祥主要从事兵工工作,担任了太行军区第一军分区支队政委、太行军区独立支队政治部主任、八路军一二九师司令部参谋处政治协理员以及八路军军工部政治处主任等职务,在武器装备制造、研制以及支援前线等方面作出了巨大的贡献,是抗战胜利的功臣之一。
抗日战争胜利后,张贻祥继续从事兵工工作,担任了晋冀鲁豫军区军工部政治部主任、华北军区企业部兵工厂政委等职务,任职期间,他参与领导了兵工厂的建设、生产、研发等工作,保障了前线的军用物资供给,促进了革命的最终胜利。
新中国成立后,张贻祥担任了华北军区后勤部军械部副部长、军械试验靶场场长等职务。值得一提的是,张贻祥也是我军军械试验靶场的第一任场长,当时他在极端困难的环境下,带领全体人员,坚持“边建设、边试验、边培训”的方针,打响了我军兵器试验的第一炮,为我军的常规兵器事业的试验、制造与更新作出了不可磨灭的贡献。
1955年,张贻祥被授予少将军衔,成为开国少将。在授衔之后两年,也就是1957年,他奉命前往西北的戈壁滩,参加国防尖端武器试验基地的建设。在这之后,张贻祥一直在西北戈壁滩奉献了整整二十二年,参加与组织了我国第一枚自行研制的运载火箭、第一枚导弹核武器以及第一颗人造地球卫星的发射试验任务,是我国基地导弹武器以及卫星发射试验的开拓者与奠基人之一。
1979年,张贻祥离开西北戈壁滩,离休之后,他依然关心我军的各项建设,并力所能及地献言献策。晚年的张贻祥主要生活在北京,于1999年因病去世,享年90岁。