张祖谅，1911年12月4日生于河南省商城县石桥区大塘湾村一个自给自足的农民家庭。1931年6月加入中国共产主义青年团，同年9月参加红军。1932年2月转入中国共产党。土地革命战争时期，历任红四军第十一师三十一团特务连战士，红二十五军七十三师特务连班长、排长，二一七团经理处给养科长，红三十一军九十三师政治部干事，二七九团四连指导员，军政治部保卫科科长。参加了鄂豫皖革命根据地反“围剿”作战和开辟川陕革命根据地的斗争。1935年参加长征。抗日战争时期，任八路军一二九师三八六旅七七二团政治处组织股副股长，旅政治部锄奸科科长，七七二团代理政治委员，旅政治部主任，太岳军区第二军分区政治部主任，第三军分区副政治委员。参加了七亘村、神头岭战斗和百团大战。解放战争时期，任晋冀鲁豫军区第十九军分区司令员、晋冀鲁豫野战军第八纵队参谋长，华北军区一兵团第八纵队副司令员兼参谋长、第一野战军第十八兵团第六十军副军长兼参谋长、军长。参加了上党、运城、临汾、晋中、太原等战役和进军西北、西南的扶眉、兰州、成都等战役。中华人民共和国成立后，任第十八兵团六十军军长兼成都警备司令部司令员，川西军区副司令员、司令员。1952年10月，任中国人民志愿军第三兵团六十军军长，参加指挥了金城战役。荣获朝鲜民主主义人民共和国一级自由独立勋章。1955年被授予中将军衔。荣获二级八一勋章、一级独立自由勋章、一级解放勋章。1959年进军事学院学习，毕业后任南京军区参谋长。1961年5月13日张祖谅中将因病医治无效，在上海逝世，享年50岁，同年安葬在雨花台革命军人公墓。