1939年11月20日由粤军一部奉令组建，集团军总司令为叶肇，下辖其兼任军长的基本部队第六十六军，包括官的第一五九师和宋士台的第一六○师，组建后即奉令赴广西参加桂南会战，受第四战区的指挥管辖，曾在反攻南宁和宾阳地区的战斗中参加对日作战。此次会战结束后，该集团军总司令叶肇因作战不利被扣押，交军法审判。第三十七集团军番号撤销。

1944年初，第三十七集团军番号在胡宗南的第八战区恢复使用。丁德隆为集团军总司令，韩锡侯、王文彦为副总司令，下辖罗历戎的第三十六军、袁朴的第八十军和彭杰如的新编第七军。

1944年中原会战爆发后，第一战区部队损失惨重，第一战区司令长官蒋鼎文、副司令长官汤恩伯被撤职，后胡宗南代理第一战区司令长官，故第三十七集团军改归第一战区指挥管辖。