1937年8月中旬奉令组建，首任集团军总司令为张发奎，下辖第六十九军的第五十五师、第五十七师、第六十一师、第六十二师等部，属第三战区指挥管辖，该集团军曾参加淞沪会战，担任右翼作战任务。

1938年初，第八集团军转为军事委员会直辖兵团，张发奎仍任司令，下辖第三十六师、第五十师、第九十二师、第九十三师及第一六七师。后该集团军建制撤销，其番号给予在山西的第二战区的晋绥军部队，新任第八集团军总司令为孙楚，初期指挥管辖第六十六师、第二十一师等部，后指挥管辖第三十四军、暂编第一军.

自1943年起，该集团军总司令为孙楚，副总司令为楚溪春，一直指挥管辖第四十三军和第六十一军等部队。