该军前身是国民政府中央陆军教导队。1929年1月，国民政府组建了中央陆军教导队。1930年春，该教导队扩编为教导第1师，1931年春，国民政府以该师为基础与国民政府警卫旅合编为警卫军，该师改编为警卫军第1师。1932年1月，上海“一·二八”淞沪抗战爆发后，警卫军改编为第5军，该师改称为第87师，随军参加淞沪抗战。1937年7月，抗日战争全面爆发后，国民党军队进行整编时，以第87师扩编位第71军，隶属第9集团军，下辖第87师，。该军组成后，先后参加了淞沪会战、南京保卫战等作战。1938年5月初，该军隶属于第1战区时，该军进行扩编，将原隶属第8集团军第61师、第71军第36师、第72军第88师改隶该军。此时，该军下辖：第36师，第61师，第87师，第88师。此后扩编后，该军参加了豫鲁皖边地区作战和武汉会战。武汉会战结束后，该军第61师改隶胡宗南集团第90军，第71军隶属国民党军事委员会直辖整训。随后，该军被调往四川潼南整训。1941年4月，该军改隶第11集团军，暂驻防四川。

1942年5月，该军由四川开赴滇西，掩护入缅作战的中国远征军撤回怒江东岸。在中国远征军第1次入缅作战失利后，国民党军事委员会对远征军进行了重建和整理时，该军编入远征军编制序列，第36师改隶第11集团军直隶，另将第11集团军直辖预备第2师改隶该军。1944年6月，该军参加了滇西反攻作战和中国远征军第2次入缅作战。