1943年，在大规模号召知识青年从军之前，为了补充中国驻印军的特种兵(如汽车团、炮兵团等技术性要求较高的兵种)，国民政府曾命令个别新兵补训处招收一些知识青年，成立了几个团，陆续空运到印度去受训。

1943年秋，国民政府教育部和军事委员会外事局受命向川、滇、黔三省各大学征调除女生和师范学院外的应届毕业生，经短期英语会话（其中包括熟记英文应用词汇）、步兵武器结构和使用以及其他训练后，分配到云南、广西、缅北和印度各地军事机关、部队、军医院、库房和美国十四航空队(其前身即陈纳德将军领导的飞虎队)担任翻译联络工作。

1944年，日本为挽救其在东南亚的孤军，发动所谓“打通大陆交通线战役”，在豫湘桂等战场向中国军队发起大规模的进攻。为应对新的形势，1944年9月16日，蒋介石在国民参政会即席演讲称：“国家在此紧急战时关头，要先其所急，使知识青年效命于战场，因为知识青年有知识，有自动判断的能力，队伍中增加一个知识青年，就不啻增加了十个普通士兵。”随后，国民党中央决定广泛发动知识青年从军运动，征集知识青年10万人，编组远征军。

到了10月21日，国民政府军事委员会颁布《知识青年从军征集办法》，规定知识青年(男性)年满18岁至年满35岁者，受中等以上之教育或具有相当知识程度者，体格标准符合条件者，均得志愿参加；数额暂定为10万人；除照远征军之待遇办理外，副食费酌量增加；服役期限定为两年，期满后退伍。13天后，国民政府教育部也出台《志愿从军学生学业优待办法》，不仅对从军学生一律保留学籍，而且还对从军学生退伍时做出了免试升学、减少学期、优先录取等优待办法。

学生青年投笔从戎成为当时一大潮流。据统计，中央大学、重庆大学两校报名数竟达在校生的1/3。各地方当局也纷纷仿效，从重庆到浙江、福建、江西、湖南、广西、湖北、陕西、贵州、云南、甘肃等省市，出现了知识青年报名参军热潮。

蒋介石对青年军的人事安排很重视，师长由他亲自挑选(实际上多半是陈诚、胡宗南推荐)，团长由嫡系部队挑选少将级干部担任。团以下干部则由各部队择优保送到青年军训练总监部所属的干部训练团受短期训练后，选派到各师任用。而训练青年军的大权，他则交给蒋经国和陈诚把持。

1945年1月1日，应征入伍的青年远征军共12万人，正式在各基地接受训练，训练期限为3个月。据全国知识青年志愿从军编练总监部宣布，1945年4月底，实际入营8.5万余人，后因一部分人补充远征军及出国接受驾驶、跳伞等特种训练，到抗战结束，在国内实有76507人。

青年远征军入伍训练时间为3个月，训练科目由兵器到战术并重。经过短期训练后，各师正式纳入正规军编制。青年军9个师分别归属于中国远征军第6军、第9军、第31军，另外有相当一部分调入新1军、新6军、第5军、辎重汽车第14团、第15团、宪兵教导第3、4、5团、伞兵总队、译员训练班、无线电训练班及派赴美国受训的海空军等单位，共计1.877万人。拨给印缅远征军的青年军总数在1万余人，在印度受训结业后很快派到印缅前线担任交通运输、坦克兵等技术兵种工作。青年军先后参加了缅北大反攻，如密支那、八莫、南坎、腊戍诸战役，对打通中印公路发挥了积极作用。