1871年实行征兵制，先后设立了兵部省和早期的四个镇台--东京，大阪，镇西，东北，1874年在四镇台的基础上改编为六镇台，1888年，日本陆军将国内原有的六个按地域划分的镇台改称师团，序号从第一至第六师团，1891年为警卫皇宫又成立了近卫师团。师团编制采取两旅团、四步兵联队（相当于旅）再加炮兵、辎重和骑兵联队，平时兵额1万人，战时足额则超过2万人。“甲午战争”（日本称之为日清战争）前成立的七个老牌师团，后来一直被日本陆军视为第一等部队，装备优先保障。 从甲午战争结束后成立了第七师团到第12师团，日俄战争时期成立了第13至第16师团，日俄战争结束后成立了第17和第18师团。占领朝鲜后为弹压当地又建立了第19、第20师团。序号从7至20的师团，被日军视为二等师团。“大正裁军”时这类师团解散了四个，剩下10个同原有的一等师团共十七个，是日军战前的“常备师团”。 战前日本财力有限不能多养兵，却要多训练兵员，为此陆军服役期仅两年，复员官兵称“在乡军人”编为预备役。各师团管区预备役人员每年按原建制集合训练一个月，并有库存装备，临战可迅速组成一个新师团。1937年侵华战争开始，日军的多数常备师团便立即由一变二（此外还恢复了裁撤的4个二等师团），至1938年陆军师团数发展为三十四个。这些新建的序号100之后的师团称“特设师团”，如第101师团、第114师团便是分别由第1师团、第14师团的预备役人员组建。在日军建制中，这类部队属于乙类师团。
