二战初始日军师团下有旅团。下辖4至9个联队（团）到了后期采用三联队（团）。二战初的师团长一般是中将衔。后期大部分是少将了。此外，日军的师团也分等级的。

1．班：日军每班13人,包括班长、4名机枪射手和8名步枪兵。有一挺轻机枪，编制四人(指挥官、射手、两名携弹药的副射手),这四人是配备自卫手枪的,在战斗中有时也携带步枪（机枪射手除外）；其余八名步枪兵,每人一支单发步枪。特别加强的部队中，加强班会多配置一个两人携带的50毫米掷弹筒。

２．小队：日军的一个小队有前述编制的三个班和一个装备三个掷弹筒的掷弹筒班。共54人。

３．中队：日军的一个标准的180人的步兵中队包括：一个19人的中队部：中队长，执行官，3个军士，4个卫生员，军官的勤务兵，司号员，8个通信员），3个前述54人的小队。

４．大队： 日军一个标准的1100人编制的大队包括：30人的大队部，一个110人的运输中队（大车和骡马），有的大队将所属的运输中队合并到联队里。四个前述的步兵中队（一些只有3个）；一个174人的机枪中队（14人的连部和3个机枪排，1个弹药排），每排4挺重机枪，总数12挺（有的连只有8挺）；一个55人的炮排（1个10人的排部，1个15人的弹药班，两个15人的炮班各装备1门70mm九二式步兵炮），极少的部队配备一个122人的炮连（包括一个27人的弹药排，两个31人的炮排各装备2门步兵炮）。在这些少量的炮连中，极幸运的一些可以分到20MM反坦克枪的部队，可以编成4个24人的装备2挺反坦克枪的排，这种情况下，弹药排要扩充为39人。

５．联队：日军的一个标准的3800人的联队包括一个54人的指挥部；一个121人的运输队（大车和骡马），携带团部和直属各连一日份的给养以及可能配属师的野战厨房；一个81人的弹药排携带一日份的弹药。三个步兵大队；一个122人的炮兵中队，包括一个25人的连部，一个观察班，一个31人的弹药排，三个31人的炮排（各有2个15人的炮班，装备1门70mm九二步兵炮）。极少数联队有一个364人的炮兵大队，编两个170人的中队，各4门炮。联队属反坦克中队有122人：20人的连部，21人的弹药排，3个33人的炮排（各有两门37mm反坦克炮）。通信中队有一个电话排（4到6个电话班，每班3部电话，一个交换机），一个无线电排（5到8台电台），在战斗中电话和电台配属到各大队和各直属队。联队的卫生系统配备很薄弱，联队只有2名医生和2名卫生员，大队有3名医生和四个卫生员，中队有四个卫生员。

６．师团：日军的师属单位主要有：3个步兵联队，一个野战炮兵联队，一个侦察联队，一个工兵联队，一个运输联队，通讯队。野战炮兵联队编制2322人，有3个688人的炮兵大队，各装备12门75mm野炮或山炮，只有一些师团将其中一个大队替换成105mm炮。侦察联队编制730人，包括一个130人的联队部，一个130人的骑兵中队（4个30人的排），两个160人的摩托化中队，1个100人的卡车运输中队（至少在纸面上可以运输那两个摩托化中队）。这个侦察联队也可以被一个950人的骑兵联队代替。工兵联队编制900-1000人 ，几乎没有机械装备，只能承担极少的任务，更专业的任务主要由配属的独立工兵联队负责运输联队的规模大体上取决于可用的卡车数量，从理论上来说，由一个卡车大队和一个骡马大车大队组成。卡车大队由2到3个中队组成，每中队最多有50辆载重1.5吨的卡车，许多师团都缺少卡车，一些根本就没有。综合日军一个师团，有54门75MM的野炮或山炮，少数师团用12门105MM炮替换了75MM炮，卡车方面日军最多有100-150辆卡车