1888年（明治21年）に明治4年以来の鎮台を改編して西洋と同様に6個の部隊規模へと分割した時に新たな名称として、フランス語、またはドイツ語の「division」の和訳として「師団」が当てられたものである。「師団」の「師」という言葉、又は文字は、中国の周の時代の軍隊の単位である師に由来し、これは5個の「旅」をまとめた計2,500人からなる部隊を意味し、5個の「師」で「軍」を構成していた。中国人民解放軍は今でも、日本で云う「師団」は「師」、「旅団」は「旅」と呼んでいる。
明治期の日本陸軍では主力の歩兵部隊に、これを支援する砲兵、騎兵、工兵、兵站の各部隊を組み合わせて歩兵師団としていた。1888年（明治21年）の師団組織発足から50年間ほどは師団内は2個旅団-2個連隊-3個大隊-3又は4個中隊という組織形態を採っていたが、中国大陸での戦線拡大で師団数を増やす必要から、1937年（明治12年）以降順次、師団から旅団を省いて3個連隊-3個大隊-3又は4個中隊という組織形態に改めた。
健康 インテリア 楽器教室 産業 学校 信越北陸 バスト 開業 ダイエット 在宅 新築 健康 防犯 生活習慣病 ファッション 資格 家具 予備校 水族館 理容 近畿東海 インプラント 興信所 懸賞 キャッシング ポイント わきが スポーツ アロマ 自動車 専門学校 公園 贈り物 セミナー 予約 エイジ キャンプ場 理容 弁護士 ローン 調査 引越し わきが 癒し 海外留学 電器製品 学習 旅行 美容 特産物
初期形態では1つの師団が4個連隊で構成されていたため「4単位制師団」と呼ばれ、改組後の形態では1つの師団が3個連隊で構成されていたため「3単位制師団」と呼ばれる。
その後、広い中国大陸で治安警備用の部隊を分散配置させる必要から、師団内から連隊を省いた構成の2個旅団-4個大隊-4個中隊という師団も編成された[出典 1]。
大日本帝国陸軍では、3個歩兵連隊を統括するために旅団に代わって歩兵団が置かれた。日本陸軍初の3単位制師団は1937年（昭和12年）9月30日編成の第26師団である。
第一次世界大戦頃までは、山岳師団などを含む歩兵師団と、騎兵師団くらいしか存在しなかったが、陸軍の近代化とともに機甲師団、空挺師団などのさまざまな兵科師団が置かれるようになった。
山岳師団は山岳戦闘を専門とする師団で、登山に必要な装備や訓練を受けている場合が多い。山岳では運搬が困難な重砲は装備していないが、分解して人力で運搬可能な山砲を装備していた。空挺師団は落下傘降下（エアボーン）によって部隊が展開される師団であり、山岳師団同様に重砲の装備はなかった。機械化歩兵師団は、部隊の移動が徒歩ではなく装甲車やトラックのような自動車によって行なわれた師団のことであった。米海兵隊の海兵師団は上陸戦用の歩兵師団であり、揚陸艇や揚陸艦によって展開される歩兵師団であった。