大日本帝国陸軍は、第二次世界大戦当時、最も自動火器の導入について積極的な組織の一つであった。その最大の理由は、八八艦隊計画の実働による陸軍人員の大規模な削減（※１）である。
　日本初の自動小銃は、１９３４年に実用化された有坂式自動小銃である。これはガス圧作動の単発式自動小銃であり、当時の歩兵銃であった３８式に比べ極めて高価で、かつ精密すぎる設計が崇り、野戦での動作不良が頻発する失敗作であった（※２）。
　ここで注目されたのが、１９１８年、ロシア王族の唯一の生き残り、アナスタシア王女とともに亡命したフェデロフが持ち込んだアヴトマット自動小銃だった。３８式小銃と同一の６．５ｍｍ弾を使用し、セレクタによって全自動射撃も可能なアヴトマットは、後の突撃銃の原型ともいえるものであった。ただし、持ち込まれてから約２０年、アヴトマットは陸軍から無視されつづけていた。
　無視されつづけたフェデロフとアブトマットが再び注目されたのは、有坂式の失敗が明らかとなった３７年だった。「ラ・セーヌ会」ＯＢであった、参謀本部付の某陸軍大佐は、有坂式自動小銃の失敗をみて場合によっては三八式小銃で「次の戦争」を戦わなければならないという危惧から、個人的にアヴトマットの改良をフェデロフに要請した。軍政的にはかなり問題のある行動と言えないこともなかったが（明らかに私物命令だった）、ともあれ試作品は３８年には完成し、実用試験に供されることとなった。
　ただし、この完成した時期は最悪であった。東条を首魁とする歩兵閥（というより第一次大戦留守組の将校団）がもっともその権勢を奮っていた時期だったのだ。曰く、全自動射撃が可能では弾薬消費が多すぎる、曰く、単発発射時の命中精度が悪すぎる（※３）云々、果ては、「このような銃器を採用しては陸軍の墨守した精神が汚染されてしまう」という、難癖以外の何物でもない要求を突きつけることさえあった。
　葬り去られるはずの試作自動小銃を救ったのは、皮肉にも綏遠での大敗北だった。その後の調査と大更迭によってこれまで採用を阻んできた歩兵万能主義者（正確に言えば「白兵万能主義者」というべきだろう）が取り除かれた結果、試作自動小銃は制式採用が決定される運びとなった。また、この決定には諸兵科連合戦術の影響もあった。突撃支援兵器としての戦車ではなく、戦車による機動戦を支援するための歩兵部隊もまた、充実した火力を持たなければならない。部分的な改正（トリガーガードの大型化、セレクタの大型化など）を加え、１９４２年、二式機関小銃として採用された（※４）。
　先進的な設計であった二式だったが、問題がないわけでもなかった。特に木製の曲銃床は（幾ら反動の少ない６．５ｍｍ弾を使用していても）発砲時の銃口跳ね上がりを強めてしまい、全自動射撃時の命中率を極端に悪化させることになった。また、銃全体で見た場合加工工数も多く、戦時の量産にはあまりにも不向きだった（※５）。
　この対策として陸軍は極端に思えるまでの修正を行うことを決定した。工数削減のため、機関部レシーバー等にプレス加工を多用、また銃床もほぼ鉄パイプ同然の銃床に改められた（※６）。この結果、単発時の命中精度は悪化したものの、コストは約１／３程度まで削減された。また、鉄パイプ同然と揶揄された銃床にしても、結果的に直銃床となったため、全自動射撃時の集弾率は劣化するどころか向上することとなった。ちなみに四式は「町工場でさえ量産できる小銃」と言われており（※７）、機関短銃との完全な置き換えが可能と思われていた。
　四式機関小銃として採用された本銃だったが、開発時期の問題から生産数はこれまた少数に留まった（太平洋戦争の終結が最大の原因）。しかし、これは実質的な発展型である四式機関小銃改（銃床を木製直銃床に変更、照門を二式と同型のものと改正）が生産の主力となったためである。

（※１）　戦時１３個師団（平時９個師団＋６個旅団）。人員は平時１３万人、戦時の最大で１６万人程度。ただし、実質的な充足率はさらに低く、即応可能な師団はせいぜい４個師団程度だった。
なお、この理由について第一次２．２６事件の報復とする説もあるが、公式な記録には残っていない。
（※２）　装弾不良が頻発した結果､「一発ごとに装填レバーを引くのならば３８式と変わらない」と、実験的に配備された部隊から苦情が出るほどであった。また、実戦配備と輸出を想定したコスト軽減の結果、命中精度も劣っていた。
（※３）　実際、銃身長は四四式騎兵銃と同程度に切り詰められていた。ただし、実戦で想定される交戦距離での命中率は必要十分だった。
　また、比較対照として挙げられた三八式は優れた命中精度で知られており、第３次大戦を通して三八式は狙撃銃として運用されつづけた。性格のまったく異なる銃器を比較するところに、白兵万能主義者の問題点があるといえる。
（※４）　開発が遅れた最大の理由は、開発指示と同年に行われた大粛軍が影響している。また、機関小銃の名称は全自動射撃が可能であったことに由来している。
（※５）　第二次大戦を通して二式機関小銃の配備は空挺部隊、海軍陸戦隊を中心とした、太平洋戦域の一線級部隊に留まった。
　また、代用として陸軍はＭＰ１８を原型とした１００式機関短銃および、ステンＳＭＧを改良、国産化した二式機関短銃を主力装備とした。
（※６）　工数削減のために、参考品として輸入されていたステンＳＭＧが大幅に参考とされた。
（※７）事実、後の雛山精工として知られる雛山鉄工所（このころはまだ町工場以外のなにものでもなかった）が躍進できた理由は、陸軍から四式の生産を受注できたためだと社史にも記されている。