1907年11月、日英同盟下で軍艦の大砲・砲弾の国産化を急ぐ政府の要請を受け、北海道炭礦汽船・英アームストロング・英ビッカースの3社共同出資で日本製鋼所が室蘭に設立された。本店と工場が北海道炭礦汽船の拠点である室蘭に置かれ、出資比率は日英でほぼ拮抗し、伊藤博文・松方正義ら政府要人の支持を受け、経営も日英の役員が並ぶ国際色の強い体制で出発した。1919年に隣接の北海道製鉄を合併して銑鋼一貫の兵器複合拠点へ再編、1920年に海軍呉工廠の軍備拡張に応じて広島工場を買収し、室蘭の鋳鍛鋼と広島の砲弾という戦前型の二極体制が形作られた。

ここから戦時拡張へ加速した。1931年の軍縮で輪西の製鉄設備を分離して後の日本製鉄室蘭製鉄所の母体を手放し、鋳鍛鋼素材・兵器・産業機械の三分野に絞った。1935年に横浜、1941年に武蔵（東京・府中）と製作所を増設し、1938年には国家総動員法で陸海軍の管理工場に指定され、室蘭は砲身、広島は砲弾、武蔵は陸軍戦車という役割分担で軍需一色になった。戦後は1945年の敗戦で兵器生産を停止、1950年12月の過度経済力集中排除法で旧会社を解散・再設立した。転機は1961年だった。独アンケル社提携でプラスチック射出成形機に参入し、広島が戦前の砲弾工場から戦後の樹脂機械拠点へ中身を組み替えて、戦後新規事業の柱に育てていった。

ところが、1961年に並行参入した油圧ショベルは小松・日立建機との競争に敗れ1986年に自社生産から撤退する。室蘭の素形材・エンジニアリング事業は1986年に600名、1998年に300名、2000年に420名と累計1,300名超の人員削減を繰り返しても黒字化せず、樹脂機械の海外利益が室蘭赤字で相殺される構図が80年代から30年定着した。決定打は風力発電機向け部品の不具合だった。2015年3月期に風力事業損失引当金159億円を計上、2016年3月期には室蘭製作所の固定資産について減損損失354億円を計上、純損失166億円まで拡大して3期連続赤字となった。2016年6月、佐藤育男前社長から宮内直孝社長へ交代した。

2020年4月、素形材・エンジニアリング事業を吸収分割で日鋼M&Eへ承継し、本体は産業機械・防衛機器に集中する構造へ組み替えた。1907年以来の祖業である鋳鍛鋼素材と1961年以降に育てた射出成形機が、初めて組織的に分離された。これは1931年の製鉄事業分離以来90年ぶりの事業分割で、80年代から40年間繰り返した室蘭の人員削減では届かなかった構造赤字を、本体から外に出すことで本体決算と切り離す決断だった。2025年3月期は防衛関連機器受注が2年で約3倍に増え、本体は過去最高営業利益228億円で30年超の構造赤字を脱し、2025年5月には外に出していたM&Eの再統合方針が決議された。