日英同盟の締結を受けて兵器を量産を行うために、北海道炭礦汽船は兵器生産への参入を決定。日本政府の要人（伊藤博文氏・松方正義氏など）から支持を受けて、北海道炭鉱汽船・英アームストロング社・英ビッカース社の3社の出資により、日本製鋼所が設立された。
北海道炭礦汽船の拠点がある北海道（室蘭）に生産拠点を設置し、高級鋼および兵器（砲身・砲弾など）の製造に従事した。会社発足の経緯から、英国2社および日本海軍から技術指導を受けて、民間の兵器メーカーとして業容を拡大した。
日本製鋼所の室蘭製作所に隣接し、同じく北海道炭礦汽船により経営されていた「北海道製鐵」を合併。輪西工場として発足し、銑鋼一貫体制を確立
軍縮による販売低迷を受けて、1931年に日本製鋼所の輪西工場（製鉄）について別会社として分離。これらの設備は日本製鐵（富士製鐵→新日鐵→現・日本製鐵）の室蘭製鉄所として継承され、日本製鋼所としては製鉄事業から撤退した。
1938年に国家総動員法が公布されたことを受けて、同年9月に日本製鋼所は陸軍および海軍から管理工場に指定された。これにより、国内4工場（室蘭・広島・横浜・武蔵）が、それぞれ陸軍または海軍の管轄で管理され、軍需品の生産を本格化した。
各工場における生産品目は、室蘭製作所では砲身、広島製作所では各種砲弾、1939年に着工した武蔵製作所においては戦車の生産に従事することが決定した。これにより、日本製鋼所は軍需生産に特化した。
1941年に日本製鋼所は東京・府中において武蔵製作所（のちの東京製作所）を新設。陸軍向けの戦車の量産を開始した。
1961年にドイツのアンケル社と提携し、樹脂製品の製造に使用される「射出成形機」に参入。以後、現在に至るまで射出成形機の製造販売に注力し、兵器および鋼製品に変わる、日本製鋼所の主力事業として育成
油圧ショベルの自社生産撤退を受けて、東京都府中市の東京製作所（18万m2・1941年稼働）の閉鎖。所在地は「東京都府中市日鋼町1-1」であり歴史ある企業城下町として知られたが、日本製鋼所は工場跡地の売却を決定した。1992年3月期に日本製鋼所は売却益として425億円を計上。跡地は「府中インテリジェントパーク」として再開発された。
風力発電機向けの部品で不具合が発覚。2015年3月期に風力事業損失引当金繰入額として、159億円を特別損失として計上した。
子会社のファインクリスタル社で不適切な会計処理が発覚。2016年4月に内部調査報告書を提出