1925年8月、東京で中央理化工業株式会社が設立された。当初の事業は消火器の製造販売で、服部時計店系の資本を背景に発足した小規模な化学工業会社にすぎなかった。3年後の1928年9月、商号を日本火工株式会社と改称し、火薬・火工品の製造販売へ業態を転換する。消火器単体では事業規模が限られたため、当時拡大していた軍需向け火工品市場に活路を求めた判断であった。設立から3年で最初の業態転換に踏み切ったこの動きは、後の同社が「収益機会のある事業領域へ素早く軸足を移す」DNAの萌芽でもあった。当時の日本は1920年代後半の昭和金融恐慌から世界恐慌へと向かう時期にあり、多くの中小化学会社が経営難に陥っていたなか、軍需依存度を高めることで生き残りを図った形である。

1936年2月、神奈川県川崎に川崎製造所が稼動し、特殊鋼・軽合金及びステンレス鋼の製造販売を開始した。これが現在の日本冶金工業の主力事業の発祥点で、火工品メーカーから金属材料メーカーへの第二の業態転換となる。1930年代の日本は重工業化が急速に進み、軍艦・航空機・兵器向けの特殊鋼需要が拡大していた。同社は火工品で培った爆発物製造の冶金技術を応用する形で特殊鋼分野に参入し、当時としては先端材料だったステンレス鋼の国産化にも取り組んだ。創業から11年で、消火器メーカーから特殊鋼メーカーへと完全に変貌したことになる。川崎製造所は現在も同社の中核拠点として機能しており、約90年にわたって連続稼働している製造所という意味でも、業界内でも稀有な存在である。

1942年6月、東京・大阪取引所に株式上場を果たす。戦時統制経済の真っ只中で、軍需関連企業として資本調達できる体制を確立した形である。同年9月、商号を日本冶金工業株式会社と改称し、火薬火工部門を昭和火薬株式会社へ譲渡する。冶金（やきん）とは金属を溶解・精錬する技術全般を指す日本語で、社名から火工品の影が完全に消え、ステンレス・特殊鋼という現在の事業ドメインが社名として明示された。火工品事業の分離売却は、軍需偏重への警戒というよりは、特殊鋼の量産体制構築に経営資源を集中する戦略的判断であった。商号変更と事業売却を同月に実施したスピード感は、戦時下の経営判断としては機敏な部類に入る。

1943年12月、京都府の大江山ニッケル工業株式会社を合併し、ニッケル鉱石採掘並びにフェロニッケル製錬事業を継承した。これが現在の日本冶金工業を「ニッケル基合金専業」たらしめた決定的な瞬間である。大江山にはニッケル鉱山が存在し、製錬設備も併設されていた。ステンレス鋼の主要合金成分であるニッケルを上流の鉱石採掘から最終製品まで一貫して内製する体制は、当時の日本のステンレス業界では稀有な構造であり、同社の長期的な競争力の源泉となった。1942年6月の上場、1942年9月の現社名確立、1943年12月の大江山合併と、わずか1年半の間に同社は資本市場アクセス・現社名・上流統合の3点を獲得したことになる。戦時下という限定的な経済環境のなかで、後年につながる構造を一気に整えた局面であった。

戦後の経済混乱を経て、1948年8月に東亜精機株式会社（現・ナストーア株式会社）が設立され、グループ企業形成が始まる。1953年5月には三信特殊線工業株式会社（現・日本精線株式会社）が、1954年11月には株式会社上野半兵衛商店（現・ナス物産株式会社）がそれぞれグループ会社となった。精密線材を担う三信特殊線、商社機能を担う上野半兵衛商店と、製造・販売の機能分担をグループ全体で行う体制が10年がかりで整備された。同時期、戦後の高度経済成長期に向けて川崎製造所の設備拡張も継続され、1956年8月には石川県の金沢工場でステンレス鋼鋳造品の生産販売を開始するなど、製品ラインの多様化も進んだ。

1960年2月、川崎製造所に冷間圧延機（ゼンジミアミル）が稼動し、薄板ステンレス事業の本格的な近代化が始まった。ゼンジミアミルは多段圧延機の一種で、極薄の高精度ステンレス薄板を量産できる設備であり、家電・自動車・建材向けの薄板需要拡大に対応する設備投資だった。同年10月にはステンレス加工子会社の株式会社ナスステンレス製作所が設立され、加工分野への展開も加わる。1965年3月には連続鋳造設備が稼動し、鋼塊鋳造から連続鋳造への移行を完了する。連続鋳造は鋼の歩留改善と生産性向上の両方を実現する革新的な技術で、当時の日本鉄鋼業界全体で導入が進んでいた。1966年4月には熱間圧延機（プラネタリーミル）が稼動し、薄板熱延能力も増強された。1968年2月には60トン電気炉が稼動し、溶解能力も大幅に拡張する。1960年代を通じて、同社は薄板ステンレスの量産メーカーへと変貌したことになる。