1934年11月、東京都足立区にて各種鋼材の製造販売を目的として、岡田菊治郎氏が資本金100万円で東京製鐵株式会社を設立した。平炉2基・電気炉1基・中形小形圧延工場で各種特殊鋼の生産に従事する小規模な発足で、戦前の電炉鋼メーカーとして創業した。電炉鋼の量産化を志向するこの起点が、後に「鉄鋼業界の暴れん坊」と呼ばれる独立独歩の経営姿勢の原型となる。戦後は池谷太郎氏（1917年8月生まれ、池谷正一の次男）が岡田創業者から経営を継承し、通産省の鉄鋼共同販売には参加せず、鉄屑カルテルからも距離を置く独立独歩の経営姿勢を確立した。

1953年3月に東亜鋼管工業（資本金250万円）を吸収合併、戦後復興期の電炉再編に乗じて事業基盤を拡大した。1960年7月、岡山県倉敷市に工場用地約50万3,000平方メートルを工場誘致条例に基づき取得し、西日本電炉の中核拠点づくりに着手した。1962年10月に岡山工場第1号平炉が完成・操業開始し、以後120トン平炉5基と中形小形圧延設備が稼動する量産体制が立ち上がった。1969年1月には岡山工場大形圧延工場が完成し、電炉メーカーとしては初の大形H形鋼量産に乗り出した。建築鋼材市場への参入基盤を整えた本工場稼動は、同社が高炉メーカー独占品種への挑戦に乗り出す転換点となる。

1969年2月に土佐電気製鋼所より高知工場を譲受、1970年2月に福岡県北九州市に工場用地約15万4,000平方メートルを取得し、四国・九州への展開に踏み出した。1971年9月、1969年7月以降全株式を取得していた大丸製鋼を吸収合併して九州工場として操業開始、同年11月には同工場に50トン電気炉2基・連続鋳造設備2基が完成した。九州工場の電炉化と連続鋳造への切替で生産性が一段引き上がり、西日本に続く九州拠点獲得で全国カバレッジの土台が整った。1973年2月の九州工場圧延工場完成・中形形鋼の生産開始、1973年6月の岡山工場連続鋳造設備完成は、連続鋳造によるコスト競争力向上を実現した。

1974年5月に本社を東京都足立区から千代田区に移転、同年7月に東京証券取引所市場第二部に上場した。1975年12月には土佐電気製鋼所を吸収合併し高松工場として生産開始、旧土佐電気製鋼所の事業を完全に取り込み高松拠点を確立した。1975年に長男・池谷正成氏が父・太郎氏から社長職を継承、創業家第二世代経営の時代に入った。1976年9月、二部上場からわずか2年で東京証券取引所市場第一部と大阪証券取引所市場第一部に同時上場し、メジャー鉄鋼株として認知された。株式公開により資金調達手段を多様化し、電炉メーカーの上場会社入りを果たす急速な資本市場への参入を実現した。

1977年12月、岡山工場平炉操業停止により平炉から電炉への移行を完了した。1978年1月に江戸川工場を閉鎖し首都圏の旧来拠点を整理、岡山・九州中心の生産体制に再編する選択と集中を進めた。1978年4月、岡山工場に第1号・第2号140トン電気炉が完成・操業開始した。当時としては大型の電気炉を導入し、電炉メーカーの設備規模競争で先行する転換点となった。同年12月には岡山工場中形形鋼工場改造工事完成、1979年1月には岡山工場小形棒鋼工場完成と、岡山工場への棒鋼ライン集約化と品種拡充が進んだ。

1979年4月、大阪営業所開設・高知工場でビーム・ブランク鋳込みに成功した。ビーム・ブランク連鋳技術の確立は、後のH形鋼向け連続鋳造の前提となる工程短縮の道を開いた。1979年9月の千住工場大・中形形鋼工場改造工事完成で、首都圏拠点の品質改善を進めた。創業時の東京足立区から始まった電炉鋼メーカーは、戦後復興・高度成長期を通じて岡山・九州・四国・関東の4極で生産網を構築し、平炉から電炉への完全移行と140トン大型電気炉導入により、電炉専業化を進める基盤を完成させた。創業者・岡田菊治郎氏から始まり池谷太郎氏が中興の祖として育てたこの45年間は、戦前の小規模電炉メーカーから全国規模の電炉専業メーカーへの転身を完成させた時期にあたる。