関西系の鉄鋼問屋である山本東作商店を中心として、1933年12月に姫路において山陽製鋼所を創業。1935年に山陽製鋼株式会社を設立し、実質創業者である山本東作氏が株式の過半数を保有した。特殊鋼の生産を目的とし、軍需によって急成長していた国内のベアリングメーカー向け（主に航空機部品の用途が中心）に事業を展開し、戦前の軍備増強の追い風によって販売を拡大した。
第二次世界大戦の勃発を受けて、山陽特殊鋼は増産を決定。ボールベアリング向けの素材であるクロム鋼の量産（年産1.5万トン）を開始した。
終戦によってベアリング向けの特殊鋼の需要が喪失しため、大株主の依頼を受けて、経営再建のために外部出身の萩野一氏（内海造船・元社長）が山陽特殊製鋼の社長に就任。以後、1950年代から1960年代前半を通じて、積極的な設備投資による経営再建に着手した。
1959年時点で山陽特殊製鋼はベアリング鋼（ベアリング向けパイプ材）の生産量において、国内シェア40%（1位）を確保。
1956年以降、山陽特殊鋼はベアリング鋼でシェアトップを確保するために設備投資を積極化。増資および銀行からの借入によって親衛設備を導入したものの、1964年から深刻化した日本経済の一時的な不況によって資金繰りが悪化した。
1965年3月に山陽特殊製鋼は神戸地方裁判所姫路支部に会社更生法の適用を申請して倒産した。負債総額は565億円であり、当時の戦後最大の倒産となった。特殊鋼のシェアトップ（倒産時のシェアは国内60%）で上場企業であった山陽特殊製鋼の倒産は注目を集め、1965年の日本経済の不況「昭和40年不況」を象徴する倒産事例となった。