三菱合資会社（三菱財閥）において鉱業事業を運営するために、1918年4月に同社の鉱業部を会社化して三菱鉱業株式会社を設立した。
すでに三菱財閥は明治6年（1873年）に吉岡鉱山（岡山県）を買収して、鉱山経営に参入。三菱財閥は買収によって石炭・非鉄金属（金・銀・銅・鉛・亜鉛）の国内鉱山を取得。大正7年には瀬戸内海の直島に製錬所を新設し、吉岡鉱山で採掘した銅鉱石を精錬する一環体制を樹立し、非鉄金属事業を軌道に乗せていた。また、1887年には秋田県の優良鉱山である「尾去沢鉱山」を取得し、国内鉱山のポートフォリオを充実させていた。
このため、1918年の三菱鉱業の発足時点で、国内屈指の優良鉱山を保有しており、戦前を通じて三菱鉱業は三菱財閥における収益事業として経営された。
1918年の三菱鉱業の設立時点において、非鉄金属鉱山のほかに、国内における炭鉱（石炭事業）にも従事。主力拠点として、大夕張炭鉱（北海道）・高島炭鉱（長崎県）・端島炭鉱（長崎県）を稼働していた。
このため、1918年の会社発足時点において、大規模な炭鉱および非鉄鉱山を保有する、国内屈指の資源会社であった。
戦後の財閥解体（過度経済力集中排除法）により、1950年に旧三菱鉱業は「石炭と非鉄金属」の事業分離を決定。石炭事業は三菱鉱山（2代目）に継承され、非鉄金属事業は太平鉱業（のちの三菱金属）に継承された。
1950年の太平鉱業の発足時点において、国内に14鉱山を保有し、国内の主力製錬所として「大阪・直島・秋田」を稼働し、国内大手の非鉄金属鉱山企業となった。1952年に財閥商号の利用が許可されたことを受け、商号を太平工業から三菱金属鉱業に変更し。三菱グループにおける非鉄金属の事業展開を担った。
なお、1990年に三菱金属と三菱鉱業セメントが合併したが、いずれも旧三菱鉱業の企業であり、1950年に解体されたものの1990年に合併により再合同を果たしている。
1950年代における三菱金属工業における主力拠点は、尾去沢鉱業所（秋田県）・細倉鉱業所（宮城県）・明延鉱業所（兵庫県）・生野鉱業所（兵庫県）の4拠点であり、いずれも従業員数1,000名を超える大規模な事業所であった。
これらの鉱山では、鉛・亜鉛を中心に、金・銀・銅などの鉱物資源を産出し、瀬戸内海に浮かぶ直島に設置された直島製錬所などで精錬されて製品化された。このため、終戦直後の三菱金属は、国内鉱山における採掘が主力事業であり、各鉱山において労働集約による人海戦術によって、資源採掘することで収益を確保した。
1971年のニクソンショックによって円高ドル安が進行したことで、国内における非鉄鉱山の採掘で採算が悪化。三菱金属鉱業が保有する主要鉱山でも、長年の採掘による品位低下の課題にも直面し、国内における採掘事業は厳しい状況に陥った。
そこで、1972年から三菱金属鉱業は、国内の主力鉱山の閉鎖を実施。一部の鉱山については子会社として分離し、従業員に配慮して段階的な事業縮小を実施した。また、生野鉱山では雇用維持のために、加工品製造拠点として「生野工場」を新設している。
なお、子会社に分離した国内鉱山について、1980年代を通じた円高ドル安の影響を受けて経営苦戦。1985年のプラザ合意によって急速に円高が進行すると経営が困難な状況に陥り、1986年から1987年にかけて「細倉鉱山・下川鉱山・古遠部鉱山・明延鉱山」の4鉱山が閉鎖となった。不採算鉱山の閉鎖により、1987年までに三菱金属は主力鉱山の閉鎖を完了し。国内鉱山から実質的に撤退した。
国内の非鉄鉱山の撤退による業績悪化と、オイルショックによる銅を中心とした非鉄金属の販売低迷により業績が悪化した。
そこで、三菱マテリアルは財務状況を改善するために、大量の在庫が積み上がっていた「銅」について、社員への販売を実施。12月の賞与について、社員がボーナス分を銅購入に当てる形をとった。この結果、約3,000名の社員およびその親類が、ボーナスで1人当たり約1トンの銅を購入した。
この結果、三菱金属では、合計4200トンにおよぶ銅の在庫を圧縮し、約12億円相当の在庫を解消した。
エリート社員たちは「もし購入しなかったら、今後の出世に影響するかもしれない」と余計な神経を使った。しかし、大勢は「会社のL危急存亡の時だから、会社の要望を入れて銅購入に踏み切ろう」ということになり、12月中旬から購入申し込みが殺到した。（略）さて、締切の12月24日になってみると、会社側の予想を上回って、3000名の人たちが購入を申し込み、約3000トンの銅が売れた。買った人は社員ばかりでなく、将来の値上がりを見越して、大量に購入申込した縁故者も混じっていた
1990年に三菱金属と三菱鉱業セメントが合併し、三菱マテリアルを発足した。合併後、1992年3月期における連結売上高9100億円・経常利益250億円となり、売上高約1兆円の素材メーカーとして発足した。主力事業は、売上高の約50%を占める精錬事業であり、新規事業としては半導体向けシリコンウエハーの展開が期待された。
合併相手である三菱鉱業セメントは、1950年の旧三菱鉱業の分離によって発足した石炭とする「三菱鉱業（2代目）」に相当し、高度経済成長期を通じて石炭事業からセメント事業へと業態転換を志向。その過程で商号を三菱鉱業セメントに変更した企業であった。旧三菱鉱業の2社が合併することにより、新規事業の展開に注力する狙いがあった。
なお、1950年に旧三菱鉱業が会社分離されてから、約40年にわたって合併が実現しなかった理由は、両社ともに国内の非鉄鉱山・石炭鉱山の閉鎖に多大な経営努力を要し、慢性的な赤字に陥った結果、結果として合併のタイミングを逃したことが理由であった。
1990年に合併発足した三菱マテリアルは「非鉄金属」と「セメント」を主軸とする総合素材メーカーとなった。すでに、懸案であった国内の不採算鉱山からは撤退を大方完了しており、攻めの経営に転じる体制が整った。
1991年9月に三菱マテリアルは合併後初となる経営計画として「MAX21」を公表。10年間の長期計画として策定し、FY1995における売上高目標1.4兆円、FY2000には同1.8兆円を達成目標として設定した。このため、三菱マテリアルにおいては、売上拡大を最重な経営課題に据えた。
なお、売り上げ目標を1.8兆円に掲げた理由は、三菱マテリアルの藤村正哉氏（当時社長）が「目が届く範囲」として設定された。
あと2ヶ月で、合併してから1年になります。これまでも度々「合併の弊害がいろいろあって大変でしょう」と聞かれました。けれども私たちの場合は、金属とセメントという全く業種の異なる会社同士の合併です。競合する事業はほとんどありません。
もともと三菱鉱業から別れた2社が再び一緒になっただけですから、復元と言った方が適当でしょう。歴代の経営者も、いずれも一緒になりたいと思っていましたが、合併の条件が整っていませんでした。両社が国内の非鉄鉱山や炭鉱を閉鎖し、一息ついた今が絶好のタイミングだったのです。
米国テキサス州（ガルベストン湾の工業地帯）で計画していた銅製錬所の新設を中止。投資予定額は200億円であったが撤回し、特別損失として15億円を計上した。中止の理由は、環境保護運動による反対活動による。
2018年2月6日に公正取引委員会は、三菱マテリアルの子会社「ユニバーサル製缶」に対して立入検査を実施。独占禁止法に対する違反が発覚したため、2020年4月までに課徴金として103億円の納付を命令した。
独禁法違反を受けて、三菱マテリアルは課徴金を納付。2020年3月期に「独占禁止法関連損失」を特別損失として104億円計上した。
なお、問題の原因となったユニバーサル製缶について、2022年3月に米系の投資ファンドが管理する「昭和アルミニウム」に売却し、三菱マテリアルは当該事業から撤退した。
2020年3月に三菱マテリアル（小野直樹・社長）は、3カ年の中期経営戦略（FY2020〜FY2022）を公表。全社方針として「事業ポートフォリオの最適化」を掲げ、不採算事業から撤退する方針を打ち出した。
もともと、2017年に発覚した品質不正において、経営陣がグループ約200社におよぶ事業を管理統制できなかった点が問題となり、肥大化した事業の絞り込みに踏み切った。
縮小事業については、収益性に問題がある「焼結部品事業（ダイヤメット社）」「銅管事業」「セメント事業」「アルミ事業」が対象となった。これらの事業は、売却による撤退ないし、同業他社との折半出資会社の設立を通じた集約を志向した。
一方、今後の注力事業としては、加工事業への投資を掲げ、2020年4月に三菱日立ツールを買収して超硬工具の製造販売を強化。買収を通じた積極投資を志向した。
2020年9月に三菱マテリアルは、宇部興産とセメント事業の統合を決定。2022年4月に折半出資により「UBE三菱セメント」を設立し、三菱マテリアルおよび宇部興産のセメント事業を新設会社に分離した。
財務面において、2022年のセメント事業の分離にあたって、三菱マテリアルはUBE三菱セメントに対する投資として1606億円を貸借対照表において認識した。このため、セメント事業の業績によっては、三菱マテリアルにおいて減損が発生する可能性を伴った。
すでに、1998年7月に三菱マテリアルは、宇部興産とセメント販売の統合を実施しており、宇部三菱セメント社を設立していた。このため、1998年の販売統合が、2022年の全面統合への布石となっていた。
さらに時代を遡ると、三菱マテリアルにおけるセメント事業は、1990年2月の三菱金属と三菱鉱業セメントの合併により、実質的に三菱金属がセメント事業を取得した経緯がある。すなわち、セメント事業の分離は、約30年前の合併の成否を明るみにしたことを示唆する。
UBE三菱セメントにおける統合の狙いは、セメントにおける過剰生産の是正にあった。2023年3月までに、青森工場の閉鎖および伊佐セメント工場の1号キルン停止を決定し、生産能力の縮小を実施した。
設備廃棄を受けて、2023年3月期に三菱マテリアルは、持分法による投資損失として83億円を計上した。
収益性が悪化したアルミニウム製造および製缶から撤退を決定。2022年3月に米国の投資ファンドApollp Global Managementが管理する「昭和アルミニウム缶」に対して事業譲渡を実施。三菱マテリアルのアルミ事業を展開する子会社「三菱アルミ」および「ユニバーサル製缶」の株式を売却した。
事業撤退にあたって、三菱マテリアルは事業再編損失として251億円を計上した。売却対象となった事業のFY2021における売上高は1154億円・営業利益32億円であった。