1887年（明治20年）に三菱財閥は、旧徳川幕府が1857年に開設した長崎の造船所「長崎熔鉄所」について、明治政府から払い下げを受けて買収。三菱財閥にとっては初の造船所であり、名称を「三菱造船所」として運営した。三菱財閥としては、当時の収益源だった海運事業について、船舶をイギリスまで修繕に持ち出すことを不便に考えており、国内に造船所を設置することを狙いとした。
このため、三菱財閥が政府から造船所を買収して参入した経緯から、三菱重工業における祖業は「造船」であり、発祥の地は「長崎」とされる。
明治時代を通じて長崎の三菱造船所においては、商船会社向けの外国航路に就航する船舶に加えて、日清戦争・日露戦争を機に需要が増大した海軍向け艦艇の建造に従事。1911年には海軍向けに巡洋戦艦霧島を長崎造船所にて浸水した。三菱財閥による政府への売り込みもあり、国内トップクラスの造船所として成長した。
三菱財閥では造船事業を拡大するために、長崎に次ぐ拠点として、1905年に神戸三菱造船所を新設。1914年には下関にて「彦島三菱造船所」を発足し、長崎・神戸・彦島の3拠点で造船業に従事した。1917年には三菱財閥において各事業を株式会社として運営する方針が決まり、造船部門として「三菱造船株式会社」を発足した。同社は1934年に商号を「三菱重工業」に変更しており、現在の三菱重工業の系譜に相当する。
大規模な修理は横須賀海軍工廠へ依頼し、時には上海、あるいは遠くイギリスの造船所まで回航して修繕工事を行う状態であった。したがって、三菱会社にとっては、より大規模な自社船の修繕設備を確保することが急務であり、一方、政府としても単に資力のみでなく、開示事業に豊かな経験と識見を持つ岩崎弥太郎（三菱の創業家）に長崎造船所の経営を託することを強く望んでいた。
「貸下げ」は、いわば経営体制確立の準備過程であり、約3年の準備期間を経て、明治20年6月7日、三菱社は正式に長崎造船所の払い下げを受けたのである。（略）
三菱造船所はあらゆる点でわが国造船界の先駆者であり、開拓者であった。日本造船史上にその名をとどめる「夕顔丸」（略）が竣工したのは払い下げ直前の20年5月であったが、さらに23年に建造した「筑後丸」で鋼船時代の幕をひらき、「常陸丸」で大型航洋船の先鞭をつけ、義勇艦「桜丸」の主機では舶用蒸気タービン製作の先頭に立った。また、巡洋戦艦「霧島」の建造で民間伊野ける本格的な大型艦建造の道をひらいている。
長崎の三菱造船所において、明治31年（1898年）に欧州航路向け客船「常陸丸」を竣工。当時最先端の技術であった電気の活用を決定し、石油ランプではなく白熱灯を船内照明として採用し「船舶電化」の方向性が決定的となった。そこで、明治37年までに三菱造船所では、船で電気を使うために必要な機器である「船舶向け発動機」の生産を開始し、造船事業の派生事業として「電機事業」に参入した。
1905年に新設した神戸造船所においても「電気部」を設置し、長崎造船所の「電気課」と合わせて、造船所の１部門として電気機器の製造に従事した。
ところが、鉄鋼部材の組み立てによる「造船」と、電気技術が必要とする「電気」は、利用技術や開発体制も大きく異なることから、造船所の内部で電気事業を行うことが非効率であることが発覚した。そこで、三菱合資会社として、三菱造船における電気部門の独立を計画した。
1918年に名古屋に8万坪のよう土地を確保し、電機専門工場の新設を計画した。また、独立の準備として、1919年11月に神戸造船所の電気部を分離して、三菱造船（株）電気製作所を発足した。
1921年1月15日に三菱電機株式会社を設立。三菱造船の電機事業を継承し、三菱財閥における電機事業として運営する方針が決まった。生産拠点については、神戸造船所内部の「三菱造船電機製作所」を神戸工場として発足。長崎造船所の電気課については造船向け機器の生産が主体だったため、三菱電機の発足から数年後の1924年に三、菱電機の長崎工場として移管および発足した。
神戸工場における生産品目は「直流発電機・勾留発電機・変圧器・配電盤・電気機関車」などであり、主に電力会社向けの電気機の製造に従事した。
1924年にはかねてから計画されていた名古屋製作所を新設。汎用電動機の量産工場として稼働した。
長崎造船所に電気課、神戸造船所に電気部が設置され、しだいに電機部門の比重が高まり、製品の種類も量も増大するに至った。これに伴って、電機機器製造が造船所に所属することから生ずるいろいろな問題が意識され始めた。
まず体部分の工作設備が造船向きであるが、電動機をつくるのに不向きであった。精密機械に近い電機製品を造船所ないで製造することはもはや限界に近づきつつあった。造船の工作設備で電動機を作ることは「牛刀をもって鶏をさく」のたとえに等しかったのである。
材料でも電機部門の自由になるのは電機鉄板や絶縁材料など電機用特殊材料だけで、ボルトやナットをはじめ鉄棒などの各部品、資材も造船ように用意したものを使わなければならなかった。
人事的な悩みの深刻で、新しい技術者が入社してきても、機械科出身は造船部門に配属され、電機部門にくる技術者は電気科出身ばかりで機械技術者の不足に悩まされた。国産奨励など電気の国家的使命が高まるにつれて、造船所に属するゆえの悩みは深まっていった。
1930年代を通じて三菱重工は、海軍・陸軍向けの軍需製品の増産を強化。1934年に三菱航空機と三菱造船が合併して、三菱重工業を発足することで「艦艇・航空機・戦略」を量産する日本有数の軍需企業となった。
造船では1938年に長崎造船所にて戦艦「武蔵」を竣工。航空機では1943年に零式艦上戦闘機の生産を開始。車両では1937年に丸子工場を神奈川県に新設して戦車の量産体制を構築した。
1953年に米国政府は日本政府に対して、航空機生産（軍需）の支援を表明。当時、米軍の主力戦闘機であったF-86F「Sabre」の国産化計画が立ち上がり、三菱重工では航空機生産の再開を決断した。戦時中に航空機生産を担った名古屋製作所が事業化を担当し、1953年に小牧工場を新設した。
1955年に日米の政府間で航空機の国内生産が正式に決定され、同年8月に防衛庁からF-86Fの採用決定と生産受注を受注した。これを受けて、三菱重工では製造元である米ノース社からの技術支援を受け、1956年からノックダウンによる組み立て生産を開始した。
F-86Fの契約は1961年までに3期に分けて実施して合計約180億円を受注。累計300機のF-86Fの生産に従事するとともに、以後、F-104Jなど、戦闘機の生産を本格化した。戦闘機のノックダウン生産の黎明期に参入したことで、防衛省（防衛庁）との関係性を構築。軍用航空機のライセンスによる国内生産市場は、三菱重工業と川崎重工業の2社による寡占となった。
財閥解体によって分離された旧三菱重工3社（新三菱重工業・三菱日本重工業・三菱造船）は、再合併の検討を開始。1963年7月に3社の取締役会において合併に関する共同検討を行う方針を決議し、同年8月に合併準備室を発足した。
合併によって売上高3,000億円規模の大企業が誕生することから、公正取引委員会が独占禁止法に抵触しないかの判断を実施し、1964年1月までに「付帯した要請書」を通じて抄紙機を除いて問題ない旨の回答をした。
1964年6月1日に新三菱重工業・三菱日本重工業・三菱造船の3社が合併して、三菱重工業株式会社を発足した。