1881年3月、川崎正蔵が兵庫東出町に川崎兵庫造船所を開設した。よって築地造船所に続く第二拠点を関西に設け、1886年の官営兵庫造船所の借受けと併合を経て、神戸を本拠とする造船業の基盤が築かれていった。

1906年9月、兵庫工場を開設した。よって造船以外の機械・車両分野を含む事業基盤の拡張が進み、後の鉄道車両事業（1928年・川崎車輌として分離）の前段となる重工業多角化の足場が形成されていった。

川崎造船は第一次世界大戦の好況を受けて1918年1月に船舶部を発足し海運事業に参入、11隻の汽船を保有した。しかし1919年に大戦が終結し好況も終わったため、同年4月に海運事業の分離を決定。汽船11隻を現物出資して川崎汽船を設立した。設立当時は40万株中39.9万株を川崎造船所が保有し、子会社として運営された。その後、終戦による財閥解体に伴い1949年に川崎汽船は株式を上場し、川崎重工との資本関係を解消、単独の海運会社として独立した。

1922年12月、岐阜工場を開設した。すなわち神戸以外への生産拠点拡張の一環であり、後年に分離する航空機事業（1937年・川崎航空機工業）と関わる重要拠点として位置づけられた。

1940年9月、川崎航空機工業株式会社の明石工場を開設した。よって戦時下の航空機需要拡大に応える生産体制が整備され、戦後における航空機事業（後のP-3C対潜哨戒機ライセンス生産・ボーイング向け部品生産）の拠点として継承されていった。

戦後の財閥解体により、川崎重工業もグループの解体が決定。川崎重工業は「造船・造機・電機」の3事業で再発足した。一方、子会社などで運営していた4事業「海運・航空機・鉄道車両・製鉄業」について完全な分離を決定。海運業は川崎汽船、航空機製造は川崎航空機、鉄道車両は川崎車輛、製鉄業は川崎製鉄（現JFE）として分離し、各社の株式上場を通じて川崎重工との資本関係を解消した。

1981年12月、米国に「Kawasaki Motors Manufacturing Corp., U.S.A.」を設立した。よって1966年の二輪車北米展開（American Kawasaki Motorcycle）に続く現地生産機能の整備が進み、北米における二輪車事業の本格的なローカル生産体制が確立された。

1984年6月、空調・汎用ボイラ事業を分離し、川重冷熱工業株式会社（連結子会社）に承継した。すなわち中核の重工業から専業子会社への切り出しが進み、後年（2021年8月）の株式交換による完全子会社化までグループ内で運営される事業形態となった。

1989年2月、米国に「Kawasaki Rail Car, Inc.」（連結子会社）を設立した。よって1997年のニューヨーク市交通局向け地下鉄車両の製造開始に先立ち、北米における鉄道車両事業の現地生産・納入体制が整えられることとなった。

2010年10月、株式会社川崎造船・株式会社カワサキプレシジョンマシナリ・カワサキプラントシステムズ株式会社を合併した。よって2002年以降に分社化した子会社群を本体に再統合し、グループ内事業の重複解消とシナジー追求を狙った組織再編となっている。

造船事業における三井造船との統合計画を受けて、川崎重工業における社内不満が噴出。経営不振に陥っている三井造船との統合計画を疑問視する声が大きくなった。この結果、2013年6月の臨時取締役会において長谷川社長の解任動議が出され、賛成10に対して反対3によって可決。村山氏が新社長に就任した。

事業ポートフォリオの変革を目的として、2020年11月に10年間の経営方針として「グループビジョン2030」を策定