1896年9月、鉄道局長を退いた井上勝が大阪府西成郡川北村に汽車製造合資会社を創立した。資本金64万円、出資社員18人には黒田長成・前田利嗣・毛利五郎ら旧大藩諸侯、岩崎久彌・住友吉左衛門・渋沢栄一・安田善次郎・大倉喜八郎・藤田伝三郎ら明治財界の中核が並んだ。後に「鉄道の父」と呼ばれる井上が早々に民間車両会社の創立に動いたのは、当時の鉄道資材が輸入一辺倒で外貨が流出し続けた状況を変える目的があった。井上自身が掲げた創立趣意の第一項は「外貨を節約することができる」、第三項は「わが国の労働者に職を与えることができる」であり、創業時点から国策的性格を帯びていた。

1899年6月、東京小石川で平岡工場を経営していた平岡熈を副社長に迎え、社名を大阪汽車製造合資会社に変更、資本金を90万円に増資した。同年7月5日に大阪工場で開業式を挙行し、製品目録200部を鉄道作業局と全国67社の民間鉄道会社に発送した。日清戦争後の不況下での船出だったが、開業前から41件・6万円超の引き合いがあり、初年度から安定的に受注を確保した。1901年7月には東京本所区錦糸町の平岡工場一切を譲り受け、社名は再び汽車製造合資会社に戻された。この買収によって、東京と大阪の二拠点体制が成立した。

1901年8月、わが国民間会社製造の第1号機関車「1B1形」を完成、同系列9号機は鉄道作業局民間発注第1号機「A10形」となり、1911年に川崎造船所製「6700形」が登場するまでの10年間、汽車製造が国産機関車市場を独占した。車輪旋盤など工作機械の自社生産も1899年以降進め、官営・民営鉄道の各工場へ供給した。だが1906年の鉄道国有法で主要顧客が一気に消失、1909年8月には汽車製造・日本車輛・川崎造船所の3社で鉄道用品製造共同事務所を設立、1910年に井上勝が急逝、1912年6月に株式会社へ改組し専務取締役に長谷川正五が就任するなど、創業16年で官民の構造変化を立て続けに迎えた。

1931年、東京支店を錦糸町から江東区南砂町に移転した。最終的に敷地は21万5,000㎡と大阪に匹敵する規模に達し、東京拠点の本格的拡張が同社の飛躍の原動力となった。1936年には創業40周年を機に本社を東京丸ノ内の丸ビルに進出させ、本社移転と同時に増資・工場大増設を実施した。大阪と東京の二大製造拠点を丸ノ内本社が統括する体制が、ここで整った。この時期は海外向け橋梁の輸出も拡大し、車両以外の収益基盤の広がりを示した。

1940年2月には岡山県児島湾の干拓地に約33万㎡を取得して岡山工場の建設に着手し、1943年6月に操業を開始した。戦時下の物資統制と労働力動員のなかで、岡山工場は小型ボイラ・ストーカ・クレーマなどを若干製造したにとどまり、完成を見ないまま1950年4月に閉鎖された。1944年5月、大阪本店は大阪製作所、東京支店は東京製作所と改称され、丸ビル本社と2製作所による組織体制を確立した。1944年時点の製品は、大阪製作所が機関車・ボイラ・ストーカ・橋桁・鉄骨・工作機械・軍需品、東京製作所が客車・貨車・電車・自動車車体・鉱山用諸機械と、生産品目別の分業がすでに定着していた。

1949年、国鉄の電化方針によりC62形を最後に蒸気機関車製造が中止された。創業以来の主力製品を失った大阪製作所は、振動応用機械の製造を開始するとともに、ボイラ技術を応用して化工機・吸収式冷凍機・ごみ焼却炉・パルププラント・水処理装置の5分野へ事業を多角化した。これら新製品群の累計納入台数は1972年までに約5,000台に達した。鉄道車両はディーゼル機関車ほか一部を除き東京製作所の担当となり、大阪は機械・鉄構を主力とする工場へ転換した。同年、佐々木和三郎社長が逝去し、玉置善雄が社長に就任した。1947年の船田要之助社長退任から数えると、わずか2年の間に社長が2人連続で交代した。

1952年には玉置社長も逝去し、4年の間に3代の社長が相次いで病死する異例の事態となった。朝倉希一は後年、この時期の苦境を以下のように回顧している。

1953年に後藤悌次が社長に就任し、経営の安定化が始まった。同年から田熊汽缶製造とのネーミング混同を避けるため、ボイラ製品の通称を「KSKボイラ」に統一した。後藤体制では新性能電車の領域への注力が進み、1956年に「モハ90形」（後の101系）、1958年にビジネス特急「こだま形」151系を国鉄向けに連続投入、東京・大阪間の日帰りを実現し、ステンレスカー「サロ95」とともに在来線特急電車の基本形を確立した。電気機関車では1958〜1968年の10年間で「ED60形」から「EF66形」まで毎年連続して製造し、国鉄電化路線の主力メーカーとなった。1959年時点で車両事業の受注80%を国鉄が占め、国鉄から電車メーカーとして正式に指定された立場にあった。

1962年12月、後藤悌次社長は経済誌の取材に対し、創業精神と当時の経営戦略を率直に語っている。後藤は国鉄出身で1953年に社長就任、1949年の蒸気機関車製造中止から続く多角化の総仕上げの時期にあたる。1962年は売上141.8億・純利益7.2億で、振り返れば会社の純利益がピークとなる年であり、同年10月には滋賀製作所が操業を開始し、25億5,000万円への増資も実施された。「斜陽産業論」を引いた以下の発言は、汽車製造の戦略が車両専業から重工業全般へ広がる方向へ動いていたことを示す一次資料となる。

「鉄道は斜陽産業」というアメリカ発の認識が、1958〜1959年頃に経営陣の戦略意識を変えた。同社内では社名そのものを変更する「改名問題」が真剣に議論されたが、最終的に改名は見送られた。多角化路線は、滋賀製作所の建設で具体化した。SG蒸気発生機の需要拡大に応えるため、1962年に滋賀県草津に新工場を建設し、10月1日に操業を開始した。投資総額は12〜13億円規模で、1961年の17億円増資・1962年の25.5億円増資でも不足する金額だった。後藤は「足りないのです。増資だけじゃ10億ないのですから」と語り、1964年の26.5億円再増資への布石を示している。1964年時点で国鉄受注は40%まで低下し、一般会社40%・輸出10%・その他10%という多角化された顧客構成に至った。1959年の80%から、わずか5年で半分の水準まで縮小した計算となる。

1968年度から1970年度にかけて、国鉄からの発注が3年連続で減少した。専業メーカーへの打撃は深く、汽車製造の場合、1965年実績で販売1,174両のうち貨車が838両（71%）と貨車比率が突出しており、業界予測する電車成長と貨車減少のトレンドの中で構造的脆弱性を抱えていた。当時の業界誌は縮小均衡の動きを以下のように記している。

1969年下期決算において、汽車製造は売上144億円と前期並みを維持したものの、経常損益で3億円の損失を計上し、無配となった。川崎重工業百年史は「1969年頃から次第に経営の不振が顕在化し、業績は年ごとに悪化した」と記録する。新製品開発のための試験研究費の増加と開発の遅れに加え、操業維持のため不採算案件の受注に踏み込んだことが原因として挙げられた。表面的にはこれが業績悪化の説明だったが、実態はさらに深刻だった。

1970年4月14日、汽車製造は7年間にわたる粉飾決算が発覚したことを公表した。1963年頃から続いた累積粉飾の一括戻し計上が、同年3月期決算（昭和45年3月期）の純損失33.91億円の主因となった。同期の経常損失は3.51億円にとどまっており、特別損失約30億円の計上が粉飾露呈による戻し損失だったと判断される。1962年に後藤社長が「斜陽産業論」と「改名議論」を語った時期は、粉飾が始まった時期と重なっていた可能性が高い。滋賀製作所建設の資金繰り圧力が、粉飾の動機の一つとなった可能性が指摘される。

粉飾期（1963〜1969年）に発表されたPL利益は年3〜5億円で漸減推移していたが、これは粉飾の規模を縮小しつつ軟着陸を図ったものと推測される。1969年に隠しきれなくなり、1970年3月期に純損失33億円として表面化した。表面の業績数値（FY1963〜FY1968の利益）は粉飾を含んだ過大計上であった可能性が高く、「1969年に経営不振が顕在化した」という表現は、実態としては「7年間の累積粉飾が同年に露呈した」と読み替えるべき事象である。

1970年5月14日、汽車製造は川崎重工業との業務提携を発表し、川重出身の米谷修二を社長として迎え入れた。提携を主導したのは、筆頭株主8.8%を保有していたメインバンクの第一銀行だった。粉飾発覚のわずか1ヶ月後の人事であり、銀行団主導の緊急救済措置の性格が濃かった。当時の業界誌は救済劇の全体構造を以下のように伝えている。

両社はKS委員会を設置し、車両・鉄構・機械の各部会で機種調整を進めた。1971年初頭にまとまった大筋合意は、じんかい焼却プラントを汽車製造、産業用大容量ボイラーを川崎重工が担当、パッケージボイラーは両社継続、車両部門は東京工場売却にともない川崎重工兵庫工場に集約するというものだった。1971年上期実績では、車両比率は15%まで低下し、ボイラ35%・化工機20%・機械18%・橋梁鉄骨12%という構成に転じた。1960年下期に34.7%だった車両比率が、10年で半分以下まで落ち込んだ。

1971年中に合併が決議され、1972年4月1日、汽車製造は川崎重工業に吸収合併され、75年の独立経営に幕が下りた。合併直前の人員整理は急激で、1970年3月期末の4,651名から1971年3月期末の3,491名へ1年で約1,160名減（▲25%）、合併時点ではさらに整理が進んで3,374人となった。合併後、大阪・滋賀・宇都宮の3製作所は川崎重工業に引き継がれた。滋賀製作所は後に川重冷熱工業の本社工場となり、宇都宮工場はアイ・ケイ・コーチの宇都宮工場として再編された。KS委員会の機種調整で「汽車製造側で残す」と決められたじんかい焼却プラントも、合併後は川崎重工の環境装置部門の一翼として継承された。

川崎重工業の四本潔社長は1971年の証券アナリストジャーナルで合併の動機を率直に語っている。買収側の認識として注目されるのは、川重自身の車輌部門も赤字であったという率直な告白と、合併による「消極的メリット」という冷静な見方である。1968年からの国鉄発注3年連続減少のなかで、両社とも車両事業の構造調整に追われていた状況がうかがえる。1970年前後には東急車輌が大阪工場の車輌生産を中止、日本車輌は蕨工場を閉鎖するなど、業界全体で縮小均衡の動きが並行して進んだ。汽車製造と川崎重工の合併は、こうした業界再編における最大の事例でもあった。

鉄道技術者の朝倉希一は同じ1972年に合併の歴史的意味を総括した。朝倉は日本鉄道技術協会会長を務め、汽車製造の社史的位置づけを業界全体の視点から振り返る位置にいた。後藤悌次社長が10年前に用いた「国策会社」の語が、朝倉では「国策に殉じた」へと反転して引き継がれている。1962年の自己定義は将来への意思表明だったが、1972年の総括は終焉を受け止めた回顧として響く。10年で同じ語が指す意味が反転した事実が、汽車製造75年史の象徴となる。政府委員会も車両会社の数を減ずべきと提案していた業界縮小均衡の中で、汽車製造が「卒先して合併に踏み切った」最初の事例となった。

後藤・朝倉・四本の3証言が示すのは、合併が「汽車製造の戦略選択 + 業界再編の必然 + 川重の消極的引受け」の三重構造で成立した事実である。物理的な終焉は東京製作所跡地に表れた。1973年から東京都住宅供給公社が江東区南砂2丁目の12haを取得し、14階建を中心とする高層住宅8棟・総戸数3,840戸の南砂住宅団地として再開発した。当時の公社市街地高層住宅団地として日本一の戸数であり、1901年の平岡工場買収から70年続いた東京拠点は、3,840戸の公的高層住宅団地として再生された。