1892年、乾物問屋出身の大林芳五郎が大阪で土木建築の請負業を個人創業した[1]。1898年に受注した大阪市築港工事を7年がかりで完工し、個人企業には異例の港湾工事で施工能力を業界に知らしめる[2]。1906年には東京支店を設けて東京中央停車場（東京駅）を受注し、1914年には東京駅と生駒トンネルを同年に完成させ、建築と土木の両分野で最難関の実績を並べた。1916年に芳五郎が死去すると義雄が2代目社長を継ぎ、1918年に株式会社へ改組して資本と人材の制約を外した。1936年から1940年の5年間は年平均の施工高で業界1位に立ち、戦前期の到達点を築いた[3]。創業から戦中までの歩みは、芳五郎・義雄・芳郎と続く大林家3代の一族経営が主導した時代だった[4]。

戦後の大林組は、戦災復旧や進駐軍関連の工事から事業再建に着手し、沖縄米軍基地の建設を通じてアメリカ式の機械化工法を現場で習得した。1958年に大阪証券取引所、1960年に東京証券取引所へ相次いで上場し、資金負担の重いダムや超高層ビルを担う財務基盤を整えた[5]。戦前の施工高1位が個人企業の延長だったのに対し、戦後の成長は株式会社の組織力に支えられた。1965年には東京都清瀬市に技術研究所を開設し、連続地中壁工法など他社にない施工技術を磨いて、技術力が受注を分ける時代に備えた[6]。海外では1964年にバンコクで建設業界初の常駐事務所を開き、1972年にジャヤ大林、1974年にタイ大林を設け、1979年にはアメリカの公共工事を日本の建設会社として初めて受注した[7]。

1989年、大林家と血縁を持たない津室隆夫が4代目社長に就き、3代の一族経営から組織的な意思決定体制への移行が進んだ[8]。2010年3月期には、リーマンショック後の建設不況で連結初の営業赤字625億円・純損失534億円を計上し、売上減がそのまま利益を圧迫する建設業の景気敏感性が露呈した[9]。だが業績はFY18に営業利益1,554億円と上場来最高へ急回復した[10]。2018年に就任した蓮輪社長は建築・土木を本業と呼ばないと明言し、不動産開発・グリーンエネルギー・海外建設のM&Aを三本柱に脱請負型ゼネコンへの転換を打ち出した[11]。2012年設立の大林クリーンエナジーや2011年の新星和不動産買収もその布石だが、2022年時点でも国内建設が連結利益の7割超を稼ぐ構造は残った。