1939年9月、新潟県下の精油業者8社が合同して大協石油株式会社が設立された。本社を東京に置き、資本金は125万円。戦時下の石油統制のもと、業者を集約して精製能力を確保する国策的な再編の一環であり、コスモエネルギーHDの最も古い源流に位置する。設立翌年代には四日市製油所の建設に着手し、1943年7月に完成させて中核拠点とした。本社を東京、主力工場を四日市に置く体制は、戦後復興期から高度成長期にかけて、首都圏向け石油製品の供給拠点としての地位を後押しした。新潟8社合同という地方発の出自にもかかわらず、首都圏元売の有力プレイヤーとして再出発する基盤がこの段階で整っていた。

戦後の混乱期を経て、1949年5月には大協石油株式会社として東京・大阪の各証券取引所に株式を上場した。終戦から4年、産業復興と資本市場再建が進む節目の年に上場を果たし、同年8月には一般石油製品元売業の登録・認可を受けて、精製から元売までの垂直統合を制度的に承認された。元売資格の取得は、原油の精製・製品の販売を一貫して担う事業者として、戦前から続く統制経済の枠組みを脱して市場経済下の事業基盤を確立する手続きでもあった。新潟8社合同という地方発の出自を持ちながら、首都圏元売の中核として再出発する形が整った。

1950年代から1960年代にかけて、大協石油は四日市製油所の拡張と関連事業の整備を並行で実行した。1958年11月には丸善石油の全額出資により丸善ガス開発（現コスモエンジニアリング）が設立され、LPG事業とエンジニアリング機能の起点が築かれた。直接の系列ではないが、後の3社合併で同じグループに加わる事業会社が、1950年代後半に種を播いていた構図である。戦後の石油需要拡大局面で、精製・販売・エンジニアリングを別個に積み上げる動きが業界全体で広がり、大協石油もその一翼を担う独立企業として規模を拡張した。

1967年12月、大協石油・丸善石油・日本鉱業の3社が現アブダビ首長国政府との間で利権協定を締結した。日本独自の石油上流権益を中東で確保する歴史的契約であり、翌1968年1月に3社の共同出資でアブダビ石油株式会社を設立、2月には同社が利権協定と事業協定を譲り受けて事業主体となった。アラビアン石油や帝国石油と並ぶ「自主開発油田」の代表的存在として、コスモグループの上流事業の中核となる権益が1967〜68年に獲得された。後にコスモ石油の海外開発事業として承継され、現在のヘイル油田を含むアブダビ陸上権益まで連なる長い系譜の起点である。

1973年と1979年の二度の石油ショックは、日本の石油業界に大きな影響を与えた。原油価格高騰と需要急減、そして1985年12月のプラザ合意以降の円高・原油安への揺り戻しを経て、業界には合従連衡の機運が高まった。大協石油も例外ではなく、1980年7月にアジア石油との資本提携により同社株式48.7％を取得し、業界再編の地ならしに着手した。1980年代前半には、丸善石油の全額出資で1982年2月に丸善松山石油（現コスモ松山石油）を設立、1984年2月には大協石油の全額出資により旧コスモ石油を設立して四日市製油所を譲渡するなど、3社統合に向けた事業体制の再編が連続して動いた。

1984年4月、丸善石油との業務提携により同社の精製子会社と旧コスモ石油が合併、精製機能の一体運営が始まった。これは1986年の本格統合の前段であり、3社を1社に束ねるための精製会社の中間統合プロセスといえる。1986年2月には丸善石油の全額出資でコスモ石油潤滑油製造（現コスモ石油ルブリカンツ）が設立され、潤滑油事業の体制も整備された。3社の経営統合は、製油所・販売網・潤滑油・LPGを順次統合していく形で、数年がかりの段階的プロセスとして進行した。後発の業界再編（1999年の日石三菱、2010年のJX、2017年のJXTGなどに先立つ）の先駆的事例である。

1986年4月、大協石油・丸善石油・旧コスモ石油の3社が合併し、商号をコスモ石油株式会社に変更した。同時に丸善松山石油の商号もコスモ松山石油に変更された。戦後石油業界における最大級の再編で、首都圏の大協、関西の丸善、そして中間統合で生まれた旧コスモが一つの企業として再編された。新生コスモ石油は精製能力・販売網・関連事業すべての規模で業界中堅から大手への階段を一段上った。コスモエネルギーHDの直接的母体がここで誕生し、後の純粋持株会社化（2015年10月）までの29年間の事業基盤となる。

合併直後、1986年6月にはコスモ石油の全額出資でコスモ石油ガスが設立されてLPG事業が独立運営化、1987年4月にはコスモ石油潤滑油製造が旧コスモペトロテック・コスモ石油加工と合併して㈱コスモペトロテックに改称、1988年10月には丸善エンジニアリングが㈱アデックと合併してコスモエンジニアリングに改称と、関連事業の統合と改称が連続して動いた。3社の事業を一旦すべて子会社化したうえで機能別に再編し、コスモというブランドのもとに統一する作業が、1986〜1990年の数年がかりで完了した。

1989年10月にはコスモ石油とアジア石油が合併し、1980年からの資本提携を最終的に完結させた。これによりコスモ石油は国内シェアを更に拡大し、業界中位の地位を固めた。1989年といえばバブル経済の到達点であり、原油価格は1986年の暴落後の低位安定期に入っていた。新生コスモ石油は、原油安と内需拡大の追い風を受けながら、3社統合のシナジーを引き出すフェーズに入った。垂直統合の輪郭がほぼ完成し、コスモブランドの全国展開とアブダビ権益という上流資産を併せ持つ独立系石油元売としての立ち位置が確立されたのが、1986〜1989年の数年間である。