海軍の技術者で知り合いであった井深大と盛田昭夫が共同創業する形で東京通信工業が設立された。井深大は海軍で無線技術の開発に従事しており、同じく無線に関わるラジオや、磁気技術を用いるテープレコーダーなどの開発に従事した。創業当初のソニーは研究開発色の強い会社であり、コンシューマー向けの製品は手がけていない。
井深大は米国への視察によりトランジスタが実用化されつつあることを察知した。そこで、トランジスタの特許実施県を米国の大企業・WEから導入し、ソニーの自社でもトランジスタの開発を開始して小型ラジオの開発（真空管からトランジスタに代替）を目論んだ。トランジスタの歩留まりが悪いことから開発は難航するが、トランジスタの精製時にアンチモンを入れるという意外な方法で量産に成功。この結果、世界に先駆けて（正確には２番目）小型ポータブルラジオの開発に成功した。
盛田昭夫は東京通信工業を世界的な企業に育てるために、社名を「ソニー」に変更。さらに、アメリカ市場でトランジスタラジを「ソニー」ブランドで販売する道を選択した。当時、日本企業はアメリカ市場で現地企業のOEMとして供与するのが一般的であり、ソニーの独自ブランド路線は異色の選択となった。
トランジスタラジオの販売拡大により、株式上場を果たす。急成長企業として注目を浴びた。
トリニトロン方針のカラーテレビの販売促進のために、ソニーは東京銀座の一等地である数寄屋橋に自社ビルを建設。ソニー商品を紹介するショールームを新設して話題を振りまいた。
ラジオ、カラーテレビに次ぐ期待の電機製品として「ビデオ」の開発を推し進め、ベータマックスの規格を発表した。ソニーは競合他社にもベータマックス規格の採用を申し出るが、松下電器とその子会社である日本ビクターは「VHS」方式を提唱して、ビデオ規格は２つの流派が入り乱れる形となった。こうしてソニーと日本ビクターの間で熾烈な「ビデオ戦争」が勃発したが、ファミリー作りに成功した日本ビクターのVSHが優勢となり、1980年代後半にソニーはVHSの併売を決めてビデオ戦争で敗北を喫した。
カセットテープの軽量小型化という追い風を受けて、ポータブルで音楽を楽しめるウォークマンを開発。世界的なヒット商品となり、人々がイヤホンをつけて街を歩くことが普通の光景となった。
当時の映像は磁気テープというアナログが主流であったが、ソニーはデジタル式の画像処理技術を磨き、CCDを商品化した。以後、ソニーの半導体事業を支える屋台骨となり、商品化から30年を経た2010年代にはソニーの貴重な収益源に成長した。CCDは主にデジタルカメラや携帯電話のカメラに使用され、デジタル機器に必須な部品となっている。
ソニーは巨額費用を投じて、米国の映画制作会社の名門コロムビア・ピクチャーズを買収した。当時、米国内では「アメリカの魂を買った」などと批判をされるなど、日米貿易摩擦の象徴として取り上げられることが多かった。なお、この当時の買収価格が高すぎたため、1990年代にソニーは特別損失を計上した。
ソニーの共同創業者である井深大がソニーの名誉会長に就任し、経営の一線から退いた。なお、1997年に井深大は89歳で逝去し、ソニーと共に歩んだ人生に幕を閉じた。
1993年に盛田昭夫は病気のために経営の復帰が困難となり、1994年に名誉会長に就任する形で経営を退いた。なお、1999年に盛田昭夫は78歳で逝去し、その生涯に幕を閉じた。
当時のゲーム機業界は任天堂の１強であったが、ソニーは任天堂に宣戦布告する形でテレビゲーム市場に後発参入した。任天堂がハードウェアの性能を「必要最低限」に抑えたのに対し、ソニーはハードウェアの性能を「最大限」に高めることで差別化を図り、コアなゲーム好きな層をを獲得することでゲーム事業を発展させた。なお、ゲーム事業の発展の立役者は久夛良木健（現スマートニュース社外取締役）であり「プレーステーションの父」と呼ばれる。
2001年にソニーは「減収減益」の決算を発表し、市場関係者を動揺させ株式市場が一時的に暴落してソニーショックと形容された。長年、ソニーといえば先進的なイメージがとりまとっていたが、ソニーショックを経て同社の限界が露呈する形となり、経済メディア上にソニー批判が目立つようになった。
リーマンショック後もソニーは一部の事業の不振を挽回できず、2012年に4550億円という巨額赤字を計上した。なお、赤字の理由は、主に米国事業の業績悪化を見込み、繰延税金資産に約3000億円の引当金を計上したためである。
2010年代を通じてソニーは事業の選別を実施。液晶テレビ、携帯電話、パソコンといった競争力のない事業を縮小し、CCD（画像半導体）、ゲーム（プレーステーション）、音楽（ストリーミング）、金融（ソニー銀行・ソニー損保）への注力を推し進め、結果として収益力の回復に寄与した。