1923年8月、古河電気工業とドイツ・シーメンス社の資本・技術提携により富士電機製造株式会社が設立された。資本金1,000万円のうちシーメンスは300万円を引き受けたが、払い込みは機械器具の現物100万円と技術報償金200万円で振り替えられ、現金は入らなかった。「富士」の社名は「古河（富）」「シーメンス（士）」に由来する合弁の象徴で、日立・三菱電機・明電舎に出遅れていた古河財閥が、第一次世界大戦敗戦後のドイツ経済インフレ下で技術輸出を模索するシーメンスと条件を合わせた形となる。後発の富士電機にとって、シーメンスからの現物出資は技術供与と同時に現金不足という構造を会社に埋め込むものとなり、発足直後の資金繰りを強く縛った。

1925年4月、川崎工場が投資額578万円・敷地4.8万坪で稼働を開始した。設立時資本金の過半を超える投資だったが、シーメンスからの現金払込がないため、資金は金融機関からの借入で賄われた。工場長にはシーメンスから派遣された外国人が就き、発電機・電動機・変圧器・配電盤・扇風機・探照灯・量水計などを電力会社向けに量産する体制が組まれた。しかし日立・三菱電機・明電舎の先発企業が握る市場で、後発参入の富士電機は販売に苦戦し、1928年度の1,034万円をピークに1931年度まで3期連続の減収となる。借入金利負担と固定資産償却が利益を圧迫する構造が定着し、創業期の収益回復の道筋は見えないまま昭和恐慌期に入った。

1931年、富士電機は全従業員の16%にあたる205名を削減し、残る社員には昇給停止と手当減額を実施した。名取和作社長は経営不振の原因について、設立時のシーメンス現金出資が実現しなかったことと、川崎工場新設の借入依存を挙げている。「最初の株金払込がわずか250万円で、そのうちシーメンスの分は現金の払込がなく、工場建設が始まってからも株金払込は思うように取れなかったので、全て銀行からの借入金で賄った。また固定資産の償却も所定通り行ったから、それとこれとあわせるとほぼ赤字に匹敵することがわかった」（名取和作、富士電機社史1923-56 1957）。名取は同年に引責辞任し、創業メンバーが自ら撤退する形で創業期が閉じる。

1933年4月には電話部を設置して通信機器に進出したが、戦時下に通信省の指定工場となった関係で1935年6月に通信機部門を分離し、富士通信機製造株式会社（現富士通）を設立した。1942年から1944年にかけて松本・吹上・豊田・三重の各工場が相次いで立ち上がり、戦時増産の拠点が揃う。このうち松本工場は後にパワー半導体の主力工場となり、三重工場は戦後の家電と自動販売機の拠点に変わった。戦時期の工場網は財閥解体と戦後復興を経ても富士電機の生産基盤として残り、半導体・自販機という新規事業の受け皿として後年まで機能した。合弁という出自で得た技術蓄積が、戦後の事業多角化の足場となる。

1949年5月、同社は東京証券取引所に株式を上場した。1953年10月には半導体部門に進出し、同じ年にスイスのエッシャウイス社との提携でガスタービン生産も開始する。電源開発ブームで重電各社の受注は積み上がり、同社の受注残は「30億円以上に達している」（新日本経済 1952/06）状況にあった。ただし同じ記事は「電動機メーカーとしては東芝、日立、三菱に比べると小型であるが、水車の制作部門をもち、また水車整流器メーカーとしても定評がある」（新日本経済 1952/06）と位置づけており、重電4社の中で小型のプレイヤーという認識が業界に定着していた。1961年に千葉工場、1963年に中央研究所が加わり、1968年には川崎電機製造を吸収合併して神戸・鈴鹿の2工場を獲得した。個別事業の収益性はいずれも先発企業と拮抗する水準になく、広さと深さの両立は課題として残った。

1969年9月、富士電機は自動販売機の製造を開始した。家電事業の販売不振で三重工場に生産すべき家電が不足し、将来の市場成長が見込める新規事業として自販機に着眼した経緯だった。自販機進出の社内提案者は後の社長和田恒輔で、「1966年、私は自動販売機部門に進出することを提案した。業界には10年遅れての参入だったが、思い切って自販機の製造、その設備資金のリース、ベンディング材料の取り扱いと最初から一貫体制を整えた」（日経産業新聞 1987/12/23）と振り返っている。ツガミや三菱重工といった先発企業がいたが、製造に徹せず販売まで自社で担うモデルを取り、参入から約4年で国内シェア1位を確保した。先発に勝てない領域を見切り、後発でも勝てる隣接領域に資源を移し替える判断が、以降の富士電機の事業再編パターンとなった。

1984年9月、同社は商号を「富士電機株式会社」に変更した。1987年12月には子会社の富士電機冷機が自販機で国内シェア40%のトップとなり、1988年2月には同社株式を東証二部に上場、翌年9月に一部指定となる。業界紙は「富士電機が家電ブームに乗り遅れたことで、昭和40年代後半から停滞期を迎えたわけだが、その瀬戸際で、1969年に自販機を始め、家電部門は生き返ったのである」（日経ビジネス 1985/01/07）と評し、家電敗北を自販機で補った構図を指摘した。1994年から1996年にかけて中国・フィリピン・マレーシアに現地生産会社を設立し、アジア生産網を整えた。1999年4月には社内カンパニー制を導入し、電機システム・機器制御・電子・民生機器の4カンパニーに分ける縦割り運営へ移行する。カンパニー間の連携不足と重複投資という別の課題も抱えた。

2002年4月には三洋電機自販機を買収（吹上富士自販機と改称）し、自販機事業の規模を拡大した。同年10月には変電機器事業を日本AEパワーシステムズに移管し、2004年には富士物流株式の一部を豊田自動織機に譲渡して連結子会社から外す。業界誌は「翻って『総合』に固執した3社は、その良さを発揮できた時代もあったが、年々、看板が色あせている」（日経ビジネス 1997/10/27）と総合電機モデルそのものの限界を指摘しており、同社も名ばかりの総合路線から事業の絞り込みへ舵を切る流れにあった。選択と集中の動きは2000年代を通じて続き、個別事業で単独首位を狙える領域を残し、規模だけで勝負する領域は他社との合弁・譲渡で外に出すという仕分けで進めた。合弁出自の富士電機にとっては、他社との共同運営は相性の良い手段でもあった。

2003年10月、同社は電機システム事業・機器制御事業・電子事業・情報関連システム等の開発部門を会社分割により分社化し、商号を富士電機ホールディングス株式会社に変更して純粋持株会社へ移行した。承継先は富士電機システムズ（電機システム事業）・富士電機機器制御（機器制御事業）・富士電機デバイステクノロジー（電子事業）・富士電機アドバンストテクノロジー（開発部門）となり、総合電機の事業会社化が進んだ。2008年4月には富士電機水環境システムズが日本碍子子会社と合併してメタウォーターが発足、同年10月には富士電機機器制御の受配電・制御機器事業をシュナイダーエレクトリックに承継する。事業単位で外部資本との統合を進めつつ、グループ本体を身軽にする組み換えだった。

2008年3月期の連結売上高は9,221億円・営業利益358億円と堅調だったが、2009年3月期はリーマン・ショックで状況が一変する。同社は売上高7,666億円・営業赤字188億円・純損失733億円を計上し、事業構造改革費用184億円（人員対策82億円・固定資産46億円・棚卸資産45億円）を特別損失に計上した。電子デバイス部門のHDD向けモータ販売低迷が中心要因で、1931年の人員削減以来の会社史上屈指の構造改革となる。多角化した事業ポートフォリオが一斉に需要消失に晒された影響は大きく、持株会社化で進めた事業別分社化が、景気変動下では個別の損益を前に可視化する形となり、赤字事業への対応が次の経営体制に残された最初の課題となった。

2009年6月、リーマン後の赤字決算を受けて北澤通宏が取締役社長に就任した（前任は伊藤晴夫）。2010年、同社はパワー半導体SiCモジュールを開発し、電力損失改善技術の商品化に着手する。SiC（炭化ケイ素）は従来のシリコン半導体より高温・高電圧で動作でき、EV用インバータや再エネ向けに用途が広がっていた時期で、富士電機はインフィニオン・三菱電機といった競合に対して、パワー半導体とパワエレ制御の組み合わせに賭ける方向を選ぶ。総合電機として広く張るのではなく、自社が強い制御技術と組み合わせて差別化できる領域にデバイス側の投資を集中させる発想で、リーマン後の赤字決算が戦略の絞り込みを後押しした。

2012年4月、同社は持株会社体制を実質的に解消する。富士電機システムズを吸収合併して商号を「富士電機株式会社」に戻し、富士電機デバイステクノロジー・富士電機リテイルシステムズを当社に吸収合併し、日本AEパワーシステムズの変電・配電事業も承継した。2003年に純粋持株会社化したのとは逆方向で、事業別の分社化から事業一体運営への再統合という判断だった。2013年には松本工場でパワー半導体の増産投資、2016年には鈴鹿工場でパワエレテクニカルセンターを新設する。デバイスからシステムまでの垂直統合で顧客に一貫提案するモデルに切り替え、リーマン後の構造改革と並行してパワー半導体への経営資源の傾斜配分が進んだ。

リーマン後の2010年3月期営業利益9億円からの回復は緩やかに進み、2014年3月期に営業利益331億円、2018年3月期に559億円まで拡大した。コロナ禍後の2022年3月期には売上高9,102億円・営業利益748億円、2023年3月期に売上高1兆94億円・営業利益888億円で初めて売上1兆円を突破する。2024年3月期は売上高1兆1,032億円・営業利益1,060億円・純利益753億円と過去最高を記録し、EV向けパワー半導体が牽引役となった。2009年の大赤字から15年で収益力を回復させた背景にあるのは、パワー半導体への集中投資と同時に進めた事業ポートフォリオの絞り込みで、総合電機的な幅広さを残しながらも稼ぎ頭を絞り込む構造へ切り替わった。

2024年6月、北澤は会長CEOに退き、近藤史夫が社長に就任する。同年11月、富士電機とデンソーはパワー半導体の共同投資を決定した。2社合計投資額は2,116億円で、このうち705億円については経済産業省が補助を決定する。富士電機は松本工場でのエピウエハーおよびパワー素子の増産に投資する方針を表明した。2025年3月期は売上高1兆1,234億円・営業利益1,176億円・純利益922億円とさらに最高益を更新し、パワー半導体が富士電機の成長エンジンとなった。シーメンスとの合弁から始まった富士電機が、101年を経てデンソーとの共同投資に踏み切った構図は、合弁・他社協業という創業期の遺伝子と特定分野への集中投資が結び付いた形と言える。