荏原製作所の歴史を一言で表すと「普通の会社への転換」になる。
荏原製作所の祖業は大型ポンプ（渦巻ポンプ）であり、主な販売先は東京都などの自治体であった。これは大型ポンプの用途が下水処理施設など、各自治体が運営する水処理施設であったことが理由である。大正時代の時点で大型ポンプを製造できるのは、荏原製作所・日立製作所・三菱重工の3社が中心であり、渦巻ポンプのシェアはこれらの企業によって固定化された。ポンプは、戦後に談合の温床となるが、長期にわたるシェアの固定化が１つの要因となっている。
1950年代から1990年代にかけて、荏原は風水力機械や水処理、ゴミ処理プラントといった具体に多角化を志向したものの、販売先は官公需がメインであった。事業ごとに競合は同じ顔ぶれであることも多く、結果として談合が常態化。長らく外部に露呈しなかったこともあり、競合との「価格調整」が当たり前のように行われていた。この結果、1990年代から2000年代にかけて公正取引委員会が談合の摘発を本格化すると、荏原の各事業で、談合が相次いで発覚した。
しかも、談合だけで終わらないのが、荏原の根深い問題であった。法令意識への低さからか、荏原では経営陣による横領が常態化。2007年に代表取締役（副社長）による3.2億円の横領が発覚し、荏原製作所の社会的信頼は失墜した。社長を含めた当時の経営陣が一斉に退陣したことで、ようやく荏原は「普通の民間企業」へと歩みを進めた観がある。
一方で、明るい兆しもあった。諸悪の根源は「官公需向け」のビジネスであることに起因するが、荏原では現場の技術陣が中心となって官公需からの脱却を推進。その象徴が1980年代の半導体製造装置への新規参入であった。当時の荏原の技術陣はポンプに依存する事業構成に危機感を抱き、半導体メーカーの担当者を藤沢工場に招待。顧客ニーズを汲み取りつつ荏原の技術力を活かしてドライ真空ポンプやCMPなどの製造装置を世に送り出した。半導体業界は、談合が通用しない技術勝負であるため、荏原が「競争市場」に揉まれる良い起点となった。
総じて、荏原の歴史を振り返ると、経営トップが杜撰だった一方で、現場の技術陣は優秀で、ボトムアップに長けた組織風土に見える。
明治38年に井口在屋氏（東京帝国大学・教授）は、世界初となる「渦巻きポンプ」の理論を発表。この研究を実用化するために、国友鉄工所が創立されたが、経営状態が悪化し、渦巻ポンプの事業化に失敗した。この時、国友鉄工所に勤務し、東京大学で井口氏から学んだ弟子にあたる畠山一清氏は、渦巻ポンプの将来性を信じて、起業を決意したという。
1912年（大正元年）に「ゐのくち式機械事務所」を創業して、日暮里に設置した拠点で渦巻ポンプの「設計・製造・販売」に従事した。このため、荏原製作所の創業は「ゐのくち式機械事務所」が発足した1912年とされる。
渦巻ポンプの販売先は、主に東京市などの公共向けが中心であった。当時のポンプは輸入品が中心で、これに加えて国産品としては三菱重工および日立製作所と競合した。
そこで、畠山一清氏は東京市におけるポンプの性能試験（入札）に参加。ポンプの設計・開発・製造を一貫して行なっていたこともあり品質がよく、結果として荏原の渦巻ポンプの優秀さが認められた。以降、荏原を含めた国産品が輸入品を駆逐し、荏原は国内の大メーカー（日立・三菱）に並ぶポンプメーカーとして販売を拡大した。
ポンプ製造の拡大のため、1920年には本社工場を東京都西品川（大崎駅付近）に移転するとともに、株式会社として荏原製作所を設立した。「荏原」の由来は、本社の移転先の住所が「荏原郡」であったことに由来する。
昭和初期の戦前において、荏原製作所は国内におけるポンプ生産量において、シェア60%を確保し、国内ポンプにおけるトップメーカーとして認知された。
2002年にダイオキシンの排出規制が強化されたことで、荏原製作所は新型のガス化溶融炉によるゴミ処理プラントを受注。だが、追加工事の発生により後期が遅延し、ゴミ処理プランとを主力とするエンジニアリング事業の採算が悪化した。
この結果、2003年3月期に荏原製作所は最終赤字285億円に転落した。
2007年9月に荏原製作所は旧本社工場である「羽田工場」の閉鎖を決定。製造品目である風水力機械を袖ヶ浦工場などに移管し、収益の改善を意図した。羽田工場の設立は1938年と古く、長らく荏原の本社工場として大型ポンプやプラント機器の製造に従事してきたが、老朽化が進行していた。
閉鎖後の羽田工場については、土地を含めて売却を決定。物流センターの建設を計画していたヤマト運輸に対し、約845億円で売却した。なお、荏原製作所は羽田工場の敷地を戦前に取得しており、時価（売却）が簿価を大きく上回り、2008年3月期に固定資産売却益としてとして724億円を特別利益として計上した。
ところが、2011年1月にアスベストによる土壌汚染が発覚。全量撤去などによりヤマトが計画していた物流センターの新設計画が遅れたため、荏原はヤマト運輸から提訴された。ヤマトによる訴額は85億円であった。
裁判は最高裁までもつれ込み長期化した。判決については、2014年の東京地裁、2018年6月の東京高裁、2019年1月の最高裁において、いずれも荏原製作所が敗訴した。
この結果、荏原製作所が59億円に遅延損害金を加算した賠償金をヤマト運輸に支払う判決が確定した。このため、荏原製作所は2016年3月期に「訴訟損失引当金繰入額」を64億円を特別損失として計上した。