明治31年（1898年）に大隈栄一氏は自身で発明した「製麺機械」を事業化するために、名古屋市東区石町３丁目にて「大隈麺機商会」を個人創業した。このためオークマの祖業は製麺機械であった。
創業期における転機は、1904年に陸軍から工作機械を受注したことに始まる。日露戦争の勃発を受けて、日本陸軍はオークマに対して旋盤製造を要請。陸軍から送られてきた図面を参考に、弾丸信管用の旋盤の製造を開始した。当時、工作機械は輸入品が主流であり、オークマは工作機械の国産化で先発企業となった。
以後、オークマは陸軍向けの工作機メーカーとして業容を拡大。旋盤、形削盤、ボール盤、フライス盤、研磨盤などの工作機械の製造に従事した。工作機械の拡充を受けて、1916年5月には屋号を「大隈製麺商会」から「大隈鐵工所」に変更。1918年には株式会社に組織変更した。
工作機械の位置決めをおこなう数値制御（Numeric Control）をオークマは自社開発してOSPとして発表。日本国内では富士通（ファナック）が工作機械を手掛けないNCの専門メーカーであったのに対し、オークマは工作機械とNCを両方手がけるメーカーとしてのポジションを確保する。
名古屋市内の工場を移転する目的で、愛知県丹羽郡大口町に大口工場を新設。
また、生産の合理化のために、1980年に新設した大口工場に本社機能を移転。以後、オークマは国内工場に投資することにより、海外進出よリモ国内生産によってグローバルで競争する道を進めた。
オイルショックによる経済不況によってオークマの業績が悪化。経営再建のために、終戦直後から社長を務めた大隈孝一が社長を退任し、娘婿の大隈武雄が社長に就任した。固定費削減のために従業員の20%にあたる380名の希望退職者の募集、名古屋市内の工場式の一部売却などを実施。
また、社長が個人所有していた高級車・ベンツの売却など、リストラによる財務体質の削減に邁進した。なお、業界内では「オークマはいつ倒産してもおかしくない」（1980/4/21日経ビジネス）と言われたという。
工作機械の北米輸出およびアフターサービス（メンテナンス）の強化のため、米国に現地法人を新設
オイルショックの布教が一段落すると、1978年ごろから日本の製造業は生産性の高いNC工作機を導入。オークマのOSPを搭載したNC工作機械の需要が高まったことを受けて、オークマは業績を回復。1980年には過去最高の経常利益55億円を計上し、経営再建を成し遂げた。
円高ドル安の進行によって、日本の製造業が相次いで東南アジアでの工場投資を進める中、オークマは日本国内への投資を継続。岐阜県に可児工場を新設し、1997年には可児工場にマシニングセンタ専用組立工場を新設するなど、国内での生産投資を続け、海外市場には現地にサービス拠点を設けて輸出する体制を整える。
業績改善のために1993年から1994年にかけてオークマは合計約500名の希望退職者を募集。まずは1993年末に管理職132名（部長・課長クラス）が退職し、続いて1994年内に一般社員544名が退職した。この結果、合計676名の社員がオークマを退職し、希望退職の想定人数500名を超過した。
また、希望退職者の募集と同時に定年を60歳から56歳に引き下げる方針を打ち出した。この方針は労使（経営および労働組合）が合意した内容であったが、日本企業として「定年引き下げ」を実施することは珍しく、前例のない措置として注目を浴びた。
1994年1月11日に労働省（坂口労相）はオークマの定年制の引き下げを問題視して、オークマの前田社長に説明を要請。労働省がメーカーの社長に説明を要請するのは異例のことで、労働省はオークマに対して定年引き下げに難色を示した。
この結果、オークマは人員削減は継続するものの定年の引き下げは撤回し、日本企業における「定年の引き下げ」はタブーとなった。
定年制で混乱を巻き起こしたのはメディア報道であった。各種メディアは日本的な雇用慣行を重視し、オークマの定年制引き下げに対して批判的な論調を展開。加えて、メディアは誤った言説を流布（オークマはバブル期に過剰投資をした等）したことで、オークマの経営に対する心象操作を行った。
この結果、オークマでは経営の混乱を受けて、1994年2月にオークマの前田豊氏（元社長・相談役）が社長を引責退任した。社長退任後、前田氏は「皆さんの記憶から消える日を静かに待ちたいというのが、率直な気持ちです」と複雑な心境を吐露している。
このため、オークマにとって人員削減の遂行が、経営上のトラウマとなって記憶されている。
定年引き下げは労使双方にとって、文字通り苦渋の決断でした。なのに、これを軽々しく扱ったマスコミがあることは、残念でなりません。著名な評論家、一流と言われる経済誌が、よく調べもせずに、いろんなことを言ったり、書いたりする。一般論として批判する間は正当性がありますが、オークマ固有の事情については誤った指摘がずいぶんありました。権威ある第三者の発言は大きな影響力があるのですから、少なくとも最低限の取材をした上で、ものを言って欲しかったと思います。
私が的外れだと思う報道には、まず、私自身の経営に対する批判があります。「前田社長はバブル景気に踊って過剰な設備投資をし、そのツケを従業員に回した」。こう言う人がいますが、どこをどう見ると、こんな批判ができるのでしょうか。私は、むしろ、設備投資にブレーキをかけた人間ですから、過剰投資の張本人のように言われるのは、非常に心外です。（略）
それほど人員削減のマイナスイメージは大きいんですね。特に定年引き下げで騒がれたことは、会社に計り知れないダメージを与えたと反省しています。とにかく、雇用維持が大切な日本の経営風土の中では、こんなことをトップバッターでやってはいけない。これが、今回の失敗を通じて学んだ教訓です。当社は、いわば実験台になったようなもので、これからは、人員削減手段に定年引き下げを採用する会社は、まず出てこないと思います。
人員削減については、どう説明しても、会社にとって、あまり良い話でないことに変わりはありません。言えば言うほど、誤解を持たれる懸念があります。このうえは、皆さんの記憶から消える日を静かに待ちたいというのが、率直な気持ちです。
2000年代から2010年代にかけても、オークマは主力製品の国内生産を継続。2007年には可児に第５工場を新設し、マシニングセンタ・大型工作機械の一貫生産体制を構築。