1934年に吉田忠雄がYKKを東京日本橋に設立し、ファスナーの販売業で起業した。吉田忠雄は東京日本橋の古谷商会に勤務していたが同社が倒産したため、起業により再起を図る。
コモディティーであったファスナの領域で販売を推し進めるために、YKKの商標を制定した。当時、ファスナー業界には有象無象の日本企業が存在しており、YKKはそのうちの1社に過ぎなかった。
YKKはファスナーのコスト競争力を高めるために、海外から最新鋭の製造装置を輸入する方針を決めた。終戦直後の日本では外貨規制によって輸入機械の導入は容易ではなかったが、吉田忠雄は日本興業銀行の支援により大量の工作機械の輸入に成功。ファスナーの高速生産体制を確立した他、製造装置の技術を取得することで工作機械の内製化によってコスト競争力に磨きをかけた。なお、現在に至るまでYKKはファスナ製造装置の内製化は、同社の強みの源泉となっている。
1954年にYKKはファスナーの量産体制を構築するために、創業者の故郷である富山県魚津に近い黒部市に、量産工場を新設した。富山県は豊富な水力発電所を擁する土地で、アルミ精錬などのファスナーに必要な材料を生産するコストが安いというメリットがあった。以後、YKKは富山県黒部を生産拠点に据えて業容を拡大する。
YKKは主にファスナーの金属部分のアルミないし銅の加工に注力してきたが、衣服と縫い合わせる生地に進出するため、1957年に黒部工場内に繊維生地の生産ラインを新設した。以後、YKKはファスナーの垂直統合を推し進めて、1社でファスナー製造に必要な領域をカバーする体制を整えるとともに、ファスナーの製造に関する幅広い知見を社内に蓄えた。
1950年代を通じてYKKの創業者である吉田忠雄は海外の先進国を積極的に視察し、海外進出の機会をうかがった。そして、1960年に米国への単独進出を決断し、ファスナーのグローバル展開を本格化させる。当時、米国に単独進出する日本企業は「ソニー」や「積水化学」くらいであり、YKKの海外進出は当時としては異例の進出例となった。
YKKはファスナーに次ぐ主力事業を育てるために、アルミ建材事業に参入して黒部工場に生産ラインを設置した。建材はファスナーとな違って市場規模が大きく、YKKの売上の成長に大きく寄与した。だが、建材事業はファスナとは違って少品種大量生産のために業界内の値下げ競争が厳しく、2020年の今日に至るまでYKKの利益率を押し下げる問題事業であり続けている。
ファスナーは市場規模が小さいものの、顧客であるアパレルメーカーから様々な品種が要求されるという特性があり、即納が何よりも重要であった。そこで、YKKは海外におけるファスナーの現地生産工場を新設することで即納体制を確保。日本からの輸出ではなく現地生産を選択することで、貿易摩擦を未然に回避することにも寄与した。
YKKはアメリカに続いてヨーロッパへの進出を積極化。ちなみに、欧米先進国は単独進出、後進国は出資比率の制約上合弁で進出する形をとり、世界各地に生産拠点と販売網を整備した。
1973年までにYKKは海外に累計約254億円を投資し、海外売上高304億円を確保して日本企業における海外展開の成功事例として賞賛された。加えて日本国内でもファスナーでシェア90%を確保。1973年5月28日号の日経ビジネスは「国際企業化で開花するニッポン経営」としてYKKの躍進を賞賛している。
1970年代前半にYKKは建材事業を拡大するために、四国工場(1971年)、東北工場(1973年)、九州工場(1973年)をそれぞれ新設した。体積の大きいアルミ建材の物流コストを下げることを目論む。だが、なぜか首都圏という大市場に工場を新設しなかったため、アルミ建材業界では同時期に首都圏に大規模工場を新設したトステム（現LIXIL）が台頭することとなり、YKKの建材事業の雲行きが怪しくなる。
1980年代を通じて首都圏での建材流通拠点を整備したトステムが急成長を遂げ、1985年にアルミ建材でYKKの1位が陥落して、トステムが1位の座を獲得した。この結果、YKKのファスナー事業は好調が続いた（国内シェア95%、海外シェア54%）が、建材事業で厳しい競争にさらされることとなり、YKKの好調一辺倒の時代が終りを告げる。なお、1990年4月23日号の日経ビジネスは「YKKカリスマ経営の崩壊」というネガティブな判断を下している。
YKKの創業者であり成長の立役者である吉田忠雄が逝去。吉田忠雄は「善の循環」という概念を提唱し、利益を取引先や従業員に配分することをYKKで実践することで、経営における思想家としても大きな影響力を残していた。
1990年代を通じて中国が世界の工場として一大アパレル生産国として発展するなかで、YKKは中国への積極投資を推し進めるため、2002年に子会社の統括拠点会社を中国に設立した。以後、中国を拠点に東アジアでの投資を推し進める。