生成式 AI ChatGPT 是近期最熱門的話題，首次登場便吸引了各大巨擎的注意，因為其強大易用的功能，現在已經是許多人職場上必備的輔助工具之一，然而，因為仰賴 ChatGPT 的人數眾多，不乏不慎將機敏資料放上 ChatGPT 做運算的人，因此潛藏其中的資安危機一直是被人們所詬病的。
最近根據 Group-IB 資安公司的調查報告指出，從去年六月到今年五月的一年之間，ChatGPT 有超過10萬個帳戶的個資被外洩，而這些帳戶的憑證甚至被駭客外流到暗網上兜售，原因是用戶的裝置被安裝了惡意軟體，進而導致帳戶外洩。其中，以超過4萬個帳戶被盜的亞太地區最為嚴重，再來是超過2萬個帳戶被盜的中東、非洲，接著是有1萬多個帳戶被盜用的歐洲。
先前曾有過三星集團 Samsung 員工因工作之便，而將公司內部的機密資料輸入到 ChatGPT，這樣做可能讓這些機密資料變成 ChatGPT 的模型訓練資料，導致公司內部資訊外流，而外部人士也可能藉此取得這些資訊。因此，蘋果 Apple 已經全面禁止員工使用 ChatGPT，亞馬遜 Amazon 也呼籲員工使用亞馬遜內部的 AI 工具撰寫程式碼，以避免使用 ChatGPT 可能帶來的資安隱憂。
ChatGPT 是相當實用且容易上手的 AI 工具，然而，難以發覺的資安危機讓企業對其保有疑慮，如何在資安考量下與之共存是許多企業正面臨的問題。