去年年底OpenAI推出了聊天機器人「ChatGPT」，不但能夠進行對話回答問題，連寫論文、小說、程式都難不倒它，強大的功能不禁也讓外界開始擔憂這類AI是否會遭到濫用？為了以防此情況發生，OpenAI在近日推出了新的AI工具，可以判斷文本是由人類或電腦撰寫。
- OpenAI推出了新的AI工具，可以判斷文本是由人類或電腦撰寫。（示意圖來源／iStock）
ChatGPT是由「自然語言處理模型」藉由增強式學習的方式訓練而成，其能夠根據使用者的問題進行通順、語意有修飾過的長篇回應。此功能強大的AI推出後即受到各界的關注，但學界也擔心此功能遭到濫用，另外，由於其搜索資訊的來源為網路、新聞、維基百科、社群媒體……等的貼文，因此也會有抄襲等問題產生。對此，OpenAI推出了新工具進行反制。
該公司表示，此工具雖然無法完全準確辨識出由AI所撰寫的字有哪些，但仍然具有一定的參考價值，目前能判斷 1000 字元以上的文本，並且會隨著輸入的文本長度增加而提高準確性。即使如此，新工具在使用上仍有許多限制，例如只能用於英文文本，且能夠透過稍微編輯人工智慧生成的文本來規避此工具的規則，仍需要持續地修改模型。
而除了OpenAI以外，普林斯頓大學學生 Edward Tian 也推出了「GPTZero」來協助學術界辨認文章，更吸引了許多矽谷創投關注。可見在ChatGPT推出後，對於學術倫理等議題將會帶來了新的思考面向。