準確度過低　OpenAI 宣佈將 AI 內容識別器下架

　　ChatGPT 是 OpenAI 最新且最重要的大型語言模型（LLM），在自然語言對話中表現相當出色，從 2022 年 11 月首次推出以來，令人驚豔的聊天機器人一直是新聞報導中的亮點。到目前為止我們已經看到很多實例，其中模型已經能夠用合理和連貫的文句來表達，許多學生開始動起投機取巧的腦筋，將 AI 生成內容做功課甚至用它寫論文。

　　而 OpenAI 在今年 2 月推出一套名為「AI Text Classifier」的工具，目的是幫助用戶分辨文章是否由 AI 所產生。

準確識別度過低

　　不過，OpenAI 宣布已終止其 AI 文本辨識工具，自 7 月 20 日起生效，原因在於該工具的準確度過低。OpenAI 在一篇更新的網誌中表示：「我們正在努力吸納用戶的反饋，並研究更有效的文本溯源技術。」

OpenAI 公開承認，這款測文字是否 AI 生成的工具表現並不如預期，並警告說它可能會產生「偽陽性」（False Positive），也就是將人類寫的文字標記為 AI 生成。在將該工具下架的更新之前，OpenAI 表示，隨著數據的增加，該內容識別器的準確度可能會有所提升。詳細可見官方網站說明。

識別 AI 所生成的音效及影像內容

　　這款文本 AI 內容識別器下架的同時，OpenAI 宣佈計劃開發讓用戶理解音效或影像內容是否由 AI 生成的工具，不過暫時尚未透露明確的資料。

一場技術發展的「賽跑」

　　AI 生成內容的識別是一個相當複雜且不斷發展的領域。目前的技術還存在一些挑戰，如對抗性生成模型和潛在的假陽性或假陰性識別等。隨著生成模型越來越強大，未來可能出現更多的AI生成的內容，而這些內容可能更難被識別。因此，生成內容和識別技術之間可能會出現一種「賽跑」的情況，即兩者會不斷的提高自己的能力以對抗對方。

　　未來，針對 AI 生成內容的識別將會是個相當重要的議題，隨著 AI 技術的發展，生成內容的能力日益強大，同時也增加了虛假、誤導性或不適當內容的風險。如果AI生成的內容不能被有效識別和管理，那麼偽造內容和虛假信息可能會更加的普及，進而對社會造成威脅。

　　當AI生成的內容被用於商業用途時，可能會引發一系列的隱私和權利問題。例如，誰擁有AI生成內容的版權？如果AI生成的內容侵犯了他人的隱私，該如何負責？這些都是值得我們去持續關注的。