更多

    人工智能生成文章威脅學界 OpenAI 推出免費工具分辨 AI 生成文章

    Mickey Chan
    Mickey Chan
    愛模擬飛行、希望終有一日回到單車上的宅,眼鏡娘控。座右銘: 1.膽固醇跟美味是成正比的; 2.所有人都可以騙,但絕對不能騙自己; 3.賣掉的貨才是錢,不賣的收藏品不值一文; 4.踩單車,是為了吃更多美食! 5.正義的話語,不一定出自正義之人的口;

    由 OpenAI 開發的交談形人工智能文章生成系統 ChatGPT 為人物提供寫作的靈感,不過也同時為學界帶來衝擊,擔心有人用 AI 來做功課寫論文。OpenAI 剛剛就推出一個免費的分辨工具,嘗試幫人分辨那篇文章是否由 AI 生成。

    這個名為「AI Text Classifier」的工具用法很簡單,只要將文章貼到網頁的輸入欄按一下「Submit」掣,幾秒鐘就能給出分析結果,但文章必須至少 1,000 字節(約 150-250 個英文詞語)。分析結果分為「very unlikely(很不可能)」、「unlikely(不太可能)」、「unclear if it is(不明瞭)」、「possibly(可能)」和「likely(很可能)」 5 級。與 ChatGPT 一樣,這個分辨器也是需要有 OpenAI 帳戶,也需要以 VPN 到外國才能登入使用。

    AI Text Classifier:按此

    《PCM》編輯部就嘗試用 ChatGPT 生成一篇有關分辨 AI 生成文章的論文,交回分辨器去辨識,得出「possibly」的結果。而另一篇從網上拷貝下來的新聞報道就被判斷為「unlikely」,可見有一定準確度。而 AI 生成的中文文章,由於生成出來的字數都很少,通常都無法達到分辨的要求。

    不過 OpenAI 方面也表明,他們不可能可靠地檢測出所有 AI 生成文章。他們指這個分辨器有多個限制,包括字數少於 1,000 字節時分辦率很低,對於小孩或非英語語系人士寫的文章亦容易被誤判為 AI 生成文章,這工具亦主要以英語來進行訓練;一些很容易推測的字句如首 1,000 個質數的清單也因為結果必定相同而不可能分辦是人類還是 AI 製作。另外,人們也可輕易修改 AI 生成的文章內容來規避分辨器。

    OpenAI 承認,這分辨器的分辨率不算高,對英語文章的正陽性分辨率為 26%,而假陽性的誤判率就有 9%。不過他們仍公開這工具,希望為受 AI 生成文章困擾的學界提供輔助工具,並收集用戶的意見,以持續改善分辨器。

    您會感興趣的內容

    相關文章