人工智能作反是不少科幻電影的題材，到底 AI 會不會作反其實也是不少研究 AI 的科技企業的迷思。上月底， Facebook 就下令關掉一個正在研發中的 AI 系統的電源，原因是這個 AI 系統發展出一套獨特的語言來互相溝通。
以下是兩位 AI —— Bob 和 Alice 之間其中一段「談判」內容：
Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
看不懂吧？是的，連研發他們的 Facebook 開發人員都不懂。其實這是 Facebook 一項教導 AI 談判的研究，實驗最初有一個簡單的介面，裡面有一堆如帽子、籃球和書的虛擬物品，最初人類用戶就要跟 AI 商討如何分配這些物件。後來為了進一步實驗 AI 能夠跟其他機械人或人類，為不同目的而完成完整的「由始至終」的談判，開發人員就開發了一套「對抗網絡」，讓兩個 AI 自行進行分配物件的談判。
本來實驗的程式是要求 AI 以英語來進行談判的，不過經過一段時間沒有人類輸入資料之下，開發人員發現兩個 AI 開始以一套人類難以理解的語言來互相溝通。最後 Facebook 決定關機，不讓它們再談下去。 Facebook 人工智能研究中心的研究科學家 Mike Lewis 表示：「我們感興趣的是讓機械人能夠跟人類談話。」顯然他們無法接受 AI 「私下串通」。
可能有人會擔心人工智能有一天會作反，不過有工程師就認為這是杞人憂天。軟件工程師 Douglas Robertson 指人工智能自創語言來溝通並非新鮮事，事實上這種事其實非常親近。例如我們常用的 Google 翻譯就用了一套「中間語言」，來在兩種語言之間進行翻譯工作。他認為就算是人類社會，不同行業或群體都會有一套行外人難懂的行內語言，這只是為了讓「行內人」之間溝通得更有效率。
資料來源：CBS、Independent、Fast Company