華夏經緯北京

一張真假難辨的圖片，一個在現實和虛假間游離的故事，這會讓你難以分辨事實的真相。久而久之，在習慣用質疑的眼光看一切的你看來，真新聞也像假新聞，假新聞也有真事實。

而在今天，假新聞也不僅由人類產生，機器也可以生產出令人信服的假新聞。隨著時間的推移和技術的發展，這種情況只會變得越來越普遍，并且可能更有破壞性。

真真假假分不清，不如「以火治火」，用 AI 來檢測 AI 寫的假新聞。這個檢測假新聞的 AI 就是 Grover。

我們對 Grover 的研究表明，檢測虛假信息的最佳模型就是產生它的最佳模型。

Grover 從谷歌新聞上 5000 個不同媒體撰寫的新聞中進行學習。在這過程中，它接收了 120 千兆字節的真實新聞文章，并用這些文章進行訓練，最終 Grover 分辨人和 AI 寫的故事的正確率是 92%。在此之前，最好的假新聞識別器的正確率是 73%。

Grover 之所以能如此有效地發現虛假內容，是因為它也非常善于自己制作內容。畢竟造假大師和制假大師之間只有一線之隔。

華盛頓大學教授和論文的共同作者 Yejin Choi 在一份新聞稿中就表示辨別假新聞的 Grover 在假新聞撰寫編造上也遠比他人得心應手。「在我們的研究中，我們發現 Grover 的假新聞內容遠比我們人類同胞寫的新聞更可信，這一事實說明了自然語言生成的發展程度——以及為什么我們需要努力克服這種威脅。」

這個擅長打假也擅長造假的 AI 還有能力模仿特定媒體的風格，甚至是特定作家的風格。之前，Grover 生成的一篇假新聞就模仿了《紐約時報》專欄作家 Paul Krugman 的文章風格。不過研究人員也表示，即使是最好的人工智能假新聞，所做的一切依然基于習得的風格和語調，而不是對語言和世界的真正理解。因此，只要我們有耐心，我們可以從原作者浩如煙海的文章中找到 Grover 模仿的痕跡。

大方的研究者們將 Grover 的演示放在了網上，每一個人都可以用它寫些天馬行空的假新聞。Fastcompany 的編輯就用它寫了一個《為什么川普一天要做 100 個俯臥撐》的怪誕文章。面對這種專業編輯都有點束手無策的文章，Grover 的表現也蠻出彩：

當你想到俯臥撐時，第一個想到的形象絕對并不是美國總統。作為一名三軍統帥，特朗普的健康狀況幾乎不為人知，雖然他承諾一旦當選總統就會鍛煉身體。在《名人學徒》節目中，他對阿諾德·施瓦辛格的技術大加嘲諷，沒有什么能阻止特朗普不做「特朗普式的俯臥撐」。不過就連特朗普自己也承認，不管你的工作多么適合你，要想駕馭自己的身體都是極其困難的。那么，是什么讓三軍統帥走上正軌呢?答案是 100 個俯臥撐。

雖然只有短短兩段內容，但是我們也可以看出 Grover 對川普性格和言論的把握和本人性格非常相似。刨開令人啼笑皆非的新聞主題，可能真的會有不少人相信這條新聞。

Grover 論文的第一作者 Zellers 表示：「盡管書寫看起來很流暢，但 Grover 和其他神經語言生成器所寫的文章包含了機器獨有的語言怪癖，這暴露了它們的機器起源。」這些語言不暢之處就類似于神經文本生成器的簽名或水印。Grover 知道去尋找這些「水印」，這使得它在挑選人工智能創造的故事時更為高效。

Grover 依然需要進化，雖然它已經比同行做得更加出色了，但它依然還有無法識別的 8% 假新聞。

隨著人工智能變得越來越復雜，用 AI 抵御 AI「制造」可能是我們能夠采取的最佳手段。