AI 生成假臉逃不過！臉書掃蕩中國、菲律賓兩大網軍集團

臉書今天宣布，刪除了干預美國和亞洲政治的多個帳號，同時也公布這些假帳號的運作方式。安全政策主管 Nathaniel Gleicher 在官方部落格表示，臉書刪除違反「協同性造假行為」(coordinated inauthentic behavior，CIB) 政策的帳號，這兩大假帳號集團主要來自於中國與菲律賓。

臉書 CIB 計畫三年以來致力掃蕩刻意操弄的虛假行為，去年就移除了全球 50 個類似的假帳號集團，而在今年開始定期發表成果報告。臉書表示，目前已經刪除 155 個中國假帳號、11 個粉絲專頁、9 個社團以及 6 個 Instagram 帳號，刪除菲律賓的 57 個帳號、31個粉專和 20 個 Instagram 帳戶。

臉書研究他們如何干預亞洲和美國政治，主要運作方式如下：他們會使用 VPN 來隱藏其身份和位置，透過假扮特定國家地區的當地人，通常他們會成立粉專，同時在臉書社團中發表擴散相關的內容，這些內容包括中國在南海爭議行動以及支持菲律賓總統杜特蒂(Rodrigo Duterte)的言論等。

臉書官方表示這些來自中國的干預活動主要是針對菲律賓、東南亞，美國有但比較少，帳號的共同特點是幾乎沒有發表任何內容，看起來只像是為了建立受眾，調查發現大多來自福建省。

臉書發現，這些假帳號從去年就開始干預美國總統選舉，2019 年 4 月就成立社團「Go for Pete Buttigieg 2020」，但似乎沒有吸引太多人。今年他們則是成立針對美國政治的社團，一個反對川普、一個支持川普，另一個則是支持拜登名為「Quack Quack」專門張貼反對川普的貼文，最後一個看起來吸引最多人加入，共有 1,400 位成員。

臉書與假訊息社群分析公司 Graphika 聯合發表的報告指出，中國的假帳號使用 GANs 的 AI 技術建立的人像。GAN 為「生成對抗網絡」，顧名思義可用來「生成」資料，搭配大量的訓練資料，GAN 能夠學習到資料中的特性，並產生看似真實的「假資料」，例如提供大量人物肖像作為訓練資料，GAN 就能學習到人物圖片特徵，並產生栩栩如生假人物肖像。

Graphika 發現類似此濫用 AI 的秘密行動在去年激增，Graphika 指出，以偽造臉孔被用來躲避監測的帳號，視覺特徵在細節上仍然有破綻，因此即便是 GAN 技術生成者也被臉書揪出。

核稿編輯：Chris

延伸閱讀：

查看原始文章