網絡上充斥假帳號，但Facebook首次出現大規模以AI合成人臉註冊的頁面。
上週五（ 20 日），Facebook宣佈移除了總共900多個Facebook及Instagram帳號、粉絲專頁與社群，並聲稱這些頁面透過不正當手段，將親特朗普的內容、言論接觸到約 5500萬名使用者。這些假帳號、假網頁多數透過AI （人工智能）自動生成的照片申請註冊，並且透過同樣手法在其他平台上如 Twitter及YouTube宣傳以右派為主的言論。
美國科技雜誌《Wired》報道指，這件事令人震驚，代表資訊戰中進入了新階段。看起來是首次有人在社群網絡上以AI大規模、系統性合成人臉。專門研究假資料組織 Graphika 和D FRLab的研究人員在一份有關網路安全的報告中也指出，他們第一次看到這項技術正式用來經營虛假的社交媒體宣傳。
這些照片被「The BL」相關的頁面所用，包括610個 Facebook帳戶、156個社團，89個粉絲專頁與72個Instagram帳戶。Facebook經調查表示The BL跟大紀元之間有關係。網媒The BL稱自己為像一股清泉，可滋潤每位讀者心靈的媒體，與偏保守派媒體大紀元，看起來風馬牛不相及。大紀元由法輪功成員創辦，並長期支持特朗普。
報告指出：「這些假帳號管理員積極貼上 The BL 的新聞來吸引粉絲，經營社群。這就像大型製造業的結構，表面上提高 The BL 的網絡聲勢，其實一部分程度上也幫助了大紀元。」
表面上The BL是一間由美國人與越南人共同經營的美國媒體集團，卻在 Facebook 上卻廣泛用假帳戶宣傳政見，並導入流量至網站。
Graphika和D FRLab的研究人員發現，大部分跟The BL相關的假帳號都是用來維持經營超過80個支持特朗普總統的社群，是「美國需要特朗普總統」、「美國總統特朗普」、「我們支持特朗普與彭斯」等頁面的管理員。Facebook指，這些帳號都是在越南註冊的假帳號。
然而，大紀元媒體集團發聲明指，Facebook指BL網站與大紀元媒體集團有關的說法有誤。BL網站由大紀元的一位前僱員創立，並僱用了公司的一些前僱員，但這不能證明這兩間公司有所關聯。
BL網站由越南大紀元創立。 從《大紀元》網站的庫存頁面中可以看出，越南大紀元在2018年10月已不再列為大紀元媒體集團的一部分。
不論這些假帳號由誰建立，當中的技術有一定研究的價值。
Graphika和D FRLab的研究人員說支持特朗普總統的管理員的個人登記照，是經過真實人臉圖像訓練的神經網路所創造，實際上不存在。他們也公布了18 張很可能是用生成對抗網絡所生成的人臉圖像。
儘管這項科技能生成通過註冊的假臉，但研究人員說還是有跡可循。它主要是通過模仿視覺的模型來生成，但這個模型似乎不真的十分了解人體結構，容易背景和或是對稱型特徵（例如眼鏡、耳環）的瑕疵。
上圖是 Graphika報告中展示的其中一張圖片，是 The BL 相關群組的一名管理員「Alfonzo Macias」的頭像照片。該報告指出：「請注意眼鏡的不對稱性及清晰度不佳的背景。」 「研究員與那不勒斯腓特烈二世大學的專家核對了這張照片，他們評估這張圖像 99.9 % 由 GAN 所生成的。」
Source：Wired
Text by FORTUNE
