《紐約時報》報導，去年2月，美國三藩市一名男子Mark注意到他幼年兒子的私處出現紅腫。Mark的妻子致電醫生，因為時值疫情流行，加上碰巧翌日是星期六診所關閉，只能安排通過視像遙距進行緊急看診。護士要求夫婦發送兒子徵狀的有關照片，以便醫生提前查看。於是Mark使用其Android手機拍下兒子腹股溝的照片，記錄問題，再經妻子轉發給診所。沒想到這個一時情急的動作，會是Mark一連串恐怖惡夢的開始。
Mark在兩日後收到Google通知，指他的帳戶因「嚴重違反Google政策且可能違法」的「有害內容」而遭禁用。該通知中「了解更多」的鏈結導向一個可能的封鎖原因列表，當中原因包括「兒童性虐待和剝削」。他初時感到很困惑，後來便想起兒子受感染患病一事，認為是Google誤解了他所拍的照片是兒童色情照。
Mark因為Google帳號被封鎖，無法使用與之綑綁的Gmail、通訊錄及照片，他失去十多年來的電郵、跟朋友和舊同事的訊息紀錄以及兒子出生頭幾年的文件。由於他使用Google Fi電訊服務，因此就連手機號碼都被停用，被迫在另一電訊商重新上台，又因為原有的電郵地址和手機號碼已封鎖，Mark無法取得登入其他互聯網帳戶所需的驗證碼，形同「斷網」。
Google的裁決更使Mark成為警方調查的目標，但因為Mark的手機號碼停用，就連負責的探員也一度無法聯絡他。Mark填表要求Google審查對他的裁決，並解釋了他兒子的病情。只是在Mark提出上訴幾日後，Google回應稱不會恢復其帳戶，卻沒有進一步解釋。即使Mark後來向Google提供警方報告以證明自己不涉犯罪，仍不得要領。
不只Mark曾遭Google誤判，《紐時》報導亦提到德州侯斯頓另一名男子Cassio也因相同的「為孩子拍照求醫」情況被Google裁定上載兒童色情內容而封鎖帳戶。據了解，Google跟其他科技企業如Facebook和Twitter等，都是使用微軟於2009年發布的PhotoDNA來阻止兒童色情內容經平台傳播。它是針對虐待圖像而設的數據庫，經轉換為獨特的數字代碼，可用於快速梳理大量圖像以檢測出匹配的圖像，即使照片經過小幅度修改亦能識別，以協助社絕傳播非法及有害圖像的用戶。
Google於2018年開發出一種新的人工智能工具，可以識別前所未有的兒童剝削圖像，這代表不僅能找到受虐待兒童的已知圖像，還有可能找到未知受害者的圖像，增加當局成功營救他們的機會。當Mark和Cassio所拍的照片從他們的手機自動上傳到Google的伺服器時，該項技術會對圖像進行標記。Google發言人表示，該公司只會在用戶對照片採取「肯定行動」（Affirmative action）時進行掃描，這包括用戶手機將照片備份到Google雲端的時候。
Google的內容審核員會審查經人工智能標記的照片，以確認它們是否符合美國聯邦政府對兒童性虐待材料的定義，當發現有問題時，會鎖定上載有關內容的帳戶，搜索其他性剝削材料，並根據美國聯邦法律的要求，向國家失踪和受剝削兒童中心（National Center for Missing and Exploited Children）的CyberTipline報告。該組織的2021年報告稱，已提醒當局注意「超過4,260名新的潛在受害兒童」，Mark和Cassio的兒子相信被計入其中。
並非所有兒童祼照都屬於色情、剝削或虐待的。北卡羅來納大學（University of North Carolina）法學教授Carissa Byrne Hessick表示，從法律上定義何謂構成性虐待圖像，可能相當複雜。她同意警方的說法，即醫學圖像不符合構成兒童色情的條件，因為它們的拍攝原因跟性無關，也沒有虐待兒童。對於Mark的案例，她理解Google因照片中出現兒童裸露性器官而將之標記，但拍攝的背後原因也很重要，那張照片只是出自一名擔心孩子生病的父親之手。
Google兒童安全運營管理負責人Claire Lilley表示，該公司意識到在遙距醫療的情況下，尤其是在新冠疫情期間，父母有必要給孩子拍照以獲得診斷。她指出，Google已經諮詢了兒科醫生，讓該公司審查員了解出於醫療原因而拍攝的照片中可能出現的情況。
Cassio和Mark的Google帳戶到最後也不獲恢復，永久停權。Cassio因為使用Google Hangouts將涉事照片發送給其妻子，違反了該聊天服務的服務條款。對於Mark的情況，Lilley表示該公司覆核專員的沒有發現他那張涉事照片中有皮疹或發紅情況，隨後對他帳戶的審查，發現了事發六個月前有另一段影片，當中有小孩和一名祼體女人躺在床上，Google認為內容有問題。Mark稱對該影片沒有印象，只說這聽起上來像是一個私密時刻，即使拍下來都只是為記錄留念，沒有意識到它會被其他人觀看或評論，如果那個當下家人有穿睡衣，那麼一切問題就可以避免。
Source：綜合報道
Text by FORTUNE INSIGHT
