大約一年前，Facebook添加了一項新技術，該技術能夠發現懷疑想自尋短見的人們，供公司的人員審查員分析，繼而阻止他們。而經幾個月在美國測試過後，Facebook 已正式將旗下的AI防自殺系統推出全球，透過關鍵字與影片內容分析，來預防使用者自殺行為。
去年秋天，美國阿拉巴馬州的一位女性用戶，在Facebook的開啟直播影片，同時揮舞著一把刀，說著自己想自殺，Facebook的AI系統偵測到這個事件，聯絡當地警方，最後順利阻止，並帶她到醫院接受觀察治療。
根據國際衛生組織（WHO）資料，每40秒就有一起自殺事件在地球上的某處發生，另外，對15至29歲年齡族群，第二大致死因正是自殺。這些用戶中，部分會在自殺前到社群媒體上，透露自己想輕生的念頭，Facebook 的偵測系統就在此時發揮作用：在遺憾發生之前，對其身邊的人發出消息，讓想輕生者獲得身旁人救助。
Facebook上的人工智慧系統，會對用戶的貼文或直播影片進行掃描，當偵測到關鍵字句，如「我想死」，「我討厭我的人生，我想自殺」等，就會把這些用戶標記起來，轉發給內部的社群營運部門，透過員工搶在第一時間過濾並查驗，若發現確實有自殺傾向，臉譜就會通知當地官方機構前往關心。
據Facebook的表示，這樣的AI查驗系統，比其他用戶手動回報消息的檢查速度快上30％，而對有輕生念頭的用戶來說，能抓緊時間發現，回報附近親友獲得關心，更能夠降低自殺事件發生率。而光在上個月中，臉譜就透過AI系統，於全球發現100個想輕生案例，需要聯絡身旁人關心救助。
Facebook的在5月多僱用3千名員工，負責監控平台上的貼文與影片，除了檢舉不當內容外，也對預防自殺盡一分力。Facebook將在全球各地設立會說當地語言的專人，來處理發現自殺傾向用戶的案例。
這個新機制，也是Facebook的執行長朱克伯格說要「打造更安全，更好的社群」宣言中的體現之一。
Text by Fortune Insight
