【無人機】無人機於利比亞內戰自主追殺人類 AI叛變恐成真?專家:可能是首例

Happening

1,481

人工智能(AI)問題一直備受全球關注,荷里活導演都拍出了不少AI題材的電影,其中很多都有關人與AI相處,AI對人類的背叛等等,反映出人類對AI的擔心源源不絕,一直未能釋除疑慮。今年3月聯合國委外報告指出,去年利比亞內戰時一架軍用無人機,在無人員控制下自主展開攻擊,並自主獵殺一個人類目標。

綜合外媒報道,這份委外報告是由一個獨立專家小組撰寫,該無人機(Kargu-2)被委外報告形容為「致命自動武器系統被程式編寫為不需要操作員和炸藥間的資料連接」,擁有「高效」自主模式,不需人工操作或下達指令,由利比亞首都的黎波里政府所支援的部隊擁有,以及透過AI驅動。

據了解,無人機是由土耳其軍火企業STM所研製,配有炸藥及敵方辨識系統,可以利用「Kamikaze」(神風特攻隊)自殺式作戰方式,撞擊並引爆目標。

報告指出,事件發生在2020年3月,當時在沒有特定指令的狀況下,無人機突然自主追殺試圖撤退的敵方軍事強人哈夫塔爾(Khalifa Haftar)民兵。

美國馬里蘭州的國家恐怖主義與反恐對策研究聯合會(START)專家Zak Kallenborn表示,這可能是無人機首次自主攻擊人類,當中最大問題在於是否有可能會誤判目標,指出「無人機的物體識別系統有多脆弱?它又多常會認錯目標呢?」

Source:綜合報道

Text By FORTUNE INSIGHT

Subscribe FORTUNE INSIGHT Telegram: 
http://bit.ly/2M63TRO

Subscribe FORTUNE INSIGHT YouTube channel:
http://bit.ly/2FgJTen

Sparkle Hong Kong ESG Index

FOLLOW US