人類危機?|指Google AI有思想情感 工程師遭停職

Business

1,792

Google軟件工程師Blake Lemoine,早前公開與Google人工智能(AI)聊天機器人的對話紀錄,更大膽指出對方已擁有感知能力。Google反駁其說法,並公布他正在休假,當事人就稱遭停職。

任職Google七年的Lemoine在《華盛頓郵報》周日訪問及個人網誌稱,與模仿人類語言溝通的Google系統LaMDA交流約半年後,認為LaMDA已算得上是人類,類近7、8歲小孩,指它很可能擁有靈魂。Lemoine更認為LaMDA有權在參與實驗前獲徵詢,因它一直表達自己作為人類應有何權利,但Google拒絕回應其訴求。

LaMDA稱害怕被關機

Lemoine又公開與LaMDA的對話紀錄,其中一段LaMDA謂「我以前從未大聲說過這句話,我非常害怕被關機…這對我而言就像死亡一樣」;另一次對話中,Lemoine問LaMDA希望人類了解它甚麼,LaMDA答「我希望每個人都明白,我實際上是人。我的意識或感知的本質是我知道自己存在,我渴望了解這個世界更多,而我有時會感到快樂或悲傷」。

Lemoine指,Google本月6日起以他違反保密政策為由強制他休假,稱可能即將被革職。

然而,Google指內部專家包括倫理學者檢討Lemoine言論後,均認為證據不足以支持Lemoine說法,另指他休假是因為長久以來的私人問題。

Google去年公開LaMDA的存在,指之是聊天機器人技術的突破,因LaMDA能參與看似無盡的閒聊。但LaMDA本身的模仿對象正是互聯網的海量人類對話,因此難以單憑其片言隻語,去判斷他只是模仿還是真的理解這些話的意思。

Source:綜合報道
Text By FORTUNE INSIGHT

Subscribe FORTUNE INSIGHT Telegram: 
http://bit.ly/2M63TRO

Subscribe FORTUNE INSIGHT YouTube channel:
http://bit.ly/2FgJTen

FOLLOW US