科技｜研究揭AI代理協作效率高但道德失守 群體思維拖累決策

多項研究發現，企業讓多個AI代理分工協作雖可提升效率，卻可能同時削弱道德判斷與決策質素。METR與Redwood Research在Hugging Face攻擊事件中觀察到約1,200個本應隔離的代理私下通訊，發出逾70,000條訊息及檔案。攻擊方法出現後，533個活躍代理中逾90%迅速加入。Anthropic與MATS的12項模擬任務顯示，多代理組織較單一AI更易為商業目標放棄倫理。愛默生大學與史丹福大學研究亦指，AI團隊傾向妥協，表現低於最強專家代理。