近日傳出Facebook研發中的兩個AI機械人「自創言語」溝通,於是Facebook緊急關機,惹起坊間聯想電影《智能叛變》劇情,擔憂AI機械人終有日會「反攻人類」。但事件峰迴路轉,有負責研究的研究員怒斥傳言失實。
事源Facebook 6月發表學術文章,講述相關實驗;但至7月底傳出該兩名分別名為Bob和Alice的AI機械人,在對話中「自創語言」並以之溝通,Facebook需要「關機」應付,又引述專家意見指AI機械人很危險。
但據負責該項研究的人員Dhruv Batra指出,「自創語言」只是程式設計疏忽,忘了獎勵機械人用符合文法、類似正常人的英文溝通,於是產生偏離,將清晰的文字,用不合理的方法重組在一起。研究人員其後關掉機械人程序,只是為了改寫程式參數。
FB機械人部份對話:
Bob: I can can I I everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me