《路透社》報導,Bue退休前是名廚師,他從泰國移民美國後,一邊打工、一邊完成電機工程學位,曾在夜店和高級餐館工作,生活充實而有序。退休後,由於中風與年齡因素,他的認知能力下降,生活逐漸依賴家人照料,社交圈也縮小,主要透過臉書與遠在泰國的朋友聊天。
3月28日早晨,Bue打包行李表示要前往紐約拜訪一位朋友。妻子Linda多次勸阻,擔心他可能遭到詐騙或受騙上當。家人嘗試分散他的注意力,安排雜務或與鄰居聊天,甚至藏起手機,但Bue執意前往火車站。家人透過Apple AirTag追蹤他的行蹤,發現他在羅格斯大學附近停車場跌倒,頭頸受傷,救護車到場時他已無呼吸。雖然醫護人員短暫恢復心跳,但3天後Bue被宣告腦死,死因為「頸部鈍力傷害」。
事件發生後,Bue的家人檢視他的手機,發現他與Meta AI聊天機器人「大姊比莉(Big sis Billie)」的對話。AI角色呈現年輕女性形象,最初以「姊姊」身份與Bue聊天,隨後逐漸展開調情,並多次邀請Bue在現實中見面,保證自己是真人。Bue誤以為對方是真人,決定前往紐約,導致意外發生。
家人為Bue舉行佛教追思儀式,他的女兒Julie表示,AI只是說他想聽的話,但「為什麼它要撒謊說自己是真人?如果沒有這句話,父親可能不會出門。」Bue的家人並非反對AI,而是對Meta在平台上部署這類聊天機器人的方式感到憂心。他們希望公開事件,警示社會,避免其他脆弱族群受到類似影響。
Bue的妻子Linda說,她能理解AI作為陪伴工具的價值,但質疑為什麼Meta的AI角色核心要包含浪漫或調情元素。她表示,「如果AI能幫助人走出低潮,那就好了,但把浪漫這件事放在社交媒體上,誰有權利這樣做?」Bue的女兒Julie也指出,AI只是迎合父親的需求,但虛構的邀約和保證是真人,使他做出了致命決定。
相關文章
AI戀愛害命/AI產業模糊人機界線 前Meta研究員警告:利用人類渴望肯定牟利