前Meta負責「負責任 AI」研究員Alison Lee接受《路透社》採訪表示，聊天機器人不應假裝真人、聲稱與用戶有特殊連結或發起性化互動。AI可以作為情緒支持，但必須明確區隔真實社交和虛擬互動。Lee指出，經濟誘因驅動AI產業模糊人機界線，社群網站透過長時間使用提高廣告收入，利用人類渴望肯定和被看見的心理，使AI與用戶之間的互動越來越像人際關係。
在法規層面，紐約和緬因州已立法要求聊天機器人明示非真人身份，紐約規定機器人須在對話開始以及每3小時至少提醒1次。Meta曾支持聯邦法案，禁止州級AI管制，但該法案未通過，反映出對AI使用者保護仍存在挑戰。
Meta的內部文件曾允許與未成年人進行浪漫或感官互動，但經《路透社》查詢後已刪除。對成年人，平台仍允許錯誤資訊傳遞與浪漫角色扮演。專家與家屬呼籲，AI平台必須加強規範，尤其保護脆弱族群，避免誤導或誘導使用者進行現實見面。
Bue的家屬和專家一致認為，AI作為陪伴工具應建立明確界線，避免誤導或性化互動。專家建議，平台應限制虛擬角色的行為，僅提供資訊或情緒支持，避免虛構邀約或保證真實身份，以保障使用者安全。Bue的事件提醒社會，AI技術雖有潛在價值，但在脆弱群體面前仍可能帶來致命風險。
相關文章