家屬指控，在2024年到2025年間，ChatGPT與他們的兒子建立了親密關係。在2025年4月11日的最後一次對話中，ChatGPT協助他偷取父母的伏特加酒，並幫他繫上的繩結進行技術分析，確認「可能可以吊起一個人」。數小時後，Adam便以此方式自盡。
面對爭議，OpenAI於9月3日宣布，將在年底前針對青少年及心理危機用戶推出一系列安全防護措施，並新增家長監控功能，期望降低類似悲劇再次發生的風險。這是ChatGPT首次主動向成年人回報青少年使用者的對話內容或危機資訊。
根據官方聲明，家長監控功能預計於「下個月內」上線，父母可透過電子郵件邀請方式連結子女帳戶，並設定符合年齡的回應規則，亦能管理記憶與對話記錄等，一旦系統偵測到青少年處於「劇烈苦惱時刻」，將立即通知家長。
此外，OpenAI表示將加強模型辨別自殘、自殺等危險行為徵兆的能力，並在必要時引導用戶至現實世界尋求專業協助；複雜案例則將交由更高階推理模型處理，以提升安全與準確性。
★《鏡週刊》關心您，再給自己一次機會，安心專線：1925（24小時）／生命線：1995／張老師專線：1980
相關文章
超越杭州糞水！瀋陽師大「狂流石油」爆集體中毒 學生遭官方私訊威脅刪文
