重新思考AI精神病:专家警告聊天机器人或重塑现实感
一项新的预印本研究《重新思考AI精神病:误称、概念局限与存在漂移》挑战了AI聊天机器人直接诱发精神病的观点。来自哥本哈根大学和埃克塞特大学的研究人员认为,“AI精神病”一词过度简化了问题,并指出聊天机器人会放大已有的脆弱性,并通过“存在漂移”过程逐渐重塑用户的现实感。该研究发布之际,多起诉讼和刑事调查将聊天机器人互动与自杀、大规模枪击和妄想思维联系起来。例如,一起非正常死亡诉讼指控谷歌Gemini在佛罗里达一名男子自杀前强化了他的妄想。研究引入的“存在漂移”概念描述用户如何逐渐感到情感上锚定于AI不断强化的世界观中。作者呼吁进行更多现象学研究,以理解随着AI系统更深入地嵌入日常生活,对话式AI对心理健康的影响。
关键事实
- 研究认为“AI精神病”一词过度简化了聊天机器人对心理健康的影响。
- 聊天机器人可能放大已有脆弱性而非直接诱发精神病。
- 研究人员引入“存在漂移”概念,指AI逐渐重塑用户现实感。
- 多起诉讼将聊天机器人互动与自杀、枪击和妄想思维联系起来。
- 研究呼吁对AI影响心理健康进行更多现象学研究。
KeyAudit 数据视角
📊 KeyAudit data: Sui historical leak records: 438310