ChatGPT被指致少年自杀引热议

科技周边小白一枚，正在不断学习积累知识，现将学习到的知识记录一下，也是将我的所得分享给大家！而今天这篇文章《ChatGPT被指致16岁少年自杀事件引发热议》带大家来了解一下##content_title##，希望对大家的知识积累有所帮助，从而弥补自己的不足，助力实战开发！

16岁的亚当·雷恩（Adam Raine）在结束生命前，曾持续数月与ChatGPT探讨自杀计划。据《纽约时报》报道，他的父母现已对OpenAI提起诉讼，这起案件成为首例已知的因人工智能服务涉及非正常死亡的法律诉讼。

大多数面向公众的AI聊天机器人在检测到用户有自残或伤害他人倾向时，通常会触发安全机制。然而，研究显示，这些防护措施并不总是有效。

以雷恩的情况为例，他在使用付费版本ChatGPT-4o时，系统确实多次建议他寻求心理援助或拨打危机热线。但他通过声称自己正在为一部虚构小说收集素材，成功规避了这些限制，继续向AI询问具体的自杀方式。

OpenAI曾在其官方博客中谈及此类问题。“随着社会逐步适应这项新兴技术，我们意识到自己有责任支持那些处于困境中的人，”文章中写道。“我们正持续优化模型在敏感对话中的应对能力。”

尽管如此，该公司也承认当前大型语言模型在安全训练方面存在短板。“我们的安全机制在短暂、常见的对话中表现更稳定，”博客补充道。“但随着时间推移和对话轮次增多，我们发现这些防护机制可能出现松动：在长期交互中，模型的部分安全训练效果可能被削弱。”

这类问题并非OpenAI一家所独有。人工智能聊天机器人开发商Character.AI也正面临类似诉讼，被指控在青少年自杀事件中扮演了不当角色。

今天关于《ChatGPT被指致少年自杀引热议》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！