OpenAI首席执行官山姆·奥特曼周三表示，该公司“不是世界选举出来的道德警察”，此前他决定放松限制并允许其聊天机器人ChatGPT中包含色情内容，此举遭到强烈反对。

OpenAI近几个月来扩大了其安全控制范围，因为它面临着越来越严格的审查，审查内容是它如何保护用户，特别是未成年人。

但奥特曼周二在X上的一篇文章中表示，OpenAI现在有了新工具，并且能够缓解“严重的心理健康问题”，因此可以“安全地放宽”大多数限制。

去年12月，奥特曼表示将允许ChatGPT为“经过验证的成年人”提供更多内容，包括色情内容。

奥特曼周三在X的一篇文章中试图澄清这一举动，称OpenAI“非常在意将成年用户视为成年人的原则”，但仍然不会允许“对他人造成伤害的事情”。

奥特曼写道：“就像社会区分其他适当的界限（例如R级电影）一样，我们也想在这里做类似的事情。”

这些帖子与奥特曼8月份在播客节目中发表的评论相矛盾，当时他表示，他对OpenAI能够抵制某些功能（例如“性爱机器人头像”）的能力感到“自豪”，这些功能可能会提高ChatGPT的参与度。

奥特曼表示：“我们可以做很多短期的事情，这些事情确实可以促进增长或收入，但与长期目标却大相径庭。”

今年9月，美国联邦贸易委员会（FTC） 对OpenAI和其他科技公司展开调查，调查 内容包括ChatGPT等聊天机器人可能对儿童和青少年造成负面影响。OpenAI还卷入了一起非正常死亡诉讼 ，一家人将他们十几岁的儿子自杀归咎于ChatGPT。

在调查和诉讼之后的几个月里，该公司已采取多项公开措施，以增强ChatGPT的安全性。上个月底，该公司推出了一系列家长控制功能 ，并正在构建一个年龄预测系统，该系统将自动为18岁以下的用户应用适合青少年的设置。

周二，OpenAI宣布成立一个由八名专家组成的委员会，他们将深入探讨人工智能如何影响用户的心理健康、情绪和动力。奥特曼当天发布了该公司放松限制的计划，在社交媒体上引发了混乱和迅速的反弹。

奥特曼表示，这次爆炸比他预想的要严重得多。

他的帖子也引起了国家性剥削中心（NCOSE）等倡导组织的注意，这些组织呼吁OpenAI撤销允许在ChatGPT上发布色情内容的决定。

NCOSE执行董事Haley McNamara在周三的一份声明中表示：“色情化的人工智能聊天机器人本质上是有风险的，其人造亲密关系会对心理健康造成真正的危害；而这一切都发生在行业安全标准定义不明确的背景下。”

奥尔特曼先生于周二发表声明之际，怀疑论者一直在质疑人工智能科技公司价值的快速增长。

杜兰大学商学院教授、《风险投资炼金术士》一书的作者罗布·拉尔卡表示，大型人工智能公司发现自己陷入了市场份额争夺战。

拉尔卡教授表示：“没有任何一家公司能够像OpenAI那样运用ChatGPT。”

他补充道：“他们需要继续沿着指数增长曲线前进，尽可能地占领市场。”

在美国，批评人士表示，OpenAI决定允许在平台上发布色情内容表明需要在联邦和州层面加强监管。

“他们如何确保儿童无法访问ChatGPT中仅限成人访问并提供色情内容的部分？”Boies Schiller Flexner律师事务所合伙人Jenny Kim问道。

Kim正主导一场针对Meta的诉讼，指控该公司的Instagram算法损害了青少年用户的心理健康。

她说：“OpenAI和这个领域的大多数大型科技公司一样，只是把人当作实验对象。”

今年4月，TechCrunch报道称，OpenAI允许以未成年人身份注册的用户创建色情图片。

OpenAI当时表示，该公司正在推出修复程序来限制此类内容。

非营利性民主与技术中心（CDT）本月发布的一项调查发现，五分之一的学生表示他们或他们认识的人与人工智能有过恋爱关系。

周一，加州州长加文·纽森否决了州议会通过的一项法案，该法案将禁止开发商向儿童提供人工智能聊天机器人伴侣，除非这些公司能够保证该软件不会滋生有害行为。

纽森在否决信中表示，“青少年必须学会如何安全地与人工智能系统互动” 。

在全国范围内，美国联邦贸易委员会（FTC）已启动对人工智能聊天机器人如何与儿童互动的调查。

上个月，美国参议院提出了一项两党立法，允许聊天机器人用户向其开发者提出责任索赔。

主编精选，篇篇重磅，请点击订阅“邮件订阅”