OpenAI周二表示，在用户要求提出监控社交媒体对话的建议后，该公司已禁止了几个涉嫌与中国政府实体有联系的ChatGPT账户。

OpenAI在其最新的公共威胁报告中表示，一些用户要求ChatGPT概述社交媒体“监听”工具和其他监控概念，这违反了该初创公司的国家安全政策。

在美国和中国为制定该技术的发展和规则而展开的竞争日益激烈的背景下，这家总部位于旧金山的公司发布的报告提出了对生成人工智能可能被滥用的安全担忧。

OpenAI表示，它还禁止了几个使用ChatGPT协助网络钓鱼和恶意软件活动的中文账户。

OpenAI表示，它还禁止了与涉嫌使用ChatGPT帮助开发某些恶意软件的俄语犯罪集团账户。

这家人工智能公司补充说，自去年2月开始公开威胁报告以来，OpenAI已经拒绝了明显的恶意提示和威胁行为。

该公司在报告中表示：“我们没有发现我们的模型为威胁行为者提供新的攻击能力。”

OpenAI目前每周拥有超过8亿ChatGPT用户，在上周完成二次股票发行后，以5000亿美元的估值成为全球最有价值的初创公司。

主编精选，篇篇重磅，请点击订阅“邮件订阅”