OpenAI关闭与中俄等国有关联的隐蔽操作

AI智能摘要

OpenAI 宣布已关闭10项秘密操作，涉及不当使用其人工智能工具进行舆论干扰和监控行动，其中四项可能由中国政府主导。报告显示，中国方面的行动包括用ChatGPT撰写评论、制作宣传材料、模拟记者收集情报等。另有行动涉及筛查代码和编写监控工具宣传文案，意图向中国安全部门实时提供西方社会动态。其他被遏制的行动还涉及俄罗斯、伊朗、菲律宾及柬埔寨。OpenAI 指出，多数操作被早期识别并未能广泛传播。

— 本文由AI智能分析生成摘要，仅供参考。

Open AI首席执行官萨姆·奥尔特曼本周在旧金山会议上发言。该公司表示近期已下线10个利用其生成式人工智能工具的影响力行动，其中四个很可能由中国政府运作。

中国宣传人员正利用ChatGPT在社交媒体上撰写帖子和评论，还用来编写绩效评估，向领导详细记录工作表现——OpenAI研究人员如是披露。

该公司利用人工智能聊天机器人起草内部文件，其中国业务部门还将其用于制作工作宣传材料。此举正值中国加大力度管控网络舆论、强化网络监控之际。

OpenAI情报与调查团队首席研究员本·尼莫在讨论公司最新威胁报告的电话会议上向记者表示：”我们看到中国正在采用日益增多的策略开展日益增多的秘密行动。”

过去三个月内，OpenAI表示已干扰了10项恶意使用其人工智能工具的行动，并封禁了相关账户。该公司称，其中四项行动可能源于中国。

尼姆表示：”这些与中国有关的行动针对许多不同国家和议题，甚至包括一款战略游戏。其中部分行动融合了影响行动、社会工程学和监控手段，且确实在多个不同平台和网站上操作过。”

一家被OpenAI称为”讥讽评论”的中国网络行动，利用ChatGPT生成简短评论，在TikTok、X、Reddit、Facebook等平台以英语、中文和乌尔都语发布。内容包括对特朗普政府撤销美国国际开发署的讨论——既有赞扬也有批评该举动的帖子——以及对某款台湾游戏的批判，该游戏中玩家需要击败中国共产党。

在许多情况下，该操作不仅生成帖子，还制造回复帖子的评论。OpenAI的报告指出这种行为”似乎旨在制造虚假的有机参与假象”。该行动利用ChatGPT生成针对游戏的负面评论，继而撰写长篇文章宣称该游戏遭遇了广泛负面反响。

Sneer Review背后的演员还利用OpenAI的工具进行内部工作，包括创建”一份详细描述建立和运营该组织所采取步骤的绩效评估报告”，OpenAI表示。”我们在整个网络中观察到的社交媒体行为，与这份报告中描述的操作流程高度吻合。”

OpenAI另一项涉华行动以伪装成记者和地缘政治分析师的方式收集情报。该组织利用ChatGPT为X平台账号撰写帖子和个人简介，将中文邮件及信息翻译成英文，并进行数据分析。OpenAI指出，分析对象包括”针对美国政府官员提名事宜致某位美国参议员的信函”，但补充说明其无法独立核实这些信函是否实际寄出。

“他们还利用我们的模型生成了看似营销材料的内容，”尼莫表示。这些材料中，该组织声称开展了”旨在招募情报来源的虚假社交媒体活动和社交工程”，这与该组织在线活动特征相符，OpenAI在其报告中指出。

在二月份的上一份威胁报告中，OpenAI发现了一项与中国相关的监控行动。该行动宣称通过监控社交媒体”向中国安全部门实时反馈西方抗议活动情况”，并利用OpenAI的工具调试代码、编写可用于社交媒体监控工具销售宣传的描述文案。

周三发布的最新报告中，OpenAI表示还成功瓦解了疑似源自俄罗斯和伊朗的秘密影响行动、归因于菲律宾某商业营销公司的垃圾信息活动、与柬埔寨相关的招聘骗局，以及带有朝鲜关联行动明显特征的欺诈性就业计划。

“必须承认这些行动所采用策略和平台的规模之大、种类之多，可谓无所不用其极，”尼莫表示。但他指出这些行动大多在早期阶段就被干扰，未能触达大量真实受众。

“我们通常看不到这些行动因使用人工智能而获得更多参与，”尼莫表示。”对这些行动而言，更好的工具未必带来更好的结果。”

本文编译于NPR，由Shannon Bond提供。