美联社限制记者使用生成式人工智能的指南

美联社发布了使用生成式人工智能的指南，这家著名的新闻机构强调了人类监督在新闻业中的作用。

美联社。图片：Shutterstock

为了消除对其报道的任何潜在负面影响，美联社周三发布了新的指导方针，限制记者使用生成人工智能工具进行新闻报道。

美联社负责标准和包容性的副总裁阿曼达·巴雷特 (Amanda Barrett) 制定了一些限制，规定了美联社将如何处理未来的人工智能问题。首先，记者不得使用 ChatGPT 来创建可发布的内容。

Barrett 写道：“生成式人工智能工具的任何输出都应被视为未经审查的源材料。”他补充说，工作人员在考虑发布任何信息时应使用他们的编辑判断和媒体的采购标准。

此外，美联社不允许使用生成式人工智能在照片、视频或音频中添加或删除元素。它还不会传输人工智能生成的被怀疑是“虚假描述”的图像，即所谓的深度伪造图像，除非它是故事的主题并且有明确的标签。

Barrett 警告工作人员，由于生成式人工智能很容易传播错误信息，Barrett 建议美联社记者要勤奋，并像平常一样保持谨慎和怀疑，包括试图确定原始内容的来源。

“如果记者对这些材料的真实性有任何疑问，”她写道，“他们就不应该使用它。”

虽然这篇文章强调了美联社记者使用生成人工智能的能力受到限制，但它确实在某些方面表现出乐观的基调，表明人工智能工具也可能使记者的报道受益。

Barrett 写道：“准确性、公平性和速度是美联社新闻报道的指导价值观，我们相信，谨慎使用人工智能可以服务于这些价值观，并随着时间的推移改善我们的工作方式。”

此外，她澄清说，这家拥有 177 年历史的新闻机构并不认为人工智能可以取代记者，并补充说美联社记者对他们分享的信息的准确性和公平性负责。

Barrett 指出美联社上个月与 OpenAI 签署的许可协议，该协议使 ChatGPT 创建者能够访问美联社自 1985 年以来的新闻报道档案。作为交换，该协议为媒体机构提供了访问 OpenAI 的产品和技术套件的机会。

与 OpenAI 达成交易的消息传出前几天，这家人工智能初创公司向美国期刊项目承诺了 500 万美元。同月，OpenAI 与股票媒体平台Shutterstock签署了一份为期六年的合同，以访问其庞大的图像和媒体库。

在人们对生成式人工智能的潜力以及通过聊天机器人以对话方式查找信息的能力进行大肆宣传的同时，人们对最终提供给用户的一些信息的准确性产生了越来越多的担忧。

虽然人工智能聊天机器人可以产生看似真实的反应，但它们也有一个众所周知的习惯，即得出实际上不真实的反应。这种现象被称为人工智能幻觉，它可以产生虚假内容、新闻或有关人、事件或事实的信息。