Anthropic 公司，Claude 神经网络的开发者，将从 11 月 12 日起大幅收紧其平台的使用规则。现在明确禁止使用 Claude 为搜索引擎和人工智能系统“播种”误导性内容。这包括歪曲其来源、作者身份或独立性的材料。想象一下一个网站网络，它们假装独立，但却推广相同的观点——Anthropic 将正是打击这种行为，旨在确保信息空间的纯洁性。
Anthropic 收紧规则：打击人工智能回复的虚假来源
新章节“禁止误导性宣传活动”
Anthropic 政策的关键变化是新增了一个名为“不参与欺骗性宣传活动或人为活动”的章节。本章节明确规定不允许操纵搜索引擎或人工智能系统获取答案的来源。例如，创建假装是独立来源但却证实相同说法的网站网络现在被严格禁止。这对于维护对神经网络生成信息的信任至关重要。
- 禁止使用虚假身份、出版物和评论。
- 通过“虚假或声称独立的出版物、网站或账户”传播内容，以隐藏共同来源。
- 禁止创建欺骗性宣传工具和销售此类服务。
此前，此类规则分散在政策中与选举、欺诈、隐私和虚假信息相关的不同章节中。现在所有内容都集中在一处，大大简化了对新规范的理解和应用。
九月教训：真实欺诈案例
Anthropic 不仅引入了新规则，还通过其九月威胁分析报告中的真实案例来支持这些规则。该公司发现了大约 70 个伪装成独立地方新闻网站的网站。所有这些网站都与一家法国广告公司有关联。
“该操作涉及使用 Claude 以统一格式创建文章，每篇文章包含三到四个内部链接，用于自动发布。”
这些文章，至少有 8913 篇，涉及大约 20 种语言，专门设计用于提高网站在搜索引擎中的权威性。尽管其中大多数没有获得显著的受众反响，但 Anthropic 迅速采取行动，封锁了 Claude 账户以及与此活动相关的组织。
自动发布：不再是“高风险”
内容自动发布发生了一个有趣的变化。此前，“自动生成和发布内容供外部消费”被视为高风险场景。现在，这一项已从列表中删除。这并不意味着完全的自由，而是表明 Anthropic 看到了通过神经网络大规模生成视频和其他内容格式的潜力，只要它们不违反其他规则，特别是关于虚假信息的规则。
现在，需要审查和披露信息的高风险领域包括 11 项，例如法律、医疗和金融咨询，以及信贷、住房和就业决策。这些领域建议的审查要求保持不变：合格的专家必须审查结果，并且必须告知用户内容是由 AI 参与创建的。这为 AI 广告视频和 AI UGC 加密项目开辟了新视野，其中订阅式神经制作可能成为标准。
Google 和 Anthropic：共同打击垃圾邮件
Google 也在积极打击搜索中生成式 AI 回复的操纵行为，称之为垃圾邮件。5 月 15 日更新的文档明确指出，这些政策适用于生成式 AI 回复。如果 Google 将其规则应用于网站，这可能导致其排名下降或从搜索结果中删除，那么 Anthropic 则在 Claude 用户层面采取行动，限制或撤销访问权限。这表明科技巨头在确保信息空间纯洁性方面采取了统一的方法。
常见问题
Claude 的使用政策发生了什么变化？
主要变化是禁止使用 Claude 创建和传播误导性内容，这些内容会操纵搜索引擎和 AI 的信息来源。新增了一个关于“禁止误导性宣传或人为活动”的部分。
Anthropic 为什么要引入这些变化？
这些变化旨在打击可能影响搜索引擎和 AI 回复的虚假信息和操纵行为。这是对已发现的 Claude 被用于创建虚假新闻网站网络的案例的回应。
这将如何影响 AI 内容的创建？
这本身并不禁止创建 AI 内容，但对其使用设定了严格的框架。例如，通过神经网络批量生成视频或创建带字幕的 AI 头像仍然是可能的，只要内容不误导其来源或作者身份。透明和道德至关重要。
Claude 的“高风险”使用领域有哪些？
高风险领域包括法律、医疗、金融咨询，以及影响信贷、住房和就业的决策。在这些情况下，需要由合格专家进行强制性验证，并通知用户内容是由 AI 生成的。
现在禁止自动发布内容了吗？
不，自动发布内容不再属于“高风险”类别。这为每天 500 个视频的 AI 管道或电子商务 AI 视频工厂提供了机会，前提是遵守所有其他规则，特别是关于虚假信息和操纵的规则。
结论
Anthropic 更新的政策是迈向更道德和负责任地使用生成式 AI 的重要一步。这不仅是为了保护用户免受虚假信息的影响，也是为了为技术发展创造一个更透明的环境。对于使用AI 视频进行广告或神经网络进行 UGC 广告的企业来说，这意味着需要更加关注内容的来源和呈现方式。我们看到，AI 对比真实 UGC 的效率持续增长，但随之增长的还有责任。是时候适应并构建一个技术服务于善而非欺骗的未来了。如果您正在寻找为加密货币或其他项目订购 AI UGC 的地方，请确保您的合作伙伴遵守高标准的道德和透明度。