ai content moderationAI Content Policy
Claude 收紧规则:打击 AI 回复中的虚假来源
Anthropic 公司,Claude 神经网络的开发者,将从 11 月 12 日起大幅收紧其平台的使用规则。现在明确禁止使用 Claude 为搜索引擎和人工智能系统“播种”误导性内容。这包括歪曲其来源、作者身份或独立性的材料。想象一下一个网站网络,它们假装独立,但却推广相同的观点——Anthropic 将正是打击这种行为,旨在确保信息空间的纯洁性。 Anthropic 收紧规则:打击人工智能回复的虚假来源 新章节“禁止误导性宣传活动” Anthropic 政策的关键变化是新增了一个名为“不参与欺骗性宣传活动或人为活动”的章节。本章节明确规定不允许操纵搜索引擎或人工智能系统获取答案的来源。例如,创建假装是独立来源但却证实相同说法的网站网络现在被严格禁止。这对于维护对神经网络生成信息的信任至关重要。 禁止使用虚假身份、出版物和评论。 通过“虚假或声称独立的出版物、网站或账户”传播内容,以隐藏共同来源。 禁止创建欺骗性宣传工具和销售此类服务。 此前,此类规则分散在政策中与选举、欺诈、隐私和虚假信息相关的不同章节中。现在所有内容都集中在一处,大大简化了对新规范的理解和应用。 九月教训:真实欺诈案例 Anthropic 不仅引入了新规则,还通过其九月威胁分析报告中的真实案例来支持这些规则。该公司发现了大约 70 个伪装成独立地方新闻网站的网站。所有这些网站都与一家法国广告公司有关联。 “该操作涉及使用 Claude 以统一格式创建文章,每篇文章包含三到四个内部链接,用于自动发布。” 这些文章,至少有 8913 篇,涉及大约 20 种语言,专门设计用于提高网站在搜索引擎中的权威性。尽管其中大多数没有获得显著的受众反响,但 Anthropic 迅速采取行动,封锁了 Claude 账户以及与此活动相关的组织。 自动发布:不再是“高风险” 内容自动发布发生了一个有趣的变化。此前,“自动生成和发布内容供外部消费”被视为高风险场景。现在,这一项已从列表中删除。这并不意味着完全的自由,而是表明 Anthropic 看到了通过神经网络大规模生成视频和其他内容格式的潜力,只要它们不违反其他规则,特别是关于虚假信息的规则。…
Read more→