Компания Anthropic, разработчик нейросети Claude, значительно ужесточает правила использования своей платформы, вступающие в силу с 12 ноября. Теперь прямо запрещено использовать Claude для «засева» источников поисковых систем и ИИ-систем вводящим в заблуждение контентом. Это касается материалов, которые искажают свое происхождение, авторство или независимость. Представьте себе сеть сайтов, которые притворяются независимыми, но продвигают одни и те же утверждения – именно с этим и будет бороться Anthropic, стремясь обеспечить чистоту информационного пространства.
Anthropic ужесточает правила: борьба с фейковыми источниками для ИИ-ответов
Новый раздел «Запрет на вводящие в заблуждение кампании»
Ключевое изменение в политике Anthropic – появление нового раздела под названием «Не участвуйте в обманных кампаниях или искусственной деятельности». Этот раздел четко прописывает недопустимость манипулирования источниками, из которых поисковые системы или ИИ-системы черпают ответы. Например, создание сетей сайтов, выдающих себя за независимые источники, но подтверждающих одни и те же заявления, теперь строго запрещено. Это критично для поддержания доверия к информации, генерируемой нейросетями.
- Запрет на использование поддельных персон, изданий и отзывов.
- Распространение контента через «фальшивые или якобы независимые издания, веб-сайты или аккаунты» с целью скрыть общий источник.
- Запрет на создание инструментов для обманных кампаний и продажу таких услуг.
Ранее подобные правила были разбросаны по разным разделам политики, касающимся выборов, мошенничества, конфиденциальности и дезинформации. Теперь все собрано в одном месте, что значительно упрощает понимание и применение новых норм.
Уроки сентября: реальные кейсы обмана
Anthropic не просто вводит новые правила, но и подкрепляет их реальными примерами из своего сентябрьского отчета по анализу угроз. Компания выявила около 70 веб-сайтов, маскирующихся под независимые местные новостные издания. Все они были связаны с одним рекламным агентством из Франции.
«Операция заключалась в использовании Claude для создания статей в едином формате, каждая из которых содержала три-четыре внутренние ссылки, для автоматической публикации.»
Эти статьи, а их было не менее 8913 на примерно 20 языках, были специально разработаны для повышения авторитета сайтов в поисковых системах. Хотя большинство из них не получили значительного отклика у аудитории, Anthropic оперативно отреагировала, заблокировав аккаунт Claude и организацию, связанную с этой деятельностью.
автоматическая публикация: больше не «высокий риск»
Интересное изменение коснулось автоматической публикации контента. Ранее «автоматическая генерация и публикация контента для внешнего потребления» считалась высокорисковым сценарием. Теперь этот пункт исключен из списка. Это не означает полную вседозволенность, но указывает на то, что Anthropic видит потенциал в массовой генерации видео нейросетью и других форматах контента, если они не нарушают другие правила, особенно в части дезинформации.
Список высокорисковых областей, требующих проверки и раскрытия информации, теперь включает 11 пунктов, таких как юридические, медицинские и финансовые консультации, а также решения о кредитах, жилье и трудоустройстве. Требования к проверке рекомендаций в этих областях остаются неизменными: квалифицированный специалист должен просматривать выводы, а пользователи должны быть уведомлены о том, что контент создан с участием ИИ. Это открывает новые горизонты для AI видео для рекламы и AI UGC для криптопроектов, где нейро-продакшн по подписке может стать стандартом.
Google и Anthropic: общий фронт против спама
Google также активно борется с манипуляциями ответами генеративного ИИ в поиске, называя это спамом. Обновление документации от 15 мая четко указало, что эти политики применимы к ответам генеративного ИИ. Если Google применяет свои правила к веб-сайтам, что может привести к снижению их рейтинга или удалению из результатов поиска, то Anthropic действует на уровне пользователей Claude, ограничивая или отзывая доступ. Это демонстрирует единый подход технологических гигантов к обеспечению чистоты информационного пространства.
Часто задаваемые вопросы
Что изменилось в политике использования Claude?
Главное изменение – запрет на использование Claude для создания и распространения вводящего в заблуждение контента, который манипулирует источниками информации для поисковых систем и ИИ. Появился новый раздел о «Запрете на вводящие в заблуждение кампании или искусственную деятельность».
Почему Anthropic ввела эти изменения?
Изменения направлены на борьбу с дезинформацией и манипуляциями, которые могут влиять на ответы поисковых систем и ИИ. Это ответ на выявленные случаи, когда Claude использовался для создания сетей фейковых новостных сайтов.
Как это повлияет на создание AI контента?
Это не запрещает создание AI контента как такового, но устанавливает строгие рамки для его использования. Например, массовая генерация видео нейросетью или создание AI-аватаров с субтитрами по-прежнему возможны, если контент не вводит в заблуждение относительно своего происхождения или авторства. Важно быть прозрачным и этичным.
Что такое «высокорисковые» области использования Claude?
К высокорисковым областям относятся юридические, медицинские, финансовые консультации, а также решения, влияющие на кредиты, жилье и трудоустройство. В этих случаях требуется обязательная проверка квалифицированным специалистом и уведомление пользователя о том, что контент создан с помощью ИИ.
Запрещена ли теперь автоматическая публикация контента?
Нет, автоматическая публикация контента больше не относится к категории «высокого риска». Это открывает возможности для AI конвейера 500 роликов в сутки или фабрики ИИ роликов для e-commerce, при условии соблюдения всех остальных правил, особенно касающихся дезинформации и манипуляций.
Заключение
Обновленная политика Anthropic – это важный шаг к более этичному и ответственному использованию генеративных ИИ. Это не только защита пользователей от дезинформации, но и создание более прозрачной среды для развития технологий. Для бизнеса, который использует AI видео для рекламы или нейросеть для UGC рекламы, это означает необходимость быть еще более внимательными к происхождению и подаче контента. Мы видим, что эффективность AI против реальной UGC продолжает расти, но с ней растет и ответственность. Пришло время адаптироваться и строить будущее, где технологии служат во благо, а не для обмана. Если вы ищете, где заказать для крипты или других проектов AI UGC, убедитесь, что ваш партнер придерживается высоких стандартов этики и прозрачности.