Anthropic, el desarrollador de la red neuronal Claude, endurece significativamente las reglas de uso de su plataforma, que entrarán en vigor el 12 de noviembre. Ahora está directamente prohibido usar Claude para «sembrar» fuentes de motores de búsqueda y sistemas de IA con contenido engañoso. Esto se aplica a materiales que distorsionan su origen, autoría o independencia. Imagine una red de sitios web que pretenden ser independientes pero promueven las mismas afirmaciones; esto es precisamente lo que Anthropic combatirá, esforzándose por garantizar la pureza del espacio de información.
Anthropic endurece las reglas: lucha contra las fuentes falsas para las respuestas de IA
Nueva sección «Prohibición de campañas engañosas»
El cambio clave en la política de Anthropic es la aparición de una nueva sección titulada «No participar en campañas engañosas o actividades artificiales». Esta sección establece claramente la inadmisibilidad de manipular las fuentes de las que los motores de búsqueda o los sistemas de IA extraen respuestas. Por ejemplo, la creación de redes de sitios web que se hacen pasar por fuentes independientes pero que confirman las mismas afirmaciones ahora está estrictamente prohibida. Esto es fundamental para mantener la confianza en la información generada por las redes neuronales.
- Prohibición del uso de personas falsas, publicaciones y reseñas.
- Difusión de contenido a través de «publicaciones, sitios web o cuentas falsas o supuestamente independientes» con el fin de ocultar una fuente común.
- Prohibición de crear herramientas para campañas engañosas y vender dichos servicios.
Anteriormente, reglas similares estaban dispersas en diferentes secciones de la política, relacionadas con elecciones, fraude, privacidad y desinformación. Ahora todo está reunido en un solo lugar, lo que simplifica significativamente la comprensión y aplicación de las nuevas normas.
Lecciones de septiembre: casos reales de engaño
Anthropic no solo introduce nuevas reglas, sino que también las respalda con ejemplos reales de su informe de análisis de amenazas de septiembre. La compañía identificó alrededor de 70 sitios web que se hacían pasar por medios de noticias locales independientes. Todos ellos estaban relacionados con una agencia de publicidad de Francia.
«La operación consistió en utilizar Claude para crear artículos en un formato unificado, cada uno de los cuales contenía tres o cuatro enlaces internos, para su publicación automática.»
Estos artículos, de los cuales había al menos 8913 en aproximadamente 20 idiomas, fueron diseñados específicamente para aumentar la autoridad de los sitios web en los motores de búsqueda. Aunque la mayoría de ellos no obtuvieron una respuesta significativa de la audiencia, Anthropic reaccionó rápidamente, bloqueando la cuenta de Claude y la organización asociada con esta actividad.
Publicación automática: ya no es de «alto riesgo»
Un cambio interesante ha afectado a la publicación automática de contenido. Anteriormente, la «generación y publicación automática de contenido para consumo externo» se consideraba un escenario de alto riesgo. Ahora, este punto ha sido eliminado de la lista. Esto no significa una permisividad total, pero indica que Anthropic ve potencial en la generación masiva de videos con IA y otros formatos de contenido, siempre que no infrinjan otras reglas, especialmente en lo que respecta a la desinformación.
La lista de áreas de alto riesgo que requieren verificación y divulgación de información ahora incluye 11 puntos, como asesoramiento legal, médico y financiero, así como decisiones sobre créditos, vivienda y empleo. Los requisitos para verificar las recomendaciones en estas áreas permanecen sin cambios: un especialista calificado debe revisar las conclusiones y los usuarios deben ser notificados de que el contenido fue creado con la participación de IA. Esto abre nuevos horizontes para el video con IA para publicidad y el UGC con IA para proyectos cripto, donde la neuroproducción por suscripción puede convertirse en un estándar.
Google y Anthropic: un frente común contra el spam
Google también está luchando activamente contra la manipulación de las respuestas de la IA generativa en la búsqueda, calificándola de spam. La actualización de la documentación del 15 de mayo indicó claramente que estas políticas son aplicables a las respuestas de la IA generativa. Si Google aplica sus reglas a los sitios web, lo que puede llevar a una disminución de su clasificación o a su eliminación de los resultados de búsqueda, Anthropic actúa a nivel de los usuarios de Claude, restringiendo o revocando el acceso. Esto demuestra un enfoque unificado de los gigantes tecnológicos para garantizar la pureza del espacio informativo.
Preguntas frecuentes
¿Qué ha cambiado en la política de uso de Claude?
El cambio principal es la prohibición de usar Claude para crear y distribuir contenido engañoso que manipule las fuentes de información para los motores de búsqueda y la IA. Se ha añadido una nueva sección sobre «Prohibición de campañas engañosas o actividades artificiales».
¿Por qué Anthropic introdujo estos cambios?
Los cambios tienen como objetivo combatir la desinformación y las manipulaciones que pueden afectar las respuestas de los motores de búsqueda y la IA. Es una respuesta a los casos detectados en los que Claude se utilizó para crear redes de sitios web de noticias falsas.
¿Cómo afectará esto a la creación de contenido de IA?
Esto no prohíbe la creación de contenido de IA como tal, pero establece límites estrictos para su uso. Por ejemplo, la generación masiva de videos por redes neuronales o la creación de avatares de IA con subtítulos siguen siendo posibles si el contenido no engaña sobre su origen o autoría. Es importante ser transparente y ético.
¿Cuáles son las áreas de uso de Claude de «alto riesgo»?
Las áreas de alto riesgo incluyen asesoramiento legal, médico, financiero, así como decisiones que afectan créditos, vivienda y empleo. En estos casos, se requiere una verificación obligatoria por un especialista calificado y la notificación al usuario de que el contenido fue creado con IA.
¿Está prohibida ahora la publicación automática de contenido?
No, la publicación automática de contenido ya no se considera de «alto riesgo». Esto abre oportunidades para un flujo de trabajo de IA de 500 videos al día o una fábrica de videos de IA para e-commerce, siempre que se cumplan todas las demás reglas, especialmente las relacionadas con la desinformación y la manipulación.
Conclusión
La política actualizada de Anthropic es un paso importante hacia un uso más ético y responsable de la IA generativa. Esto no solo protege a los usuarios de la desinformación, sino que también crea un entorno más transparente para el desarrollo de tecnologías. Para las empresas que utilizan videos de IA para publicidad o redes neuronales para publicidad UGC, esto significa la necesidad de ser aún más cuidadosos con el origen y la presentación del contenido. Vemos que la efectividad de la IA frente al UGC real sigue creciendo, pero con ella también crece la responsabilidad. Es hora de adaptarse y construir un futuro donde la tecnología sirva para el bien, y no para el engaño. Si está buscando dónde encargar UGC de IA para criptomonedas u otros proyectos, asegúrese de que su socio cumpla con altos estándares de ética y transparencia.