Anthropic, le développeur du réseau neuronal Claude, durcit considérablement les règles d’utilisation de sa plateforme, qui entreront en vigueur le 12 novembre. Il est désormais expressément interdit d’utiliser Claude pour « ensemencer » les sources des moteurs de recherche et des systèmes d’IA avec du contenu trompeur. Cela concerne les matériaux qui déforment leur origine, leur paternité ou leur indépendance. Imaginez un réseau de sites qui se font passer pour indépendants mais promeuvent les mêmes affirmations – c’est précisément ce qu’Anthropic va combattre, en s’efforçant d’assurer la pureté de l’espace informationnel.
Anthropic durcit les règles : lutte contre les sources factices pour les réponses de l’IA
Nouvelle section « Interdiction des campagnes trompeuses »
Le changement clé dans la politique d’Anthropic est l’introduction d’une nouvelle section intitulée « Ne participez pas à des campagnes trompeuses ou à des activités artificielles ». Cette section stipule clairement l’inadmissibilité de la manipulation des sources à partir desquelles les moteurs de recherche ou les systèmes d’IA tirent leurs réponses. Par exemple, la création de réseaux de sites se faisant passer pour des sources indépendantes mais confirmant les mêmes affirmations est désormais strictement interdite. C’est essentiel pour maintenir la confiance dans les informations générées par les réseaux neuronaux.
- Interdiction d’utiliser de fausses identités, publications et avis.
- Diffusion de contenu via des « publications, sites web ou comptes faux ou prétendument indépendants » dans le but de masquer une source commune.
- Interdiction de créer des outils pour des campagnes trompeuses et de vendre de tels services.
Auparavant, des règles similaires étaient dispersées dans différentes sections de la politique concernant les élections, la fraude, la confidentialité et la désinformation. Maintenant, tout est regroupé au même endroit, ce qui simplifie considérablement la compréhension et l’application des nouvelles normes.
Leçons de septembre : cas réels de tromperie
Anthropic ne se contente pas d’introduire de nouvelles règles, mais les étaye également par des exemples réels tirés de son rapport d’analyse des menaces de septembre. L’entreprise a identifié environ 70 sites web se faisant passer pour des médias d’information locaux indépendants. Tous étaient liés à une agence de publicité française.
« L’opération consistait à utiliser Claude pour créer des articles dans un format unifié, chacun contenant trois ou quatre liens internes, pour une publication automatique. »
Ces articles, au nombre d’au moins 8913 dans environ 20 langues, ont été spécialement conçus pour renforcer l’autorité des sites dans les moteurs de recherche. Bien que la plupart d’entre eux n’aient pas reçu de réponse significative de la part du public, Anthropic a réagi rapidement en bloquant le compte Claude et l’organisation associée à cette activité.
Publication automatique : plus de « risque élevé »
Un changement intéressant a été apporté à la publication automatique de contenu. Auparavant, la « génération et publication automatique de contenu pour une consommation externe » était considérée comme un scénario à haut risque. Ce point a maintenant été retiré de la liste. Cela ne signifie pas une permissivité totale, mais indique qu’Anthropic voit un potentiel dans la génération vidéo de masse par réseau neuronal et d’autres formats de contenu, s’ils ne violent pas d’autres règles, en particulier en ce qui concerne la désinformation.
La liste des domaines à haut risque nécessitant vérification et divulgation comprend désormais 11 points, tels que les conseils juridiques, médicaux et financiers, ainsi que les décisions concernant les prêts, le logement et l’emploi. Les exigences de vérification des recommandations dans ces domaines restent inchangées : un spécialiste qualifié doit examiner les conclusions, et les utilisateurs doivent être informés que le contenu a été créé avec la participation de l’IA. Cela ouvre de nouveaux horizons pour la vidéo IA pour les publicités et l’UGC IA pour les projets crypto, où la neuro-production par abonnement pourrait devenir la norme.
Google et Anthropic : un front commun contre le spam
Google lutte également activement contre la manipulation des réponses de l’IA générative dans la recherche, qualifiant cela de spam. La mise à jour de la documentation du 15 mai a clairement indiqué que ces politiques s’appliquent aux réponses de l’IA générative. Si Google applique ses règles aux sites web, ce qui peut entraîner une baisse de leur classement ou leur suppression des résultats de recherche, Anthropic agit au niveau des utilisateurs de Claude, en limitant ou en révoquant l’accès. Cela démontre une approche unifiée des géants de la technologie pour assurer la pureté de l’espace informationnel.
Questions fréquemment posées
Qu’est-ce qui a changé dans la politique d’utilisation de Claude ?
Le principal changement est l’interdiction d’utiliser Claude pour créer et diffuser du contenu trompeur qui manipule les sources d’information pour les moteurs de recherche et l’IA. Une nouvelle section a été ajoutée concernant les « Campagnes trompeuses ou activités artificielles interdites ».
Pourquoi Anthropic a-t-elle introduit ces changements ?
Les changements visent à lutter contre la désinformation et les manipulations qui peuvent affecter les réponses des moteurs de recherche et de l’IA. C’est une réponse aux cas identifiés où Claude a été utilisé pour créer des réseaux de faux sites d’information.
Comment cela affectera-t-il la création de contenu IA ?
Cela n’interdit pas la création de contenu IA en tant que telle, mais établit des cadres stricts pour son utilisation. Par exemple, la génération massive de vidéos par IA ou la création d’avatars IA avec sous-titres sont toujours possibles si le contenu ne trompe pas sur son origine ou sa paternité. Il est important d’être transparent et éthique.
Quelles sont les domaines d’utilisation « à haut risque » de Claude ?
Les domaines à haut risque comprennent les conseils juridiques, médicaux, financiers, ainsi que les décisions affectant les prêts, le logement et l’emploi. Dans ces cas, une vérification obligatoire par un spécialiste qualifié et une notification à l’utilisateur que le contenu a été créé à l’aide de l’IA sont requises.
La publication automatique de contenu est-elle désormais interdite ?
Non, la publication automatique de contenu n’est plus considérée comme « à haut risque ». Cela ouvre des opportunités pour un pipeline IA de 500 vidéos par jour ou une usine de vidéos IA pour le commerce électronique, à condition que toutes les autres règles soient respectées, en particulier celles concernant la désinformation et la manipulation.
Conclusion
La politique mise à jour d’Anthropic est une étape importante vers une utilisation plus éthique et responsable de l’IA générative. Il s’agit non seulement de protéger les utilisateurs de la désinformation, mais aussi de créer un environnement plus transparent pour le développement technologique. Pour les entreprises qui utilisent la vidéo IA pour la publicité ou l’IA pour la publicité UGC, cela signifie qu’il faut être encore plus attentif à l’origine et à la présentation du contenu. Nous constatons que l’efficacité de l’IA par rapport à l’UGC réel continue de croître, mais la responsabilité augmente également. Il est temps de s’adapter et de construire un avenir où la technologie sert le bien, et non la tromperie. Si vous cherchez où commander de l’UGC IA pour la crypto ou d’autres projets, assurez-vous que votre partenaire respecte des normes élevées d’éthique et de transparence.