شرکت Anthropic، توسعه دهنده شبکه عصبی Claude، قوانین استفاده از پلتفرم خود را که از 12 نوامبر به اجرا در می‌آیند، به طور قابل توجهی سخت‌تر می‌کند. اکنون استفاده از Claude برای «کاشتن» منابع موتورهای جستجو و سیستم‌های هوش مصنوعی با محتوای گمراه‌کننده به صراحت ممنوع است. این شامل مطالبی می‌شود که منشأ، نویسندگی یا استقلال خود را تحریف می‌کنند. شبکه‌ای از وب‌سایت‌ها را تصور کنید که خود را مستقل نشان می‌دهند، اما همان ادعاها را ترویج می‌کنند – Anthropic دقیقاً با همین موضوع مبارزه خواهد کرد و به دنبال تضمین پاکی فضای اطلاعاتی است.
Anthropic قوانین را تشدید می کند: مبارزه با منابع جعلی برای پاسخ های هوش مصنوعی
بخش جدید «ممنوعیت کمپین های گمراه کننده»
تغییر کلیدی در سیاست Anthropic – ظهور بخش جدیدی با عنوان «در کمپین های فریبنده یا فعالیت های مصنوعی شرکت نکنید». این بخش به وضوح عدم پذیرش دستکاری منابعی را که موتورهای جستجو یا سیستم های هوش مصنوعی از آنها پاسخ می گیرند، بیان می کند. به عنوان مثال، ایجاد شبکه هایی از وب سایت ها که خود را به عنوان منابع مستقل معرفی می کنند، اما همان اظهارات را تأیید می کنند، اکنون به شدت ممنوع است. این برای حفظ اعتماد به اطلاعات تولید شده توسط شبکه های عصبی حیاتی است.
- ممنوعیت استفاده از شخصیت های جعلی، نشریات و نظرات.
- انتشار محتوا از طریق «نشریات، وب سایت ها یا حساب های جعلی یا به ظاهر مستقل» با هدف پنهان کردن منبع مشترک.
- ممنوعیت ایجاد ابزارهایی برای کمپین های فریبنده و فروش چنین خدماتی.
پیش از این، چنین قوانینی در بخش های مختلف سیاست مربوط به انتخابات، کلاهبرداری، حریم خصوصی و اطلاعات نادرست پراکنده بودند. اکنون همه در یک مکان جمع آوری شده اند که درک و اعمال قوانین جدید را به طور قابل توجهی ساده می کند.
درس های سپتامبر: موارد واقعی فریب
Anthropic فقط قوانین جدیدی را معرفی نمی کند، بلکه آنها را با نمونه های واقعی از گزارش تحلیل تهدیدات سپتامبر خود تقویت می کند. این شرکت حدود 70 وب سایت را شناسایی کرد که خود را به عنوان رسانه های خبری محلی مستقل معرفی می کردند. همه آنها با یک آژانس تبلیغاتی از فرانسه مرتبط بودند.
«عملیات شامل استفاده از Claude برای ایجاد مقالات در یک قالب واحد بود که هر یک شامل سه یا چهار لینک داخلی برای انتشار خودکار بود.»
این مقالات، که حداقل 8913 مورد در حدود 20 زبان بودند، به طور خاص برای افزایش اعتبار وب سایت ها در موتورهای جستجو طراحی شده بودند. اگرچه اکثر آنها پاسخ قابل توجهی از مخاطبان دریافت نکردند، Anthropic به سرعت واکنش نشان داد و حساب Claude و سازمانی را که با این فعالیت مرتبط بود مسدود کرد.
انتشار خودکار: دیگر «خطر بالا» نیست
تغییر جالبی در مورد انتشار خودکار محتوا رخ داده است. پیش از این، «تولید و انتشار خودکار محتوا برای مصرف خارجی» یک سناریوی پرخطر تلقی می‌شد. اکنون این بند از لیست حذف شده است. این به معنای آزادی کامل نیست، اما نشان می‌دهد که Anthropic پتانسیل را در تولید انبوه ویدئو توسط هوش مصنوعی و سایر فرمت‌های محتوا می‌بیند، به شرطی که سایر قوانین، به ویژه در مورد اطلاعات نادرست، را نقض نکنند.
لیست مناطق پرخطر که نیاز به بررسی و افشاگری دارند، اکنون شامل 11 مورد است، مانند مشاوره حقوقی، پزشکی و مالی، و همچنین تصمیمات مربوط به وام، مسکن و اشتغال. الزامات بررسی توصیه‌ها در این زمینه‌ها بدون تغییر باقی مانده است: یک متخصص واجد شرایط باید نتایج را بررسی کند و کاربران باید مطلع شوند که محتوا با مشارکت هوش مصنوعی ایجاد شده است. این افق‌های جدیدی را برای ویدئوهای هوش مصنوعی برای تبلیغات و UGC هوش مصنوعی برای پروژه‌های رمزنگاری باز می‌کند، جایی که تولید عصبی بر اساس اشتراک می‌تواند به یک استاندارد تبدیل شود.
گوگل و Anthropic: جبهه مشترک علیه اسپم
گوگل نیز فعالانه با دستکاری پاسخ‌های هوش مصنوعی مولد در جستجو مبارزه می‌کند و آن را اسپم می‌نامد. به‌روزرسانی مستندات در 15 مه به وضوح نشان داد که این سیاست‌ها برای پاسخ‌های هوش مصنوعی مولد قابل اجرا هستند. اگر گوگل قوانین خود را در مورد وب‌سایت‌ها اعمال کند که می‌تواند منجر به کاهش رتبه یا حذف آنها از نتایج جستجو شود، Anthropic در سطح کاربران Claude عمل می‌کند و دسترسی را محدود یا لغو می‌کند. این نشان‌دهنده رویکرد یکپارچه غول‌های فناوری برای تضمین پاکی فضای اطلاعاتی است.
سوالات متداول
چه تغییری در سیاست استفاده از Claude ایجاد شده است؟
تغییر اصلی – ممنوعیت استفاده از Claude برای ایجاد و انتشار محتوای گمراه‌کننده است که منابع اطلاعاتی را برای موتورهای جستجو و هوش مصنوعی دستکاری می‌کند. بخش جدیدی با عنوان «ممنوعیت کمپین‌های گمراه‌کننده یا فعالیت‌های مصنوعی» اضافه شده است.
چرا Anthropic این تغییرات را اعمال کرده است؟
این تغییرات با هدف مبارزه با اطلاعات نادرست و دستکاری‌هایی است که می‌توانند بر پاسخ‌های موتورهای جستجو و هوش مصنوعی تأثیر بگذارند. این پاسخی به موارد شناسایی شده‌ای است که Claude برای ایجاد شبکه‌های وب‌سایت‌های خبری جعلی استفاده می‌شد.
این چه تاثیری بر تولید محتوای هوش مصنوعی خواهد داشت؟
این ممنوعیت به معنای ممنوعیت تولید محتوای هوش مصنوعی نیست، بلکه چارچوب‌های سخت‌گیرانه‌ای برای استفاده از آن تعیین می‌کند. به عنوان مثال، تولید انبوه ویدئو توسط شبکه‌های عصبی یا ایجاد آواتارهای هوش مصنوعی با زیرنویس همچنان امکان‌پذیر است، به شرطی که محتوا در مورد منشأ یا نویسندگی خود گمراه‌کننده نباشد. شفافیت و اخلاقی بودن اهمیت دارد.
«زمینه‌های پرخطر» استفاده از Claude کدامند؟
زمینه‌های پرخطر شامل مشاوره‌های حقوقی، پزشکی، مالی و همچنین تصمیماتی است که بر اعتبار، مسکن و اشتغال تأثیر می‌گذارند. در این موارد، بررسی اجباری توسط یک متخصص واجد شرایط و اطلاع‌رسانی به کاربر مبنی بر اینکه محتوا با استفاده از هوش مصنوعی ایجاد شده است، الزامی است.
آیا انتشار خودکار محتوا اکنون ممنوع است؟
خیر، انتشار خودکار محتوا دیگر در دسته «پرخطر» قرار نمی‌گیرد. این امر فرصت‌هایی را برای خط تولید هوش مصنوعی 500 ویدئو در روز یا کارخانه ویدئوهای هوش مصنوعی برای تجارت الکترونیک فراهم می‌کند، به شرط رعایت سایر قوانین، به ویژه در مورد اطلاعات نادرست و دستکاری.
نتیجه‌گیری
سیاست به‌روز شده Anthropic گامی مهم در جهت استفاده اخلاقی‌تر و مسئولانه‌تر از هوش مصنوعی مولد است. این نه تنها محافظت از کاربران در برابر اطلاعات نادرست است، بلکه ایجاد محیطی شفاف‌تر برای توسعه فناوری‌ها نیز می‌باشد. برای کسب‌وکارهایی که از ویدئوهای هوش مصنوعی برای تبلیغات یا شبکه عصبی برای تبلیغات UGC استفاده می‌کنند، این به معنای نیاز به توجه بیشتر به منشأ و ارائه محتوا است. ما می‌بینیم که کارایی هوش مصنوعی در برابر UGC واقعی همچنان در حال رشد است، اما با آن مسئولیت نیز افزایش می‌یابد. زمان آن فرا رسیده است که خود را وفق دهیم و آینده‌ای بسازیم که در آن فناوری‌ها به نفع ما باشند، نه برای فریب. اگر به دنبال این هستید که از کجا برای کریپتو یا سایر پروژه‌ها AI UGC سفارش دهید، مطمئن شوید که شریک شما از استانداردهای بالای اخلاق و شفافیت پیروی می‌کند.