روز سه شنبه، متا برنامه خود را برای شروع برچسب گذاری تصاویر تولید شده توسط هوش مصنوعی از سایر شرکت ها مانند OpenAI و گوگل اعلام کرد. این اقدام با هدف افزایش شفافیت در پلتفرم هایی مانند Facebook, Instagram و Threads، با اطلاع دادن به کاربران مبنی بر اینکه محتوایی که مشاهده می کنند، رسانه دیجیتال سنتز شده است و یک عکس یا ویدیوی معتبر نیست.
راه‌حل متا بخشی از تلاش گسترده‌تر صنعت فناوری برای تعیین استانداردهایی برای برچسب‌گذاری محتوای ایجاد شده با مدل‌های هوش مصنوعی است که قادر به ایجاد صدا، تصاویر و ویدیوی جعلی اما واقعی بر اساس درخواست‌های نوشتاری هستند.
نیک کلگ، رئیس امور جهانی متا، این خبر را در یک پست وبلاگی در وب سایت متا اعلام کرد. کلگ نوشت: «ما در سال آینده که تعدادی از انتخابات مهم در سراسر جهان برگزار خواهد شد، این رویکرد را دنبال خواهیم کرد. در طول این مدت، ما امیدواریم که اطلاعات بیشتری در مورد اینکه مردم چگونه محتوا را با هوش مصنوعی ایجاد و به اشتراک می‌گذارند، شفافیتی که مردم بیشتر از همه ارزش قائل هستند و این که چگونه این فناوری‌ها در حال تکامل هستند، بیاموزیم.
کلگ خاطرنشان کرد که ابتکار تگ گذاری محتوای تولید شده توسط هوش مصنوعی متا، رویه موجود برچسب گذاری محتوای ایجاد شده با ابزارهای هوش مصنوعی خود را گسترش می دهد تا تصاویر ایجاد شده با استفاده از خدمات شرکت های دیگر را نیز شامل شود.
ما در حال ساخت ابزارهای پیشرو در صنعت هستیم که می توانند نشانگرهای نامرئی را در مقیاس شناسایی کنند - به ویژه اطلاعات "تولید شده با هوش مصنوعی" در استانداردهای فنی C2PA و IPTC - بنابراین می توانیم تصاویر را از Google، OpenAI، برچسب گذاری کنیم. Microsoft، Adobe، Midjourney و Shutterstock در حالی که برنامه های خود را برای افزودن ابرداده به تصاویر ایجاد شده توسط ابزارهای خود اجرا می کنند."
متا می‌گوید فناوری برچسب‌گذاری محتوای تولید شده توسط هوش مصنوعی مبتنی بر واترمارک‌های نامرئی و ابرداده‌های تعبیه‌شده در فایل‌ها خواهد بود. متا یک واترمارک کوچک "Imagined with AI" به تصاویر ایجاد شده با تولید کننده تصویر هوش مصنوعی عمومی خود اضافه می کند.
در این پست، کلگ به توانایی شرکت‌ها برای برچسب‌گذاری قابل اعتماد تصاویر تولید شده توسط هوش مصنوعی ابراز اطمینان کرد، اگرچه او اشاره کرد که ابزارهایی برای برچسب‌گذاری محتوای صوتی و تصویری هنوز در حال توسعه هستند. در این بین، متا از کاربران می خواهد که محتوای صوتی و تصویری اصلاح شده را برچسب گذاری کنند و در صورت عدم انجام این کار، جریمه های نامشخصی در نظر گرفته شود.
او نوشت: «ما از مردم می‌خواهیم از این ابزار افشا و برچسب‌گذاری زمانی که محتوای ارگانیک با ویدیوی واقعی یا صدای واقعی را که به‌صورت دیجیتالی ایجاد یا تغییر داده شده است، پست می‌کنند، استفاده کنند و اگر این کار را نکنند، ممکن است مجازات‌هایی را اعمال کنیم.»
با این حال، کلگ خاطرنشان کرد که در حال حاضر هیچ روش موثری برای برچسب‌گذاری متن تولید شده توسط هوش مصنوعی وجود ندارد و نشان می‌دهد که برای اجرای چنین اقداماتی برای محتوای نوشتاری بسیار دیر شده است. این همزمان با گزارش‌های ما مبنی بر کار نکردن آشکارسازهای متنی هوش مصنوعی است.
این اعلامیه یک روز پس از آن منتشر شد که هیئت نظارت مستقل متا از سیاست این شرکت در مورد ویدیوهای تغییر یافته به طرز فریبنده ای انتقاد کرد و آن را بسیار محدود دانست و توصیه کرد که به جای حذف چنین محتوایی پرچم گذاری شود. کلگ با انتقاد موافق بود و اعتراف کرد که سیاست های متا موجود برای مدیریت حجم فزاینده محتوای مصنوعی و ترکیبی در اینترنت ناکافی است. او ابتکار جدید برچسب‌گذاری را گامی در جهت اجرای توصیه‌های سازمان دیده‌بان و تحریک حرکت صنعت برای اقدامات مشابه می‌داند.
متا تصدیق می کند که نمی تواند محتوای تولید شده با هوش مصنوعی را که بدون واترمارک یا ابرداده ایجاد شده است، شناسایی کند، مانند تصاویر ایجاد شده با برخی از ابزارهای سنتز تصویر هوش مصنوعی منبع باز. متا در حال تحقیق بر روی فناوری واترمارکینگ تصویر به نام Stable Signature است که امیدوار است بتوان آن را در ژنراتورهای تصویر منبع باز ساخت. اما تا زمانی که پیکسل‌ها پیکسل هستند، می‌توان آن‌ها را به روش‌هایی ایجاد کرد که توسط صنعت فناوری کنترل نمی‌شود، و این یک چالش برای تشخیص محتوای هوش مصنوعی باقی می‌ماند زیرا ابزارهای AI منبع باز پیچیده‌تر و واقعی‌تر می‌شوند.
همچنین بخوانید: