از آنجایی که ابزارهای هوش مصنوعی هر روز پیچیده‌تر می‌شوند، شرکت‌های فناوری در تلاش هستند تا اطمینان حاصل کنند که مردم می‌توانند تفاوت بین محتوای تولید شده توسط رایانه و محتوای تولید شده توسط انسان را تشخیص دهند. بنابراین، OpenAI به روز رسانی برای تولید کننده تصویر DALL-E خود اعلام کرده است که هدف آن ارائه شفافیت بیشتر در مورد این موضوع است.
OpenAI شامل 3 استاندارد C2PA (ائتلاف برای منشأ و اعتبار محتوا) در DALL-E است. همه تصاویر ایجاد شده با استفاده از APIهایی که DALL-E 3 یا ChatGPT را ارائه می‌کنند، اکنون شامل ابرداده‌های C2PA می‌شوند - آنها حاوی یک واترمارک قابل مشاهده برای کمک به شناسایی محتوا به‌عنوان تولید شده توسط هوش مصنوعی هستند. این تغییر همچنین تا 12 فوریه برای همه کاربران تلفن همراه اعمال خواهد شد.
متادیتا شامل تاریخ ایجاد تصویر و لوگوی C2PA در گوشه سمت چپ بالا خواهد بود. ایده این است که برای کاربرانی که تصویر را ایجاد کرده اند - یک شخص یا هوش مصنوعی. OpenAI ادعا می کند که واترمارکینگ بر کیفیت تصویر یا سرعت ایجاد تصویر تأثیر نمی گذارد، اما می تواند اندازه فایل را تقریباً 3-5٪ از طریق API و 32٪ در هنگام ایجاد از طریق ChatGPT افزایش دهد.
با این حال، هنوز راه هایی برای کاربران وجود دارد که اطلاعات منشأ تصویر را از هوش مصنوعی حذف کنند. طبق گفته OpenAI، برش یا گرفتن اسکرین شات از داده های خام DALL-E می تواند به طور بالقوه داده های منشأ را حذف کند. دستکاری با پیکسل های تصویر نیز می تواند به طور بالقوه جایگزین واترمارک تعبیه شده شود.
بنابراین ابرداده C2PA نوشدارویی برای حل مسائل منشأ نیست. آنها را می توان به راحتی یا به طور تصادفی یا عمدی حذف کرد. به عنوان مثال، این روزها اکثر شبکه های اجتماعی ابرداده را از تصاویر آپلود شده حذف می کنند و اقداماتی مانند گرفتن اسکرین شات نیز می تواند به حذف آن کمک کند.
Microsoft مشخصات C2PA را در خروجی Bing Image Creator اعمال می کند و بیان می کند: "تصاویر ایجاد شده با هوش مصنوعی اکنون دارای یک واترمارک دیجیتال نامرئی است که با مشخصات C2PA مطابقت دارد."
بگذارید یادآوری کنم، ما اخیراً آن را نوشتیم متا شروع به برچسب زدن محتوای آپلود شده در می کند Facebook, Instagram و Threads اگر توسط هوش مصنوعی ایجاد شده باشد. این حرکت بخشی از تلاش مداوم برای توسعه استانداردهای صنعتی برای برچسب‌گذاری شفاف محتوای تولید شده توسط هوش مصنوعی است.
همچنین بخوانید: