تصویری از پاپ فرانسیس با کت سفید پفکی وجود داشت، بدون ذکر عکس هایی از دستگیری دونالد ترامپ و امانوئل ماکرون، رئیس جمهور فرانسه که از میان تظاهراتی عبور می کند. این تصاویر بخشی از خشم رو به رشدی است که رهبران فناوری مانند ایلان ماسک و استیو وزنیاک بنیانگذار اپل را وادار کرد تا درخواست عمومی برای توقف توسعه ابزارهای هوش مصنوعی داشته باشند.

در حالی که محتوای تولید شده توسط هوش مصنوعی می تواند سرگرم کننده باشد، اما خطراتی را برای صنایع و تعاملات روزمره به طور یکسان ایجاد می کند. می توان از آن برای انتشار اطلاعات نادرست، نقض مالکیت معنوی یا جنسی کردن عکس افراد استفاده کرد. ما در حال حاضر به نقطه‌ای رسیده‌ایم که به روش‌هایی برای تشخیص تصاویر ساخته شده توسط انسان از تصاویر تولید شده توسط ماشین نیاز داریم.

پشت بسیاری از این تصاویر هوش مصنوعی Midjourney قرار دارد که می تواند اعلان های متنی را به تصویر تبدیل کند یا تصاویر موجود را به روش های جدید ترکیب کند. به گفته اساتید و محققان، آخرین نسخه آن تا به امروز بیشترین تلاش را برای محو کردن مرز بین واقعیت و تخیل انجام داده است. سایر تولیدکننده‌های تصویر-از جمله DALL-E که مایکروسافت را تقویت می‌کند‘s

Bing Image Creator جدید – همچنین به سرعت بهتر می شوند.

برخی از توسعه دهندگان در حال ساخت ابزارهایی هستند که می توانند تصاویر را برای نشانه های منشاء هوش مصنوعی تجزیه و تحلیل کنند. مشکل اینجاست، مگر اینکه ابزارها با تولیدکننده‌های تصویری که آنها نظارت می‌کنند همگام باشند، حتی می‌توان آنها را فریب داد.

بررسی آثار

Optic، یک شرکت اعتماد و ایمنی هوش مصنوعی، هوش مصنوعی یا نه را راه‌اندازی کرد، سایتی که در آن می‌توانید عکس یا تصویری را به اشتراک بگذارید و سایت تعیین می‌کند که آیا این عکس توسط یک انسان ساخته شده است یا یک هوش مصنوعی. می‌توانید یک تصویر را مستقیماً در وب‌سایت آپلود کنید یا URL یک تصویر را جای‌گذاری کنید. هیچ محدودیتی برای تعداد تصاویری که می توانید آپلود کنید وجود ندارد.

همچنین می توانید یک تصویر را توییت یا ریتوییت کنید حساب توییتر Optic، @optic_xyz، همراه با هشتگ، #aiornot، و پاسخی دریافت خواهید کرد که به شما می گوید چه اعتقادی دارد، همراه با سطح اطمینان آن به عنوان درصد. این شرکت همچنین در حال کار بر روی یک افزونه گوگل کروم است.

مدیر اجرایی آندری دورونیچف می گوید که ابزار Optic مصنوعات موجود در هر تصویر را که برای چشم انسان نامرئی هستند، مانند تغییرات روشنایی و رنگ در تصاویر، بررسی می کند.

این ابزار تا همین اواخر دارای نرخ دقت 95٪ بود. سپس Midjourney آخرین نرم افزار خود را منتشر کرد و دقت به 88.9 درصد کاهش یافت. تیم Optic هوش مصنوعی یا نه را به روز کرد تا بتواند تصاویر جدید Midjourney را ببیند. Bing Image Creator مایکروسافت که از نسخه جدیدتر DALL-E استفاده می کند نیز این ابزار را کنار گذاشته است.

“مسابقه تسلیحاتی”

Hive، یک شرکت هوش مصنوعی که محتوا را برچسب گذاری می کند، همچنین آشکارساز محتوای رایگان تولید شده توسط هوش مصنوعی خود را به روز کرده است تا با تولیدکننده های تصویر در حال تکامل همگام شود. این ابزار از هوش مصنوعی – آموزش داده شده بر روی میلیون‌ها تصویر از DALL-E، Stable Diffusion، Midjourney – برای تعیین منشا تصاویر و متن استفاده می‌کند. Hive کاربران را به 100 پرس و جو در روز محدود می کند، مگر اینکه آنها هزینه خدمات پریمیوم آن را پرداخت کنند.

این شرکت تخمین می زند که حدود 95 درصد از تصاویر ساخته شده با هوش مصنوعی را به دقت تشخیص می دهد، اما تصاویری که به طور گسترده به اشتراک گذاشته می شوند بهتر از بقیه هستند. کوین گوئو، مدیر عامل Hive می‌گوید: وقتی مردم تصاویر هوش مصنوعی را به اشتراک می‌گذارند، بهترین را از بین تقلبی‌ها انتخاب می‌کنند، بنابراین تشخیص واقعیت سخت‌تر می‌شود.

تصویر ایجاد شده توسط هوش مصنوعی، در سمت چپ، دو نفر را نشان می دهد که با انگشتان بلند و دهان های عجیب و غریب در حال حرکت هستند، در حالی که افراد در عکس معمولی iStock دارای ویژگی های معمولی هستند. تصویر: وال استریت ژورنال; Microsoft Bing Image Creator، iStock

همانند Optic، Hive در تشخیص تصاویر از Bing Image Creator جدید مشکل دارد.

آقای گوئو می گوید: “این یک مسابقه تسلیحاتی است.” ما به همه ابزارهای موجود نگاه می کنیم و هر بار که آنها مدل های خود را به روز می کنند، ما باید مدل خود را به روز کنیم و سرعت را ادامه دهیم.

در حال حاضر، اگر می‌خواهید بفهمید که تصویری ساخته‌شده با هوش مصنوعی است یا واقعی، آن را از طریق هر دو ابزار Optic و Hive اجرا کنید. اگر حداقل یکی نشان دهد که توسط هوش مصنوعی تولید شده است، احتمالاً همینطور است.

زمینه کلیدی است

بسیاری از تولیدکنندگان تصویر هوش مصنوعی، نرده های محافظ خود را تنظیم می کنند. به عنوان مثال، Bing Image Creator، درخواست‌های کاربر را که از او می‌خواهند تصاویری از چهره‌های عمومی برجسته ایجاد کند، پرچم‌گذاری کرده و مسدود می‌کند. دیوید هولز، موسس این شرکت می‌گوید Midjourney ناظران انسانی دارد، اما در حال ارائه راهی برای تعدیل درخواست‌های کاربران با یک الگوریتم است.

شما همچنین می توانید در تشخیص تصاویر جعلی با چشمان خود بهتر شوید.

آمیت روی چاودری، استاد مهندسی برق و کامپیوتر در دانشگاه کالیفرنیا، ریورساید، می‌گوید: با زمینه شروع کنید: کجا و چه زمانی یک تصویر را می‌بینید باید به شما در تشخیص واقعی بودن آن کمک کند.

به دنبال قسمت هایی از یک تصویر باشید که به نظر نامناسب به نظر می رسند. پروفسور روی چاودری می گوید: یکی بیان یک فرد است که ممکن است واقع بینانه به نظر نرسد یا ممکن است به نوعی در عکس های ایجاد شده توسط هوش مصنوعی به نظر برسد. وی افزود: برخی از تصاویر ممکن است دارای عناصر گم شده باشند، مانند آینه یا پنجره شیشه ای که انعکاس شخص را نشان نمی دهد.

مشکل واقعی ممکن است این نباشد که تشخیص هوش مصنوعی مولد دشوارتر می شود، بلکه این است که افراد بیشتری از آن برای فریب دیگران استفاده می کنند.

او می گوید: «این پتانسیل را دارد که بسیار بسیار مضر باشد، بدون اینکه فوق العاده باهوش باشد.

– برای تجزیه و تحلیل بیشتر، بررسی ها، توصیه ها و سرفصل های WSJ Technology، برای خبرنامه هفتگی ما ثبت نام کنید.

برای Ann-Marie Alcántara در [email protected] بنویسید