فرادید؛ تصویر بالا نشان میدهد که چهرههای تولید شده توسط هوش مصنوعی (ردیف بالا) تا چه حد میتوانند شبیه چهرههای واقعی (ردیف پایین) به نظر برسند. این شباهت تا حدی است که میتواند چهرهشناسان حرفهای را هم به اشتباه بیاندازد.
به گزارش فرادید، این یافتههای تحقیقی است که 12 نوامبر در مجله Royal Society Open Science منتشر شد. با این حال، این مطالعه نشان داده که تنها پنج دقیقه آموزش در مورد خطاهای رایج تولید چهره توسط هوش مصنوعی، توانایی افراد در تشخیص چهرههای جعلی را بهطرز چشمگیری افزایش میدهد.
کِیتی گرِی، نویسنده اصلی مطالعه و استاد روانشناسی گفته: «اینکه آموزش نسبتاً کوتاه ما سبب افزایش عملکرد هر دو گروه آزمایششونده شد، بسیار دلگرمکننده بود.» گری افزود آموزش بهطور مشابه دقت چهرهشناسان حرفهای و افراد معمولی را افزایش داد. از آنجا که چهرهشناسان حرفهای از ابتدا بهتر قادر به شناسایی چهرههای جعلی بودند، این مطالعه نشان میدهد آنها برای شناسایی چهرههای ساختگی از سرنخهای دیگری غیر از خطاهای تصویری استفاده میکنند. گری امیدوار است دانشمندان بتوانند از توانایی تشخیص بهبودیافتهی چهرهشناسان خبره برای شناسایی بهتر تصاویر تولیدشده توسط هوش مصنوعی در آینده بهره ببرند.
نویسندگان مطالعه نوشتند: «برای شناساییِ هرچه دقیقتر چهرههای مصنوعی، ممکن است بتوان از الگوریتمهای تشخیص هوش مصنوعی با رویکرد (انسان در حلقه) استفاده کرد؛ جایی که آن انسان یک چهرهشناس آموزشدیده است.»
تشخیص جعل عمیق (دیپفِیک)
در سالهای اخیر، موجی از تصاویر تولیدشده توسط هوش مصنوعی در اینترنت منتشر شده است. چهرههای دیپفیک یا جعل عمیق با استفاده از الگوریتم هوش مصنوعی دو مرحلهای به نام شبکههای زایای رقابتی (GAN) تولید میشوند. ابتدا یک تصویر جعلی بر اساس تصاویر واقعی ایجاد میشود و سپس یک «چهرهشناس» بررسی میکند که تصویر واقعی است یا جعلی. با تکرار این فرآیند، تصاویر جعلی به حدی واقعی میشوند که چهرهشناس را هم فریب میدهند.
این الگوریتمها اکنون بهحدی پیشرفته شدهاند که بیشتر افراد فریب میخورند و چهرههای جعلی را واقعیتر از چهرههای واقعی میپندارند؛ پدیدهای که به آن «فراواقعگرایی» میگویند.
در نتیجه، پژوهشگران اکنون در تلاشند تا برنامههای آموزشی طراحی کنند که توانایی افراد در شناسایی چهرههای تولیدشده توسط هوش مصنوعی را بهبود ببخشد. این آموزشها خطاهای رایج در تولید چهرههای هوش مصنوعی، مانند وجود دندان وسط، خط موی عجیب یا بافت پوست غیرطبیعی را نشان میدهند. همچنین مشخص میکنند چهرههای جعلی معمولاً تناسب بیشتری نسبت به چهرههای واقعی دارند.
از دید نظری، چهرهشناسان خبره باید بهتر از افراد عادی قادر به شناسایی چهرههای جعلی باشند. این افراد در انجام وظایف تشخیص و درک چهره، مانند مقایسه دو عکس از افراد ناآشنا و تعیین اینکه آیا یک فرد است یا خیر، عملکرد بسیار خوبی دارند. با این حال، تاکنون مطالعات کمی توانایی این افراد در شناسایی چهرههای جعلی و تأثیر آموزش بر عملکرد آنها را بررسی کردهاند.
برای پر کردن این خلأ، گری و تیمش مجموعهای از آزمایشهای آنلاین را انجام دادند و عملکرد گروهی از فوق چهرهشناسان خبره را با افراد معمولی مقایسه کردند. چهرهشناسان خبره از پایگاه داده داوطلبان آزمایشگاه تشخیص چهره و صدای گرینویچ انتخاب شدند. آنها در وظایفی که طی آن تصاویر چهرههای ناآشنا به آنها نشان داده میشد و باید آنها را به خاطر میسپردند، جزو 2 درصد برتر افراد از دید عملکرد بودند.
در نخستین آزمایش، تصویری از یک چهره روی صفحه ظاهر شد که یا واقعی بود یا توسط رایانه تولید شده بود. شرکتکنندگان 10 ثانیه فرصت داشتند تشخیص دهند آیا چهره واقعی است یا خیر. چهرهشناسان حرفهای تنها در 41٪ موارد چهرههای هوش مصنوعی را شناسایی کردند و عملکردشان چندان خوب نبود. افراد معمولی هم تنها حدود 30٪ تصاویر جعلی را درست تشخیص دادند.
هر یک از این گروهها همچنین از دید میزان دفعاتی که چهرههای واقعی را جعلی تصور میکردند با یکدیگر تفاوت داشتند؛ این خطا در 39 درصد موارد برای چهرهشناسان حرفهای و حدود 46 درصد موارد برای افراد با توانایی تشخیص معمولی رخ میداد.
در آزمایش بعدی، گروه جدیدی از شرکتکنندگان پنج دقیقه آموزش دیدند که نمونههایی از خطاهای رایج در چهرههای تولیدشده توسط هوش مصنوعی به آنها نشان داده شد. سپس روی 10 چهره آزمایش شدند و بازخوردِ لحظهای درباره دقتشان در تشخیص جعلیها دریافت کردند. در مرحله پایانی آموزش، خطاهای رایج بازبینی شد و سپس شرکتکنندگان همان وظیفه اولیه آزمایش اول را تکرار کردند.
نتایج نشان داد آموزش بهطرز چشمگیری دقت شناسایی را افزایش داد؛ چهرهشناسان 64٪ و افراد معمولی 51٪ چهرههای جعلی را تشخیص دادند. نرخ اشتباه هر دو گروه در جعلی تشخیص دادن چهرههای واقعی تقریباً مشابه آزمایش نخست بود؛ طوریکه چهرهشناسان در 37 درصد موارد و افراد با توانایی تشخیص معمولی در 49 درصد موارد، چهرههای واقعی را «غیرواقعی» ارزیابی کردند.
شرکتکنندگانی که آموزش دیده بودند معمولاً زمان بیشتری برای بررسی تصاویر صرف کردند: افراد معمولی حدود 1.9 ثانیه و چهرهشناسان 1.2 ثانیه بیشتر از گروه بدون آموزش. گری میگوید این نکته مهمی برای هر کسی است که میخواهد تشخیص دهد آیا چهرهای واقعی است یا جعلی: «آهستهتر عمل کنید و ویژگیها را به دقت بررسی کنید.»
با این حال، باید گفت این آزمایش بلافاصله پس از آموزش انجام شد، بنابراین مدت زمان ماندگاری اثر آموزش روشن نیست.
مایکه رامون، استاد علوم داده کاربردی و متخصص پردازش چهره، در نقد این مطالعه نوشته: «این آموزش نمیتواند یک مداخله مؤثر و پایدار تلقی شود، زیرا دوباره آزمایش نشده است.»
و از آنجا که شرکتکنندگان در دو آزمایش متفاوت بودند، نمیتوان به درستی تعیین کرد آموزش چقدر توانایی شناسایی افراد را افزایش میدهد. این موضوع نیازمند آزمایش همان افراد قبل و بعد از آموزش است.
مترجم: زهرا ذوالقدر
