فریب فناوری تشخیص چهره توسط هوش مصنوعی

به گزارش ایسنا و به نقل از گیزمگ، پروفسور "پرهام عربی" (Parham Aarabi) و "آویشک بوس"(Avishek Bose) از "دانشگاه تورنتو" دو شبکه عصبی مبتنی بر هوش مصنوعی را طراحی کرده‌اند. یکی از این شبکه‌ها از تکنیک‌های مشابه سیستم‌های تشخیص چهره موجود که افراد را از روی عکس شناسایی می‌کند، استفاده کرد و سیستم دیگر به دنبال آن بود که سیستم نخستین را خنثی کرده و جایگزین آن شود، در این سیستم جدید کمی تغییر در عکس‌هایی که در سیستم پیشین استفاده می‌شد، اعمال گردید.

بوس گفت: هوش مصنوعی مخرب می‌تواند به آنچه که شبکه عصبی برای تشخیص چهره به دنبال آن است، حمله کند. اگر هدف هوش مصنوعی تشخیص گوشه‌ی چشم‌ها باشد، هوش مصنوعی خود را مطابق آن تنظیم می‌سازد و بنابراین آنها به میزان کمتری قابل تشخیص هستند و این باعث ایجاد اختلالات بسیار ظریف در عکس می‌شود، اما برای آشکارساز آنها به اندازه کافی قابل تشخیص هستند که سیستم را فریب دهند.

در این تحقیق هر دو شبکه عملکرد آن دیگری را یاد گرفتند و تلاش کردند تا نواقص یکدیگر را تصحیح کنند. نتیجه این کار به وجود آمدن یک الگوریتمی بود که می‌توانست در عکس‌ها مورد استفاده قرار گیرد و تا حدی چهره‌ها را شناسایی کند. در حالیکه در این عکس‌ها تغییر اعمال شده بود اما همچنان هم برای افراد، قابل تشخیص بودند.

عربی و بوس این سیستم را بر روی مجموعه داده‌هایی از چهره‌ها آزمایش کرده‌اند. این مجموعه شامل عکس بیش از 600 چهره از قومیت‌های مختلف و شرایط نور و محیط متفاوت بود. پیش از آنکه این الگوریتم به عکس‌ها اعمال شود، یک سیستم تشخیص چهره قادر به شناسایی تقریبا 100 درصد افراد بود اما هنگامیکه این الگوریتم اعمال شد، درصد تشخیص چهره 0.5 درصد کاهش یافت.

در حال حاضر امید است که این الگوریتم بتواند توسط یک برنامه یا وبسایت در دسترس عموم قرار گیرد تا افرادی که نگران حفظ حریم خصوصی‌شان هستند، بتوانند قبل از ارسال عکس‌هایشان، از این سیستم استفاده کنند.