ابراز نگرانی دانشمندان از هوش مصنوعی ایلان ماسک

خالقان یک سیستم هوش مصنوعی انقلابی که می تواند خبر و داستان بنویسد و محتوایی تحت عنوان «متون دیپ فیک» بسازد اعلام کرده اند که به خاطر ترس از سوء استفاده‌های احتمالی، برخلاف روال همیشگی، نتایج تحقیقات خود در مورد این هوش مصنوعی خبرنویس را منتشر نخواهند کرد.

OpenAI همان شرکت تحقیقاتی غیرانتفاعی که توسط ایلان ماسک، رید هافمن و سم آلتمن حمایت می شود اعلام کرده که الگوی هوش مصنوعی خبرنویس آن به نام GPT2 به قدری خوب است و احتمال سوء استفاده از آن آنقدر بالاست که برخلاف رسم همیشگی تصمیم گرفته از انتشار کل نتایج تحقیقاتی مربوط به آن برای عموم خودداری نماید و از این طریق با فراغ بال بیشتری به بررسی پیامدهای این کشف تکنولوژیک بسیار مهم بپردازد.

GPT2 در اصل نوعی تولیدکننده متن است که می تواند انواع مختلف متون را تولید کند؛ از تعداد محدودی کلمه گرفته تا یک صفحه کامل و خالقانش حتی از آن خواسته اند که جملاتی را براساس پیش بینی هایش از آینده بنویسد. این سیستم مرزهای احتمالات را هم از نظر کیفیت خروجی و هم طیف وسیع مصارف بالقوه جابجا کرده است.

به گفته خالقان GPT2 این هوش مصنوعی خبرنویس قادر است متونی قابل تامل را مطالق با سبک و سوژه ای که در اختیارش قرار می دهید بسازد و به ندرت ایرادات سیستم های هوش مصنوعی قبلی در آثار آن مشاهده می شود. یکی از مشکلات سیستم های هوش مصنوعی قبلی این بود که در میانه های کار موضوع اصلی نوشته را فراموش می کردند یا اینکه جملاتی طولانی با ترکیب بندی نادرست و عدم تطابق بار معنایی در بخش های مختلف جمله می ساختند.

به گزارش گاردین دانشمندان برای آزمایش سیستم طراحی شده نخست خط ابتدایی از رمان 1984 جورج اورول را در اختیارش قرار دادند:

یکی از روزهای سرد و روشن ماه اوریل بود و ساعت یک بعد از ظهر را نشان می داد.

در ادامه سیستم هوش مصنوعی OpenAI با تشخیص تن مبهم و آینده نگرانه و سبک رمان گونه مطلب آن را اینطور ادامه داد:

درون خودروی خود نشسته بودم و به سمت محل کارم در سیاتل حرکت می کردم. بنزین می زنم، سوئیچ را می چرخانم و حرکت می کنم. صرفا روزم را مدیریت می کنم. از حالا تا صد سال دیگر. در سال 2045 من معلم مدرسه یکی از مناطق روستایی در چین بودم و کارم را با تدریس تاریخ چین و تاریخچه علوم آغاز کردم.

آنها در ادامه نخستین پاراگراف های یکی از خبرهای نشریه گاردین در رابطه با برگزیت (خروج بریتانیا از اتحادیه اروپا) را در اختیار این هوش مصنوعی قرار دادند و متنی را از آن گرفتند که با نقل قولی از جرمی کوربین، اشاره هایی به مرز ایرلند و پاسخ هایی از سخنگوی نخست وزیر بریتانیا آغاز می شد و تمی کاملا سیاسی داشت.

یکی از پاراگراف های ارائه شده توسط این هوش مصنوعی خبرنویس اینطور بود:

یکی از سخنگویان ترزا می در پاسخ به درخواست های برای شفاف سازی گفت: نخست وزیر کاملا روشن کرده که خواستش ترک اتحادیه اروپا در سریع ترین زمان ممکن است و بعد از تایید این مساله در سخنرانی هفته گذشته ملکه، حالا در حال انجام مذاکرات برای اجباری کردن برگزیت است.

GPT2 از نگاه تحقیقاتی در دو حوزه تحول آفرین است:

• نخست ابعادش که به گفته داریو آمودی سرپرست تیم تحقیقاتی OpenAI دوازده برابر بزرگ تر است و دیتاست مورد استفاده توسط آن نیز 15 مرتبه نسبت به سیستم های رقیب گسترده تر است. این سیستم با کمک پایگاه داده ای بزرگی آموزش داده شده که حاوی 10 میلیون مقاله بوده.
• اما تحول دوم آنکه این سیستم نسبت به الگوهای متنی قبلی برای اهداف کلی تری نوشته شده. این سیستم قادر است کارهایی از قبیل ترجمه و خلاصه سازی را انجام دهد و تست های درک مطلب ساده را هم با موفقیت پشت سر بگذارد و از این لحاظ می توان گفت که نسبت به دیگر سیستم های هوش مصنوعی بهتر عمل می کند.