معمولاً یکی از راه های شناخت محصولات یا خدماتی که تا کنون مورد استفاده قرار نداده ایم، خواندن نظراتی است که سایر افراد در وبسایت های مختلف راجع به آنها نوشته و تجربه کاربری خود را شرح داه اند.
مهم ترین علت برای اعتماد به نظرات مذکور این است که نویسنده نیز مانند ما کاربر نهایی بوده و تجربیات واقعی خود را به اشتراک گذاشته است. اما اگر مطالب مورد اشاره توسط کاربران واقعی نوشته نشده باشند چه طور؟
در اینجا منظور افرادی که توسط کمپانی ها برای تبلیغ محصول یا خدمات خاص در اینترنت استخدام می شوند نیست بلکه، هوش مصنوعی است که پژوهشگران دانشگاه شیکاگو توسعه داده اند.
محققان مورد بحث با توسعه روشی مبتنی بر شبکه های عصبی تکرار پذیر (RNN)، از حجم داده های زیادی استفاده کرده و نوعی هوش مصنوعی طراحی کرده اند که می تواند متن های کوتاه و دقیقی راجع به یک محصول یا خدمت خاص بنویسد. البته توانایی هوش مصنوعی مذکور به حدی است که توانسته کاربران وبسایت معروف «Yelp» را به اشتباه بیاندازد.
نظرات ارسالی توسط هوش مصنوعی از طرف کاربران امتیازات بالایی دریافت کرده‌اند
پژوهشگران با تغذیه شبکه عصبی خود با اطلاعات و نظرات مربوط به یک رستوران، موفق به تولید بازخوردهایی شدند که بسیار به نوشته های یک کاربر معمولی شباهت داشته و سایر کاربران نیز نتوانستند غیر واقعی بودن آنها را تشخیص دهند؛ جالب اینکه نظرات مورد بحث نه تنها توسط سیستم های امنیتی به عنوان موارد مصنوعی شناسایی نشدند، بلکه توسط بسیاری از کاربران سایت یِلپ به عنوان بازخوردهای «به درد بخور» انتخاب شده اند.
لازم به ذکر است که وبسایت ها و شبکه های اجتماعی از ابزارهای یادگیری ماشینی برای شناسایی اسپم ها و نظرات غیر واقعی استفاده می کنند که روش جدید توانسته به راحتی، از سیستم های امنیتی عبور کرده و حتی مورد توجه کاربران انسانی قرار گیرد.
گفتنی است پژوهشگران دانشگاه شیکاگو هشدار داده اند که فناوری جدید در دستان افراد ناشایست، به ابزاری برای سوء استفاده در شبکه های بزرگتری مانند توییتر تبدیل خواهد شد و متخصصان حوزه امنیت باید برای مقابله با چنین روش هایی، راهکارهای مورد نیاز را توسعه دهند.