فضای شبکه های اجتماعی، رسانه ها و وب سایت های مختلف به گونه ای شده است که نه فقط در داخل کشور، بلکه در سراسر جهان توصیه می شود نظرات و کامنت های مردم را نخوانید.
چراکه ممکن است با مجموعه باورنکردنی از حرف های تند، ناسزا، توهین آمیز و به طور کلی فضای مسمومی مواجه شوید؛ تحقیقات نشان می دهد اغلب افرادی که در دنیای واقع جرات بیان نظرات خود را ندارند، در فضای مجازی و ناشناخته اینترنت خیلی راحت تر از الفاظ رکیک استفاده می نمایند.
بر همین اساس شرکت Jigsaw که یکی از زیرمجموعه های کمپانی آلفابت به شمار می رود، مدتی است پلتفرمی راه اندازی کرده که با کمک هوش مصنوعی و شناسایی کلمات ملموس از ارسال و انتشار عبارات توهین آمیز جلوگیری می نماید.
اما متاسفانه تحقیقات مهندسان واحد آزمایشگاه های امنیت شبکه دانشگاه واشنگتن نشان می دهد این پلتفرم، با وجود تاثیر به سزایی که در این زمینه دارد، از ضعف های متعددی رنج می برد.
عمده ترین مشکلی که گریبان گیر سیستم های تعیین نظرات قابل انتشار را گرفته است، استفاده از ترفند غلط املایی و یا حالات گوناگونی از یک کلمه است که عملاً پلتفرم های فیلترینگ عبارات را دور می زند.
به این صورت که به عنوان مثل کاربر برای انتشار کلمه ای مانند «احمق» که یقیناً مورد تایید قرار نمی گیرد، از «اهمق» یا انواع مدل های مختلف یا خلاصه سازی آنها برای بیان فرهنگ و ادب خودش استفاده می کند.
به دنبال انجام این فرآیند، «CJ Adams» مدیر پروژه واکنش نشان داده و معتقد است که این تکنولوژی در مراحل اولیه توسعه خود به سر می برد و روش های جدیدی برای مبارزه به مرور زمان به آن اضافه خواهد شد.
در مجموع جدا از مبحث اینکه انتشار محتوای توهین آمیز و استفاده از الفاظ رکیک در دنیای مجازی به دور از شخصیت انسانی است، امیدوار هستیم گسترش پلتفرم های مورد بحث به تلطیف فضا کمک کنند و در آینده بتوان از محیطی سالم تر بهره مند شد.
