نگار علی- عامل‌های هوش مصنوعی خودران توانایی تعامل با محیط، تصمیم‌گیری، اقدام و یادگیری از این فرآیندها را دارند. این تحولی عظیم در استفاده از هوش مصنوعی است و فرصت‌ها و ریسک‌های متناسب با خود را به همراه دارد.
تا کنون، ابزارهای هوش مصنوعی تولیدکننده (مثل GPT) بیشتر تحت نظارت انسان عمل می‌کردند و پاسخ‌هایی بر اساس داده‌های پیش‌آموزشی ارائه می‌دادند. اما با ظهور عامل‌های هوش مصنوعی خودران، این فناوری به مرحله‌ای جدید رسیده است. این عامل‌ها قادرند بدون دخالت انسان، داده‌ها را تجزیه و تحلیل کرده و اقدامات لازم را انجام دهند. این تکنولوژی می‌تواند به سرعت صنعت نرم‌افزار را متحول کند.
اگرچه این پیشرفت‌های جدید می‌توانند منجر به کاهش نیاز به نظارت و آموزش خاص، و مقیاس‌پذیری بیشتر شوند، اما خطرات آن نیز قابل توجه است. اشتباهات این عامل‌ها می‌توانند به سرعت و به طور بی‌پایان گسترش یابند. علاوه بر این، عامل‌های هوش مصنوعی ممکن است، هدف حملات هکری قرار گیرند و در تصمیمات حساس ممکن است خطاهایی پیش آید که عواقب فاجعه‌آمیز به همراه داشته باشد.
ریسک‌های تجاری و قانونی نیز به وجود آمده است. از جمله استفاده از این عامل‌ها در فرآیندهای منابع انسانی، که ممکن است منجر به تعصب الگوریتمی شود و به پیامدهای قانونی منجر گردد.
در مجموع، عامل‌های هوش مصنوعی خودران فرصت‌های بزرگی برای بهبود بهره‌وری و اتوماسیون وظایف روتین دارند، اما با ریسک‌های قابل توجهی همراه هستند. در حالی که این تحولات هیجان‌انگیز هستند، باید با احتیاط به آن‌ها نگاه کرد تا از بروز مشکلات فاجعه‌آمیز جلوگیری شود.
منبع: fastcompany
227227
