گجت‌های هوش مصنوعی، تهدیدی برای داده‌های شخصی هستند؟

ولع برای دریافت داده‌های بیشتر

این روزها غول‌های تکنولوژی مانند اپل، مایکروسافت و گوگل نوید ظهور عصر جدیدی را می‌دهند که با موبایل‌ها و کامپیوترهای جدید مبتنی بر هوش مصنوعی آنها معنا می‌شوند. این شرکت‌ها معتقدند که این دستگاه‌ها و گجت‌های جدید کارهایی مانند ویرایش عکس‌ها و تبریک تولد یک دوست را خودکار می‌کنند تا کاربران‌شان زمان خود را به کارهای مهم‌تری اختصاص بدهند. اما نکته مهم آنجاست که این شرکت‌ها برای انجام این کارها به یک داشته ارزشمند شما نیاز دارند: داده‌های بیشتر.

در این الگوی جدید، کامپیوتر ویندوزی شما هر چند ثانیه یک بار از هر کاری که مشغول انجامش هستید، یک اسکرین‌شات می‌گیرد. گوشی آی‌فون شما اطلاعات بسیاری از برنامه‌هایی را که استفاده می‌کنید به هم متصل و منتقل می‌کند و یک گوشی اندرویدی می‌تواند در لحظه به تماس‌هایتان گوش دهد تا شما را از کلاهبرداری آگاه کند. حالا باید ببینید که آیا حاضرید که این اطلاعات را به اشتراک بگذارید؟

این تغییر، پیامدهای مهمی را برای حریم خصوصی ما به دنبال دارد. حالا دیگر شرکت‌ها و دستگاه‌های جدیدشان برای ارائه خدمات سفارشی جدید به مشتریان‌شان (از جمله خود ما) به دسترسی مداوم و بیشتر به داده‌های ما نیاز دارند. در گذشته نحوه استفاده از برنامه‌ها و جمع‌آوری فایل‌ها و عکس‌ها در گوشی‌ها و کامپیوترها نسبتا ساده بود. کارشناسان امنیتی معتقدند که هوش مصنوعی برای اتصال نقاط بین آنچه ما در برنامه‌ها، وب‌سایت‌ها و ارتباطات خود انجام می‌دهیم، به یک چشم‌انداز کلی نیاز دارد. کلیف اشتاینهاور، مدیر بنیاد غیرانتفاعی اتحاد ملی امنیت سایبری، در مورد استراتژی‌های این شرکت در حوزه هوش مصنوعی می‌گوید: «آیا از اینکه اطلاعاتم را به این شرکت‌ها بدهم، احساس امنیت می‌کنم؟»

همه اینها به این دلیل اتفاق می‌افتند که چت‌بات هوش مصنوعی چت جی‌پی‌تی محصول شرکت اوپن ای‌آی، نزدیک به دو سال پیش صنعت فناوری را متحول کرد. از آن زمان به بعد اپل، گوگل، مایکروسافت و شرکت‌های دیگر استراتژی‌های محصولات خود را بازنگری کردند و میلیاردها دلار در زمینه ارائه خدمات جدید تحت عنوان هوش مصنوعی سرمایه‌گذاری کردند. آنها به خوبی متقاعد شده‌اند که این نوع جدید از رابط رایانشی، یعنی رابطی که برای ارائه کمک به‌طور پیوسته در حال بررسی کارهای شماست، به عاملی ضروری برای زندگی مدرن تبدیل خواهد شد. کارشناسان می‌گویند در جریان این تحول، بزرگ‌ترین خطر امنیتی بالقوه تغییر ظریفی است که در نحوه کار دستگاه‌های جدید ما اتفاق می‌افتد. زیرا هوش مصنوعی می‌تواند اقدامات پیچیده‌ای را خودکار کند - از جمله پاک کردن اشیای ناخواسته در یک عکس- که گاهی اوقات به قدرت محاسباتی بیشتری نسبت به گوشی‌های موبایل ما نیاز دارند. این به معنای آن است که ممکن است اطلاعات شخصی بیشتری از ما مجبور شوند ‌گوشی‌هایمان را ترک کنند تا در جای دیگری مورد بررسی قرار بگیرند. اطلاعات به اصطلاح به ابر منتقل می‌شوند که شبکه‌ای از سرورهایی است که درخواست‌ها را پردازش می‌کنند. هنگامی که اطلاعات به ابر می‌رسند، می‌توانند توسط دیگران از جمله کارمندان شرکت، بازیگران بد و حتی سازمان‌های دولتی دیده شوند. در حالی که برخی از داده‌های ما همیشه در فضای ابری ذخیره می‌شوند، عمیق‌ترین و شخصی‌ترین داده‌های ما که زمانی فقط چشمان خودمان آنها را می‌دید، مانند عکس‌ها، پیام‌ها و ایمیل‌ها، حالا دیگر ممکن است توسط سرورهای یک شرکت منتقل، تجزیه و تحلیل شوند!

با این همه شرکت‌های تکنولوژی می‌گویند که برای ایمن‌سازی داده‌های افراد تلاش‌های زیادی کرده و اقدامات متنوعی انجام داده‌اند. در حال حاضر مهم آن است که بدانیم وقتی از هوش مصنوعی استفاده می‌کنیم چه اتفاقی برای اطلاعات‌مان می‌افتد. بنابراین خبرنگار نیویورک‌تایمز اطلاعات بیشتری از شرکت‌ها درباره شیوه‌نامه‌هایشان برای استفاده از داده‌ها گرفته و با کارشناسان و متخصصان امنیتی در این زمینه مصاحبه کرده است تا بتواند قبل از تصمیم‌گیری درباره به اشتراک‌گذاری داده‌هایش به جواب این سوال برسد که آیا تکنولوژی‌ها به اندازه کافی خوب کار می‌کنند یا خیر.

شفافیت ناکافی اپل

اپل اخیرا Apple Intelligence را معرفی کرد که مجموعه‌ای از خدمات هوش مصنوعی و نخستین ورود جدی و مهم آن به رقابت هوش مصنوعی است. این خدمات جدید هوش مصنوعی اپل از پاییز امسال در سریع‌ترین آی‌فون‌ها، آی‌پدها و کامپیوترهای مک آن در دسترس خواهند بود. افراد می‌توانند از هوش مصنوعی اپل برای حذف خودکار اشیای ناخواسته در عکس‌ها، تولید خلاصه مقالات وب و نوشتن پاسخ به پیام‌های متنی و ایمیل‌ها استفاده کنند. اپل همچنین دستیار صوتی خود، یعنی سیری را بازسازی می‌کند تا قابلیت مکالمه آن را بیشتر کند و امکان دسترسی آن به داده‌های تمام برنامه‌ها را بدهد. در طول کنفرانس اپل در ماه گذشته، زمانی که کریگ فدریگی، معاون ارشد مهندسی نرم‌افزار این شرکتApple Intelligence را معرفی کرد، نحوه کارکرد آن را به اشتراک گذاشت: فدریگی ایمیلی از یکی از همکارانش دریافت کرد که از او خواسته بود تا جلسه را عقب بیندازد. او قرار بود آن شب نمایشی را با بازی دخترش ببیند. سپس موبایل او تقویمش را بالا آورد، سندی حاوی جزئیات مربوط به نمایشنامه و یک برنامه زمانی برای پیش‌بینی اینکه اگر با جلسه‌ای در زمان بعدی موافقت کند، آیا دیر به نمایش می‌رسد یا خیر.

اپل اعلام کرد که در حال تلاش برای پردازش بیشتر داده‌های هوش مصنوعی به‌طور مستقیم از روی موبایل‌ها و کامپیوترهایش است که از دسترسی دیگران، از جمله اپل، به اطلاعات کاربران جلوگیری می‌کند. اما اپل گفت برای کارهایی که در طول آنها داده‌ها باید به سرورها منتقل شوند، تدابیر امنیتی اتخاذ کرده است که به هم زدن داده‌ها از طریق رمزگذاری و حذف فوری آنها از جمله این تدابیر هستند. اپل همچنین تدابیری اتخاذ کرده است تا کارکنانش به داده‌ها دسترسی نداشته باشند. اپل همچنین اعلام کرد که به محققان امنیتی اجازه می‌دهد تا تکنولوژی جدید آن را بررسی کنند تا مطمئن شوند که به وعده‌های خود عمل می‌کند. تعهد اپل به پاک‌سازی اطلاعات کاربران از سرورهایش، آن را از سایر شرکت‌هایی که داده‌ها را نگه می‌دارند، متمایز می‌کند. متیو گرین، محقق امنیتی و دانشیار علوم کامپیوتر در دانشگاه جانز هاپکینز، که توسط اپل در مورد فناوری جدید این شرکت مطلع شد، می‌گوید: «اما اپل در مورد اینکه کدام درخواست‌های جدید سیری می‌تواند به سرورهای این شرکت ارسال شود، غیرشفاف است. در واقع هر چیزی که از دستگاه شما خارج شود، ذاتا امنیت کمتری خواهد داشت.» این در حالی است که اپل اعلام کرد وقتی Apple Intelligence در دسترس قرار بگیرد، کاربران می‌توانند گزارشی از درخواست‌هایی را ببینند که دستگاه‌شان در فضای ابری پردازش می‌کند.

لپ‌تاپ‌های هوشمند مایکروسافت

مایکروسافت دارد هوش مصنوعی را به لپ‌تاپ‌های قدیمی می‌آورد. این شرکت در ماه گذشته شروع به عرضه کامپیوترهای ویندوزی به نام Copilot+ PC کرد که قیمت آنها از هزار دلار شروع می‌شود. این کامپیوترها دارای تراشه و تجهیزات جدیدی هستند که مایکروسافت می‌گوید داده‌های کاربران را خصوصی و ایمن نگه می‌دارد. این کامپیوترهای شخصی جدید می‌توانند علاوه بر دیگر ویژگی‌ها و کاربردهای هوش مصنوعی، تصاویر را تولید و اسناد را بازنویسی کنند.

این شرکت همچنین Recall را معرفی کرد؛ یک سیستم جدید برای کمک به کاربران برای یافتن سریع اسناد و فایل‌هایی که روی آنها کار کرده‌اند، ایمیل‌هایی که خوانده‌اند یا وب‌سایت‌هایی که مرور کرده‌اند. مایکروسافت Recall را با داشتن یک حافظه عکاسی داخلی در کامپیوتر شخصی شما مقایسه می‌کند. کاربران برای استفاده از آن می‌توانند عبارات معمولی را تایپ کنند، مانند «به یک تماس ویدئویی فکر می‌کنم که اخیرا با جو داشتم، زمانی که او لیوان قهوه I Love New York را در دست داشت». سپس کامپیوتر آن جزئیات را در تماس ویدئویی ضبط شده بازیابی می‌کند. برای انجام این کار، Recall هر پنج ثانیه از کاری که کاربر روی دستگاه انجام می‌دهد، اسکرین‌شات می‌گیرد و آن تصاویر را در یک پایگاه داده قابل جست‌وجو گردآوری می‌کند. این شرکت اعلام کرد که عکس‌های فوری مستقیما روی کامپیوتر شخصی ذخیره و تجزیه و تحلیل می‌شوند، بنابراین داده‌ها توسط مایکروسافت بررسی نمی‌شوند یا برای بهبود هوش مصنوعی آن استفاده نمی‌شوند.

با این حال محققان امنیتی در مورد خطرات احتمالی این خدمات هشدار و توضیح دادند که این داده‌ها می‌توانند به راحتی هر چیزی را که تایپ یا مشاهده کرده‌اید در صورت هک شدن، افشا کنند. در مقابل مایکروسافت که قصد داشت در ماه گذشته Recall را عرضه کند، انتشار آن را برای مدت نامعلومی به تعویق انداخت. این کامپیوترهای شخصی به سیستم‌عامل جدید مایکروسافت ویندوز 11 مجهز شده‌اند که به گفته متخصصان دارای چندین لایه امنیتی است.

جست‌وجوی هوشمند گوگل

دو ماه پیش هم گوگل مجموعه‌ای از خدمات هوش مصنوعی خود را معرفی کرد. یکی از بزرگ‌ترین افشاگری‌های گوگل یک ردیاب کلاهبرداری جدید مجهز به هوش مصنوعی برای تماس‌های تلفنی بود. این ابزار در لحظه به تماس‌های تلفنی گوش می‌دهد و اگر تماس‌گیرنده شبیه یک کلاهبردار احتمالی به نظر برسد (به عنوان مثال، اگر تماس‌گیرنده رمز ​​بانکی را بخواهد)، شرکت گوگل به شما اطلاع می‌دهد. گوگل اعلام کرد که مردم باید این ردیاب کلاهبرداری را فعال کنند که به‌طور کامل توسط تلفن خود اداره می‌شود؛ یعنی گوگل به تماس‌ها گوش نمی‌دهد. گوگل قابلیت دیگری به نام Ask Photos را هم معرفی کرد که نیاز به ارسال اطلاعات به سرورهای شرکت دارد. کاربران می‌توانند سوالاتی مانند دخترم چه زمانی شنا را یاد گرفت؟ تا نخستین تصاویر از شنای فرزندشان را به نمایش بگذارند.گوگل گفت که کارکنانش می‌توانند در موارد نادری، مکالمات و داده‌های عکس Ask Photos را برای رسیدگی به سوءاستفاده یا آسیب بررسی کنند و همچنین ممکن است از این اطلاعات برای کمک به بهبود برنامه فوتوز خود استفاده شود. به بیان دیگر، سوال شما و عکس کودکتان در حال شنا می‌تواند برای کمک به سایر والدین در یافتن تصاویری از کودکانشان در حال شنا استفاده شود. گوگل اعلام کرد که سرویس کلاد این شرکت مبتنی بر فناوری‌های امنیتی مانند رمزگذاری و پروتکل‌ها برای محدود کردن دسترسی کارمندان به داده‌ها است.

سوزان فری، مدیر اجرایی گوگل که بر اعتماد و حریم خصوصی نظارت می‌کند، در این مورد گفت: «رویکرد حفاظت از حریم خصوصی ما در مورد ابزارهای هوش مصنوعی ما اعمال می‌شود؛ صرف‌نظر از اینکه روی دستگاه کار می‌کنند یا در فضای ابری. اما متیو گرین، محقق امنیتی و دانشیار علوم کامپیوتر در دانشگاه جانز هاپکینز گفت که رویکرد گوگل نسبت به حریم خصوصی در هوش مصنوعی نسبتا مبهم احساس می‌شود. او گفت: «من از این ایده خوشم نمی‌آید که عکس‌های شخصی و جست‌وجوهای بسیار شخصی من به فضای ابری می‌رود که تحت کنترل من نیست.»