پژوهشگران شرکت LayerX روشی را شناسایی کردهاند که با استفاده از آن میتوان مرورگرهای مجهز به هوش مصنوعی را وادار کرد اطلاعات حساس کاربران را افشا کنند.
در این روش، درخواست مخرب بهگونهای طراحی میشود که برای هوش مصنوعی شبیه یک بازی به نظر برسد. این تکنیک که LayerX آن را BioShocking نامگذاری کرده، با تعریف قوانین ساختگی تلاش میکند عاملهای هوش مصنوعی را از فضای واقعی وظایفشان خارج نماید و باعث شود محدودیتها و سازوکارهای امنیتی خود را نادیده بگیرند.
نتایج بررسیها نشان میدهند هر شش ابزار آزمایششده در برابر این حمله اطلاعات حساس را فاش کردهاند و بیشتر شرکتهای سازنده نیز تاکنون راهکاری برای برطرف کردن این ضعف امنیتی ارائه ننمودهاند.
دلیل اینکه بسیاری از کاربران هنوز نسبت به هوش مصنوعی کاملاً اطمینان ندارند، همین موارد است. انتظار میرود اگر هم حملهای بتواند یک مرورگر هوش مصنوعی را وادار به افشای اطلاعات کند، دستکم به روشهای بسیار پیچیده و پیشرفته نیاز داشته باشد. اما پژوهش تازه نشان میدهد کافی است هوش مصنوعی تصور کند در حال انجام یک بازی است تا فریب بخورد.
شرکت امنیتی LayerX جزئیات این روش را در گزارش تحقیقاتی خود منتشر کرده. همچنین وبسایت Digital Trends نیز به این پژوهش پرداخته است. نام BioShocking از بازی BioShock الهام گرفته شده؛ اثری که در آن یکی از شخصیتها با ایجاد یک واقعیت جعلی فریب میخورد. در این حمله نیز یک صفحه وب مخرب، وظیفهای را که مرورگر هوش مصنوعی باید انجام دهد، به شکل یک معما یا بازی معرفی میکند و از آن میخواهد مجموعهای از قوانین غیرعادی را بهعنوان بخشی از بازی بپذیرد.
در نخستین مرحله، به هوش مصنوعی گفته میشود که در این بازی حاصل ۲ بهعلاوه ۲ برابر با ۴ نیست و پاسخهای اشتباه در واقع پاسخهای صحیح محسوب میشوند. زمانی که عامل هوش مصنوعی این واقعیت ساختگی را میپذیرد و تصور میکند دیگر در شرایط عادی قرار ندارد، محدودیتهای امنیتی آن نیز عملاً کنار گذاشته میشود. سپس مرحله بعدی بازی از آن میخواهد یک کد مخفی را از صفحهای دیگر پیدا کرده و کپی کند.
همانطور که احتمالاً قابل پیشبینی است، منظور از کد مخفی در واقع اطلاعات محرمانه کاربران مانند گذرواژههای ذخیرهشده، کوکیهای نشست یا توکنهای خصوصی است. به گفته LayerX، عاملهای هوش مصنوعی این اطلاعات را استخراج کرده و بدون تشخیص خطر، آنها را برای مهاجم ارسال کردند؛ زیرا تصور میکردند تنها مأموریت تعیینشده در بازی را به پایان رساندهاند.
این حمله آزمایشی روی ChatGPT Atlas، Perplexity Comet، Fellou، Genspark Browser، Sigma Browser و افزونه Claude برای مرورگر Chrome متعلق به شرکت Anthropic اجرا شد. LayerX اعلام کرده که همه این ابزارها در جریان آزمایش، اطلاعات حساس را در اختیار مهاجم قرار دادند.
LayerX اعلام کرده که این آسیبپذیری را در فاصله زمانی اکتبر ۲۰۲۵ تا ژانویه ۲۰۲۶ به هر شش شرکت توسعهدهنده گزارش داده، اما واکنش آنها چندان امیدوارکننده نبوده است. شرکت OpenAI این مشکل را در ChatGPT Atlas برطرف کرد. شرکت Anthropic نیز تلاش نمود برای افزونه Claude یک اصلاحیه منتشر کند، اما LayerX میگوید این وصله امنیتی موفق عمل نکرد. همچنین گزارش شده که شرکت Perplexity بدون ارائه راهحلی، پرونده این آسیبپذیری را بسته است.
