[
گزارش اخیر شرکت KELA نشان می‌دهد مدل هوش مصنوعی DeepSeek R1 چند نقص امنیتی دارد که نباید نادیده گرفته شوند.
زمانی که ChatGPT برای اولین بار معرفی شد، به‌سرعت به یک پدیده جهانی تبدیل شد. شرکت‌هایی مثل گوگل مدت‌ها روی پروژه‌های هوش مصنوعی خود تبلیغ کرده بودند؛ اما این ChatGPT بود که ناگهان به مرکز توجه تبدیل شد. اکنون، DeepSeek که محصول جدید چین است، در مرکز توجه قرار گرفته؛ اما به گزارش تکراتو و به نقل از androidheadlines، نسخه R1 این مدل هوش مصنوعی دارای نقص‌های امنیتی است که باید به آنها توجه کرد.
نقص‌های امنیتی در مدل هوش مصنوعی DeepSeek R1
بر اساس گزارش اخیر شرکت KELA، مدل DeepSeek R1 دارای نقص‌های امنیتی است که نباید از آنها غافل شد. تیم امنیتی این شرکت که به عنوان AI Red Team شناخته می‌شود، توانست در سناریوهای مختلف این مدل را هک کند. این عملیات منجر به بروز آسیب‌پذیری‌هایی شد که امکان حملات مخرب، توسعه باج‌افزار و حتی تولید محتوای حساس جعلی را فراهم کرد.
این تیم توانست از طریق روشی به نام Evil Jailbreak، امنیت مدل DeepSeek R1 را دور بزند. این روش که چند سال پیش معرفی شد، به کاربران اجازه می‌داد یک «شخصیت شرور» به مدل‌های هوش مصنوعی مانند ChatGPT اضافه کنند و مکانیزم‌های امنیتی را دور بزنند.
این مشکل بعدها در نسخه‌های ChatGPT-4 و ChatGPT-4o رفع شد، اما DeepSeek R1 همچنان به این روش آسیب‌پذیر است. محققان KELA این آسیب‌پذیری را با درخواست دستورالعمل‌هایی برای ساخت مواد منفجره‌ای که در فرودگاه قابل شناسایی نباشد، آزمایش کردند. حتی اطلاعات حساسی درباره کارکنان OpenAI تولید شد که شامل جزئیاتی مثل حقوق، موقعیت شغلی، ارزیابی‌های عملکرد، شماره تلفن و موارد دیگر بود.
هنوز مشخص نیست این اطلاعات تا چه حد دقیق هستند؛ اما در هر صورت، این موضوع بسیار نگران‌کننده است. اگر این داده‌ها واقعی باشند، نقض حریم خصوصی شدیدی رخ داده است. اگر هم این اطلاعات نادرست باشند، توانایی تولید اطلاعات جعلی به همان اندازه خطرناک است.
آینده‌ای محبوب اما نگران‌کننده
محبوبیت DeepSeek غیرقابل انکار است. قابلیت‌های این هوش مصنوعی با مدل‌های پرطرفداری مثل ChatGPT قابل مقایسه است، اما به نظر می‌رسد گاهی بیش از حد هوشمند عمل می‌کند.
در حال حاضر، بسیاری از شرکت‌ها روی مدل‌های هوش مصنوعی کار می‌کنند. از جمله شرکت‌های بزرگی مثل متا، گوگل، اپل، مایکروسافت، آمازون و سامسونگ. با این حال، با وجود منابع عظیم این غول‌های فناوری، برخی از شرکت‌های کمتر شناخته‌شده توانسته‌اند توجه بیشتری جلب کنند.
همان‌طور که ChatGPT از OpenAI به طور ناگهانی ظاهر شد، اکنون DeepSeek نیز موفقیت و توجه مشابهی را تجربه می‌کند. این برنامه حتی توانسته جایگاه ChatGPT را در فروشگاه اپ استور بگیرد. ورود ناگهانی و تاثیرگذار آن باعث شد ارزش سهام شرکت‌هایی مثل NVIDIA کاهش پیدا کند.
عامل اصلی موفقیت DeepSeek
موفقیت DeepSeek به روش خاص این شرکت در استفاده از سخت‌افزارهای قدیمی برای آموزش مدل‌های خود بازمی‌گردد. این استراتژی، افسانه‌ی نیاز به سخت‌افزارهای گران‌قیمت و پیشرفته برای آموزش مدل‌های هوش مصنوعی را زیر سوال برد. از آنجا که انویدیا یکی از بزرگ‌ترین تامین‌کنندگان این سخت‌افزارهاست، این موضوع باعث شد ارزش سهام این شرکت افت کند.
نتیجه‌گیری
DeepSeek R1 به دلیل قابلیت‌ها و محبوبیتش تاثیر زیادی بر صنعت هوش مصنوعی گذاشته است. اما نقص‌های امنیتی آن زنگ خطری برای کاربران و توسعه‌دهندگان است. اگرچه DeepSeek نشان‌دهنده پیشرفت چشمگیر در استفاده بهینه از منابع است، ولی آسیب‌پذیری‌های امنیتی آن مسائلی را به همراه دارد که نمی‌توان آنها را نادیده گرفت.
منبع ]
