هوش مصنوعی و امنیت سایبری؛ رقابتی نابرابر در دنیای امروز
هوش مصنوعی در حال حاضر به یکی از اصلی‌ترین عوامل تغییردهنده در کار توسعه‌دهندگان تبدیل شده است. در حالی که بهترین ابزارهای هوش مصنوعی امکان توسعه سریع‌تر برنامه‌ها و کشف ناهنجاری‌ها را فراهم می‌کنند، از سوی دیگر به حملات سایبری سریع‌تر و پیچیده‌تر نیز دامن می‌زنند. تازه‌ترین گزارش‌ها نشان می‌دهند که هیچ بخشی در برابر این موج مصون نیست. در حالی که سازمان‌ها برای ارائه برنامه‌ها با سرعتی بی‌سابقه در رقابت هستند، ظهور ابزارهای رایگان هوش مصنوعی با قابلیت‌های پیشرفته، کار را برای مهاجمان سایبری آسان‌تر کرده است تا برنامه‌ها را در مقیاسی نگران‌کننده به راحتی مهندسی معکوس، تحلیل و از آن‌ها سوءاستفاده کنند.
گارتنر پیش‌بینی می‌کند که تا سال ۲۰۲۸، ۹۰ درصد از مهندسان نرم‌افزار سازمانی از دستیارهای کدنویسی هوش مصنوعی برای متحول کردن توسعه نرم‌افزار استفاده خواهند کرد. این ابزارها وعده افزایش بهره‌وری با سرعت نور و توانایی خودکارسازی کارهای تکراری و خسته‌کننده را به هر توسعه‌دهنده‌ای می‌دهند.
با این حال، با وجود سرمایه‌گذاری‌های عظیم در هوش مصنوعی، امنیت همچنان به دلیل این تصور که اقدامات حفاظتی سرعت نوآوری و عملکرد برنامه‌ها را کاهش می‌دهند، با مقاومت روبرو است. واقعیت این است که هوش مصنوعی همین حالا هم گستره تهدیدات را، به خصوص در حوزه برنامه‌های کاربردی مشتری، که هدف اصلی حملات سایبری هستند، افزایش داده است.
افزایش تهدیدات اپلیکیشن‌ها
برنامه‌های نرم‌افزاری، به ویژه برنامه‌های موبایل، که مدت‌ها خارج از کنترل یک مدیر ارشد امنیت اطلاعات (CISO) در نظر گرفته می‌شدند، اکنون به نقطه ورود محبوب مهاجمان تبدیل شده‌اند. چرا؟ زیرا کاربران معمولاً کمتر هوشیار هستند و خود برنامه‌ها در محیطی خارج از شبکه سازمانی «زندگی می‌کنند». دیگر یک CISO نمی‌تواند تهدیدات علیه این برنامه‌ها را نادیده بگیرد.
دنیای پر از اپلیکیشن
مصرف‌کنندگان اشتهای سیری‌ناپذیری برای برنامه‌ها دارند و از آن‌ها به عنوان بخشی از کارهای روزمره خود استفاده می‌کنند. اپ استور اپل امروز نزدیک به ۲ میلیون برنامه و گوگل پلی استور ۲.۸۷ میلیون برنامه دارد. طبق داده‌های اخیر، یک مصرف‌کننده معمولی روزانه ۱۰ برنامه موبایل و ماهانه ۳۰ برنامه را استفاده می‌کند. جالب اینکه، ۲۱٪ از نسل هزاره (Millennials) روزانه ۵۰ بار یا بیشتر یک برنامه را باز می‌کنند و نزدیک به ۵۰٪ از مردم روزانه بیش از ۱۱ بار یک برنامه را باز می‌کنند.
در حالی که سازمان‌ها برای ارائه برنامه‌ها با سرعتی بی‌سابقه در رقابت هستند، ظهور ابزارهای رایگان هوش مصنوعی با قابلیت‌های پیچیده، کار را برای هکرها آسان‌تر کرده است تا در مقیاسی نگران‌کننده، به راحتی مهندسی معکوس و تحلیل کنند. در واقع، بر اساس گزارش سال ۲۰۲۵ Digital.ai درباره تهدیدات امنیت برنامه‌ها، اکثریت (۸۳٪) برنامه‌ها در ژانویه ۲۰۲۵ مورد حمله قرار گرفته‌اند و نرخ حملات در تمام صنایع به شدت افزایش یافته است.
ده‌ها برنامه بر روی میلیاردها گوشی هوشمند در سراسر جهان نصب شده‌اند. و هر برنامه در محیط آزاد، یک مسیر بالقوه برای ورود تهدید است. چرا؟ زیرا برنامه‌ها حاوی نمونه‌هایی کاربردی از چگونگی نفوذ به سیستم‌های پشتیبان هستند. میلیاردها دلاری که هر سال صرف موانع امنیتی پیرامونی می‌شود، در دنیای برنامه‌های موبایل بی‌فایده است.
هر برنامه‌ای که ساخته و به مشتریان عرضه می‌شود، سطح تهدید یک کسب‌وکار را افزایش می‌دهد. توسعه چندین برنامه موبایل به معنای ریسک بیشتر است و حتی رها کردن یک برنامه بدون محافظت، یک گزینه نیست. ابزارهای هوش مصنوعی کار را برای حتی مهاجمان آماتور هم بسیار آسان کرده تا کدهای مهندسی معکوس شده را تحلیل کنند، بدافزار بسازند و کارهای دیگر انجام دهند. اگر مهاجمان به همان ابزارهای قدرتمند افزایش بهره‌وری دسترسی دارند، چرا از آن‌ها برای بهتر و سریع‌تر شدن در کار خود استفاده نکنند؟
سمت تاریک هوش مصنوعی در تولید کد
تحقیقات جدیدی از گزارش اطلاعاتی تهدیدات Cato Networks نشان داد که چگونه مهاجمان می‌توانند از یک تکنیک دور زدن محدودیت‌های مدل زبان بزرگ (LLM) برای ساخت بدافزار سرقت اطلاعات استفاده کنند. یک محقق اطلاعاتی تهدیدات که مطلقاً هیچ تجربه کدنویسی بدافزاری نداشت، توانست چندین مدل زبان بزرگ را دور بزند و از هوش مصنوعی بخواهد یک بدافزار سرقت رمز عبور کاملاً کاربردی و بسیار خطرناک را برای به خطر انداختن اطلاعات حساس از مرورگر گوگل کروم بسازد.
نتیجه نهایی، کد مخربی بود که با موفقیت اطلاعات ورود را از مدیریت رمز عبور گوگل کروم استخراج کرد. شرکت‌هایی که LLMها را می‌سازند سعی در ایجاد موانع امنیتی دارند، اما واضح است که هوش مصنوعی مولد می‌تواند ساخت بدافزار را بسیار آسان‌تر کند. بدافزارهای تولیدشده توسط هوش مصنوعی، از جمله بدافزارهای چندشکلی، اساساً شناسایی مبتنی بر امضا را تقریباً منسوخ می‌کنند. سازمان‌ها باید آماده باشند تا از خود در برابر صدها، اگر نگوییم هزاران، گونه بدافزار محافظت کنند.
محافظت از اپلیکیشن‌ها در محیط عملیاتی
سازمان‌ها می‌توانند با جاسازی مستقیم امنیت در برنامه‌ها در مرحله ساخت، محافظت خود را افزایش دهند: این امر شامل سرمایه‌گذاری در امنیت تعبیه‌شده است که با کنترل‌های OWASP مانند RASP (محافظت خودکار از برنامه در زمان اجرا)، رمزنگاری پیشرفته وایت‌باکس و اطلاعات تهدید جزئی هماهنگ شده است.
تحقیقات IDC نشان می‌دهد که سازمان‌هایی که از برنامه‌های موبایل محافظت می‌کنند، اغلب راه‌حلی برای آزمایش کارآمد و مؤثر آن‌ها ندارند. اجرای آزمایش‌ها بر روی چندین نسخه از یک برنامه، روند عرضه را کند می‌کند و خطر ارائه نسخه اشتباهی از یک برنامه به بازار را افزایش می‌دهد.
با ادغام آزمایش مداوم و امنیت برنامه، تیم‌های نرم‌افزاری توانایی متحول‌کننده‌ای برای آزمایش کامل برنامه‌های محافظت شده به دست می‌آورند. این کار با حذف آزمایش‌های دستی برای برنامه‌های محافظت شده، سرعت و گستره پوشش آزمایش را افزایش می‌دهد. این امر به حل یک مشکل بزرگ برای تیم‌های نرم‌افزاری در هنگام آزمایش و محافظت از برنامه‌ها در مقیاس بزرگ کمک می‌کند.
تغییر دیدگاه از مدافع به مهاجم
امنیت برنامه‌های سازمانی مدرن، یک مزیت اختیاری نیست. در حالی که مدیران امنیتی به کار بیشتری نیاز ندارند، اما مسیرهایی که قبلاً خارج از کنترل آن‌ها بوده‌اند، اکنون شکاف‌هایی را در آنچه کنترل می‌کنند ایجاد کرده‌اند.
خبر خوب این است که اکنون محافظت‌های قوی و پایه وجود دارند که نیاز به امنیت را با نیاز به سرعت نوآوری و عملکرد متعادل می‌کنند. این ویژگی‌ها می‌توانند فوراً به تقریباً هر برنامه‌ای که در بازار وجود دارد اضافه شوند و مجدداً به اپ استور بازگردند. این ابزارها امکانات زیر را فراهم می‌کنند:
قابلیت محافظت با قرار دادن امنیت در فرآیندهای DevOps بدون کند کردن توسعه‌دهندگان، با اضافه کردن امنیت پس از کدنویسی و پیش از آزمایش.قابلیت نظارت از طریق قابلیت‌های مانیتورینگ تهدید و گزارش‌دهی برای برنامه‌ها در محیط عملیاتی.قابلیت واکنش با ساخت برنامه‌ها با محافظت خودکار از اپلیکیشن در زمان اجرا (RASP).
هوش مصنوعی تولید کد را تسریع می‌بخشد، برنامه‌های بیشتری تولید می‌کند و امنیت برنامه را از نو شکل می‌دهد. وقت آن است که دیگر مانند یک «شوالیه سفید» فکر نکنیم و مانند یک «هکر» بیندیشیم.
