عصر حملات سایبری جدید با ایجنت‌های هوش مصنوعی در راه است

«جهان‌صنعت»- کارشناسان امنیت سایبری هشدار می‌دهند که عامل‌های هوش مصنوعی
(AI agents) در آستانه تبدیل‌ شدن به ابزاری قدرتمند برای حملات وسیع سایبری هستند. این عامل‌ها توانایی انجام وظایف پیچیده‌ای همچون زمان‌بندی جلسات یا خرید آنلاین را دارند اما همین توانایی‌ها می‌تواند در خدمت مهاجمان سایبری قرار بگیرد. هوش مصنوعی که توانایی انجام کارهایی مانند برنامه‌ریزی، استدلال و اجرای وظایف پیچیده را دارد، به‌زودی به تهدیدی بزرگ در فضای امنیت سایبری تبدیل خواهد شد. پژوهشگران هشدار داده‌اند که این عامل‌ها به ‌سرعت اهداف آسیب‌پذیر را شناسایی، سیستم‌ها را هک و داده‌های ارزشمند را سرقت می‌کنند. تا امروز مجرمان سایبری از این عامل‌ها استفاده گسترده‌ای نکرده‌اند اما مطالعاتی مانند بررسی شرکت Anthropic نشان داده‌اند عامل هوش مصنوعی می‌تواند حملاتی را شبیه‌سازی و اجرا کند. به گفته‌ کارشناسان، استفاده از این فناوری‌ها در دنیای واقعی دیر یا زود اتفاق می‌افتد. «مارک استاکلی» از شرکت «Malwarebytes» می‌گوید: «فکر می‌کنم نهایتا در جهانی زندگی خواهیم کرد که اکثر حملات سایبری را عامل‌های هوش مصنوعی انجام می‌دهند.» در پاسخ به این تهدید، سازمان
«Palisade Research» سیستمی به نام «LLM Agent Honeypot» ایجاد کرده است؛ سرورهایی آسیب‌پذیر که در نقش طعمه‌ای برای شناسایی عامل‌های هکر طراحی شده‌اند. هدف این پروژه شناسایی حملات در مراحل اولیه و آماده‌سازی راهکارهای دفاعی است. این عامل‌ها در مقایسه با ربات‌های ساده کنونی بسیار پیشرفته‌ترند. آنها می‌توانند راه‌های نفوذ را هوشمند بررسی کنند و شناسایی‌ نشوند. از اکتبر 2024
(مهر تا آبان 1403) و آغاز به ‌کار Honeypot، بیش از 11‌میلیون تلاش برای ورود به این سیستم ثبت شده که از ‌این ‌میان، هشت مورد به احتمال زیاد عامل‌های هوش مصنوعی بوده‌اند و عامل دو مورد آنها به‌طور قطعی هوش مصنوعی بوده است. کارشناسان هشدار می‌دهند که حمله با ایجنت‌های هوش مصنوعی می‌تواند به ‌سرعت به مرحله‌ای برسد که بدون دخالت انسان، از انتخاب هدف تا اجرای حمله را خودکار انجام دهند. این قابلیت، مقیاس‌پذیری حملات مانند باج‌افزار را به‌ شدت افزایش می‌دهد. در همین حال، پروژه‌های تحقیقاتی مانند آنچه دانشگاه ایلینوی انجام داده‌ است، نشان می‌دهد که عامل‌های هوش مصنوعی بدون دانش قبلی می‌توانند تا 13‌درصد آسیب‌پذیری‌ها را با موفقیت کشف و بهره‌برداری کنند. این عدد با ارائه توضیحاتی مختصر به 25‌درصد افزایش می‌یابد.