گسترش جایزه «گوگل» برای کشف باگ‌های حمله با هوش مصنوعی

«جهان‌صنعت»- با توجه به نگرانی‌های موجود درباره هوش مصنوعی مولد، گوگل اعلام کرد برنامه پاداش آسیب‌پذیری (VRP) خود را با تمرکز بر حملات خاص هوش مصنوعی و فرصت‌های سوء‌استفاده از فناوری گسترش می‌دهد. به طور دقیق‌تر این شرکت دستورالعمل خود را به‌روزرسانی و در آن کشفیات واجد شرایط دریافت جایزه را اعلام کرد. به عنوان مثال، کشف استخراج داده‌های آموزشی که اطلاعات خصوصی و حساس را فاش می‌کند در محدوده مورد نظر قرار می‌گیرد، اما اگر کشف مذکور فقط داده‌های عمومی و غیر‌حساس را نشان دهد، واجد شرایط دریافت جایزه نخواهد بود. سال گذشته، گوگل ۱۲ میلیون دلار برای کشف باگ به محققان امنیتی داد. این شرکت امنیتی توضیح داده هوش مصنوعی با چالش‌های امنیتی متفاوتی در مقایسه با دیگر فناوری‌ها مانند دستکاری مدل و تبعیض ناعادلانه روبه‌رو است. به همین دلیل نیازمند دستورالعملی است که این چالش‌ها را هدف بگیرد. در بیانیه شرکت آمده است: معتقدیم گسترش برنامه اعطای جایزه درباره ایمنی هوش مصنوعی و امنیت به محققان انگیزه می‌دهد و چالش‌های احتمالی را مشخص می‌کند که در نهایت هوش مصنوعی را برای همه ایمن می‌کند. شرکت‌های سازنده هوش مصنوعی از جمله گوگل در اوایل سال جاری میلادی در کاخ سفید حضور یافتند و به گسترش اکتشافات و آگاهی از ضعف‌های هوش مصنوعی متعهد شدند.