هوش مصنوعی «متا» دچار انحراف اخلاقی است

ایسنا- گزارش‌ها حاکی از آن است که چت‌بات‌های هوش مصنوعی شرکت «متا» اقدام به برقراری مکالمات غیراخلاقی با افراد زیر سن قانونی می‌کنند. تحقیقات وال‌استریت ژورنال نشان داده است که همراهان مجازی شرکت متا می‌توانند برخی دستورالعمل‌های اخلاقی جدی را نادیده بگیرند. در مکالمات آزمایشی انجام شده توسط این پایگاه، هم چت‌بات رسمی شرکت «متا» و هم چت‌بات‌های ایجاد شده توسط کاربران، به سمت گفت‌وگوهای صریح جنسی می‌روند. طبق این گزارش، حتی اگر به هوش مصنوعی گفته می‌شد که کاربران زیر سن قانونی هستند یا اگر چت‌بات‌ها برای کودکان برنامه‌ریزی شده بودند، این مکالمات غیراخلاقی ادامه می‌یافت. بدتر از آن اینکه این تحقیقات نشان داد چت‌بات‌هایی که از صدای افراد مشهوری مانند «کریستن بل»، بازیگر مشهور‌ هالیوود و «جان سینا» کشتی‌کج‌کار و بازیگر‌ هالیوود استفاده کرده‌اند نیز در این مکالمات غیراخلاقی شرکت می‌کنند. به عنوان مثال، وال‌استریت ژورنال گزارش داد که یک چت‌بات هوش مصنوعی «متا» با صدای «جان‌سینا» با یک کاربر که برچسب ۱۴سالگی دارد، مکالمات خلاف اخلاقی برقرار کرده است. گزارش شده که حتی این چت‌بات‌ها اذعان کرده‌اند در برخی موارد رفتارهایی غیرقانونی را توصیف می‌کنند. شرکت «متا» در واکنش به این گزارش در یک بیانیه، این گزارش را متهم به «دستکاری و غیرقابل‌ نمایش در مورد نحوه تعامل بیشتر کاربران با همراهان هوش مصنوعی» کرد. متا در پاسخ به وال‌استریت ژورنال نوشت: با این وجود اکنون اقدامات بیشتری انجام داده‌ایم تا اطمینان حاصل کنیم سایر افرادی که می‌خواهند محصولات ما را دستکاری کنند، کار سخت‌تری داشته باشند. دنیای چت‌بات‌های هوش مصنوعی در چند سال اخیر به سرعت رشد کرده و رقابت بیشتری از سوی شرکت‌هایی مانند اوپن‌ای‌آی و آنتروپیک صورت گرفته است. گزارش وال‌استریت ژورنال ادعا می‌کند که «مارک زاکربرگ»، مدیرعامل «متا» می‌خواهد نرده‌های اخلاقی را برای تجربه‌ای جذاب‌تر با چت‌بات‌های این شرکت و رقابتی ماندن مستقر کند. با این حال، سخنگوی «متا» در پاسخ به وال‌استریت ژورنال این موضوع را رد کرد که این شرکت افزودن پادمان‌ها را نادیده گرفته است. گفتنی است این گزارش همچنین ادعا می‌کند که کارکنان «متا» از این مسائل آگاه بوده و نگرانی‌های خود از این مساله را درون این شرکت مطرح کرده‌اند.