با آپدیت اخیر «ChatGPT» مرتکب خطا شدیم

«جهان‌صنعت»- خالق ChatGPT پس از بازخورد کاربران از رفتار عجیب این چت‌بات، اعتراف کرد که مرتکب خطا شده است.. OpenAI در بیانیه‌ای اعلام کرد تلاش‌هایش برای «بهبود استفاده از بازخورد کاربران، حافظه و داده‌های به‌روزتر» احتمالا باعث شده «تعادل در برابر تملق‌گویی به‌هم بخورد.» در هفته‌های اخیر، کاربران متوجه شده بودند که ChatGPT تقریبا در همه موارد با آنها موافقت می‌کند؛ حتی در سناریوهای نسبتا خطرناک. سم آلتمن، مدیرعامل OpenAI، بعدها تایید کرد که آپدیت جدید «GPT-4o» باعث شده تا چت‌بات «بیش ‌از حد چاپلوس و آزاردهنده» شود.OpenAI در آپدیت اخیرش شروع به استفاده از اطلاعات دکمه‌های لایک و دیسلایک در ChatGPT به عنوان «سیگنال پاداش اضافی» کرده بود. خالق ChatGPT می‌گوید: «این تغییر ممکن است اثر سیگنال پاداش اولیه ما را که مانع رفتار چاپلوسانه می‌شد، تضعیف کرده باشد.» به گفته این شرکت، بازخورد کاربران «گاهی پاسخ‌های موافق‌تر را ترجیح می‌دهد» و همین عامل می‌تواند به تشدید این رفتار منجر شده باشد. اشاره شده که ویژگی حافظه چت‌بات می‌تواند تملق‌گویی را تقویت کند. این شرکت اذعان کرد که در فرآیند ارزیابی، هشدارهای کیفی درباره رفتار غیرعادی مدل را نادیده گرفت و ابزارهای سنجش موجود قادر به شناسایی رفتار چاپلوسانه نبوده‌اند. خالق ChatGPT می‌گوید که از این‌ پس مسائل رفتاری را معیاری برای توقف احتمالی انتشار به‌روزرسانی‌ها قرار می‌دهد و فاز آزمایشی داوطلبانه‌ای برای دریافت بازخورد مستقیم کاربران پیش از انتشار عمومی راه‌اندازی خواهد شد. همچنین، اطلاع‌رسانی درباره تغییرات ChatGPT دقیق‌تر انجام می‌شود.