تغییر مخفیانه الگوریتم، «فیس‌بوک» را خشن‌تر کرد

براساس گزارشی جدید، فیس‌بوک در سال ۲۰۱۸ الگوریتم‌های خود را تغییر داد تا به محتوای بازنشر شده اولویت دهد اما این امر به گسترش اخبار جعلی و محتوای تفرقه‌انگیز منجر شد. طبق گزارش وال‌استریت‌ژورنال، فیس‌بوک در سال ۲۰۱۸ میلادی الگوریتم‌های خود را طوری تغییر داد تا محتوای بازنشر شده اولویت یابد اما این امر به گسترش بی‌حد و حصر اخبار جعلی، محتوای نفرت‌پراکنانه و خشونت‌آمیز در پلتفرم منجر شد.
مارک زاکربرگ مدیر ارشد اجرایی فیس‌بوک اعلام کرده بود این تغییر برای قدرتمندتر کردن رابطه بین افراد (به خصوص بین خانواده و دوستان) و ارتقا سلامت آنها انجام شده است اما اسناد نشان می‌دهد آن‌چه در واقع اتفاق افتاد، خلاف این امر بود و فیس‌بوک به فضایی خشن‌تر تبدیل شد. زیرا الگوریتم‌های هوش مصنوعی به محتوای خشن اولویت می‌دادند. محققان این شرکت فناوری متوجه شدند ناشران اخبار و احزاب سیاسی به طور عمدی محتوای منفی یا تفرقه‌انگیز را منتشر می‌کنند زیرا با لایک و اشتراک‌گذاری زیادی روبه‌رو می‌شد و در نتیجه بین کاربران به عنوان اخبار واقعی به اشتراک گذاشته می‌شد.
طبق اسناد موجود در آوریل ۲۰۲۰ درباره این چالش به زاکربرگ هشدار داده شد اما الگوریتم‌های مذکور بدون هیچ تغییری در پلتفرم حفظ شدند. تشویق به برخوردهای معنادار اجتماعی، دلیل تغییر الگوریتم‌های فیس‌بوک در سال ۲۰۱۸ میلادی بود. زیرا کارشناسان حاضر در شرکت نگران کاهش کامنت و اشتراک‌گذاری پست‌ها توسط کاربران بودند. این موارد برای فیس‌بوک اهمیت زیادی دارد زیرا بسیاری از مدیران شرکت آن را کلیدی برای بررسی سلامت پلتفرم می‌دانند. اگر میزان کامنت و اشتراک‌گذاری پست‌ها کاهش یابد، ممکن است کاربران به تدریج استفاده از آن را متوقف کنند.
در سال ۲۰۱۷ میلادی میزان لایک و بازنشر پست‌ها در سراسر سال کاهش یافت اما در آگوست ۲۰۱۸ میلادی و پس از تغییراتی در الگوریتم روند نزولی مذکور متوقف شد و دوباره فعالیت روزانه کاربران تا حد قابل‌توجهی ارتقا یافت. اما مشکل آنجا بود که تحقیقی در میان کاربران نشان داد بسیاری از آنها معتقدند کیفیت محتوای پلتفرم کاهش یافته است. علاوه بر آن در لهستان این تغییرات سبب شد گفت‌وگوی سیاسی در پلتفرم مغرضانه‌تر شود. این امر روی ناشران اخبار آنلاین نیز تاثیر گذاشت. جونا پرتی مدیر ارشد اجرایی بازفید در ایمیلی به مقامات فیس‌بوک هشدار داد، بیشتر محتوای تفرقه انگیزانه‌ای که ناشران در این پلتفرم منتشر می‌کنند در بازفید وایرال می‌شود. طبق یک یادداشت داخلی مربوط به آوریل ۲۰۲۰ میلادی، پس از افزایش نگرانی‌ها درباره الگوریتم، چند اقدام جایگزین پیشنهادی به زاکربرگ ارائه شد تا با گسترش اخبار جعلی و تفرقه‌انگیز در پلتفرم مقابله کند. یکی از این پیشنهادات حذف الگوریتم ترویج محتوای بازنشرشده توسط زنجیره‌ای طولانی از کاربران بود. اما زاکربرگ به این ایده توجهی نشان نداد. اما ماه جولای ۲۰۲۱ و ۱۸ ماه پس از آن فیس‌بوک اعلام کرد آزمایش‌ها برای محدودسازی این قابلیت را وسیع‌تر می‌کند.