اکثریت غایب

گروه فناوری- در راستای توسعه و نظارت بر کاربردهای هوش‌مصنوعی، سازمان ملل متحد اخیرا دفتر جدیدی را با هدف تمرکز بر جنبه‌های نظارتی و اخلاقی هوش‌مصنوعی در سطح جهانی تاسیس کرده است. این اقدام به دلیل رشد فزاینده فناوری‌های مبتنی بر هوش‌مصنوعی و نگرانی‌های مربوط به تاثیرات اجتماعی، امنیتی و حقوق بشری این فناوری‌ها‌ صورت گرفته است. دفتر هوش‌مصنوعی سازمان ملل قرار است به عنوان نهادی بین‌المللی، زمینه‌ای برای همکاری کشورها در تدوین مقررات جهانی پیرامون هوش‌مصنوعی ایجاد کند و چارچوب‌هایی برای توسعه مسوولانه این فناوری را ارائه دهد. این دفتر علاوه بر ایجاد هماهنگی‌های جهانی، به مسئله اخلاقی و قانونی توسعه و استفاده از هوش‌مصنوعی نیز توجه ویژه‌ای خواهد داشت. با این حال، نکته قابل توجه آن است که تا به حال ۱۱۸ کشور در این نهاد جدید غایب هستند. غیبت این تعداد کشور از مشارکت در این برنامه جهانی، چالش‌هایی در دستیابی به یک چارچوب بین‌المللی همه‌جانبه و همگانی به وجود آورده است. دلیل این غیبت‌ها می‌تواند ناشی از عدم آمادگی تکنولوژیکی این کشورها، نبود زیرساخت‌های مناسب، یا اختلاف‌نظر بر سر نقش و اهداف این دفتر باشد.
سازمان ملل متحد برای پیشبرد این هدف راهبردی، سال گذشته یک هیات مشورتی ۳۹‌نفره برای بررسی مسائل مربوط به حکمرانی بین‌المللی هوش‌مصنوعی تشکیل داد. این هیات مشورتی طی روزهای اخیر گزارش نهایی خود در خصوص حکمرانی جهانی هوش‌مصنوعی را به همراه توصیه‌هایی برای رسیدگی به خطرات مرتبط با این فناوری و شکاف‌های موجود در حکمرانی آن با عنوان «حکمرانی هوش‌مصنوعی برای بشریت» ارائه کرد.
نیاز به حکمرانی جهانی هوش‌مصنوعی
در دهه‌های اخیر، هوش‌مصنوعی به عنوان یک فناوری تحول‌ساز توانسته است در حوزه‌های مختلف علمی، اقتصادی، اجتماعی و حتی سیاسی نقشی پررنگ ایفا کند. با این حال، ویژگی‌های منحصربه‌فرد این فناوری، از جمله قدرت و سرعت آن در پردازش داده‌ها و تصمیم‌گیری‌های خودکار، ضرورت تدوین چارچوب‌های جامع و منسجم حکمرانی جهانی را برجسته ساخته است. براساس گزارش «حکمرانی هوش‌مصنوعی برای بشریت»، دلایل مختلفی برای نیاز به حکمرانی جهانی هوش‌مصنوعی مطرح شده است که در ادامه برخی از این دلایل مورد بررسی قرار می‌گیرند.
طبیعت فرامرزی و تاثیر جهانی هوش‌مصنوعی
هوش‌مصنوعی به دلیل ساختار و کاربردهای چندمنظوره خود، فراتر از مرزهای ملی عمل می‌کند. به طور کلی، داده‌ها و منابع مورد نیاز برای توسعه و آموزش سیستم‌های هوش‌مصنوعی از سراسر جهان جمع‌آوری می‌شوند. همچنین هوش‌مصنوعی به شکلی فزاینده به عنوان یک فناوری عمومی در بسیاری از کشورها و صنایع مورد استفاده قرار می‌گیرد. این طبیعت جهانی باعث می‌شود که تصمیمات مرتبط با توسعه، استقرار و استفاده از این فناوری، اثرات گسترده‌ای فراتر از مرزهای ملی داشته باشند. از همین‌روی و براساس دیدگاه کارشناسان سازمان ملل، حکمرانی ملی و منطقه‌ای به تنهایی قادر به پاسخگویی تمام چالش‌های موجود نیست و به یک چارچوب حکمرانی جهانی نیاز است که به‌طور جامع به این موضوع بپردازد.
تمرکز قدرت و ثروت در حوزه هوش‌مصنوعی
سرعت پیشرفت هوش‌مصنوعی باعث شده است که مناطق خاصی از جهان، به‌ویژه برخی کشورها و شرکت‌های بزرگ، کنترل بیشتری بر توسعه و استفاده از این فناوری داشته باشند. متخصصان بر این عقیده‌اند که این تمرکز قدرت و ثروت می‌تواند باعث افزایش نابرابری‌ها و شکاف‌های دیجیتال شود. براساس متن گزارش، اگر حکمرانی مناسبی بر هوش‌مصنوعی وجود نداشته باشد، تنها تعداد محدودی از کشورها، شرکت‌ها و افراد از منافع آن بهره‌مند می‌شوند و سایرین از این فناوری بی‌بهره می‌مانند. از همین‌روی، نیاز به حکمرانی جهانی احساس می‌شود تا از تقسیم عادلانه منافع هوش‌مصنوعی اطمینان حاصل شود و از تبدیل شدن آن به ابزاری برای افزایش نابرابری ممانعت به عمل آید.
فقدان کنترل و پیش‌بینی‌پذیری کامل بر خروجی‌های هوش‌مصنوعی
یکی از ویژگی‌های بارز هوش‌مصنوعی، عدم امکان درک و پیش‌بینی همه خروجی‌های آن به صورت دقیق است. پیچیدگی و خودکار بودن برخی سیستم‌های هوش‌مصنوعی باعث می‌شود که حتی توسعه‌دهندگان آن نیز قادر به کنترل کامل و پیش‌بینی آینده این سیستم‌ها نباشند. کارشناسان بر این باورند که این وضعیت خطرات زیادی به همراه دارد، به‌ویژه در شرایطی که هوش‌مصنوعی در حوزه‌های حساس مانند سلامت عمومی، امنیت ملی یا سیستم‌های مالی مورد استفاده قرار گیرد بنابراین، چارچوب حکمرانی جهانی باید تضمین کند که توسعه و استفاده از سیستم‌های هوش‌مصنوعی تحت نظارت و کنترل دقیق هستند و مسوولیت‌پذیری در این حوزه به صورت شفاف تعیین شده است.
پیامدهای ژئوپلیتیکی و ژئواقتصادی
هوش‌مصنوعی نه تنها بر جنبه‌های فناورانه و اقتصادی زندگی ما تاثیرگذار است بلکه پیامدهای ژئوپلیتیکی و ژئواقتصادی گسترده‌ای نیز به همراه دارد. توسعه این فناوری قدرت و ثروت را به صورت جهانی متمرکز کرده و باعث تغییر موازنه‌های قدرت بین‌المللی شده است. با عنایت به بروز این پدیده، برای جلوگیری از تشدید رقابت‌های فناورانه و ایجاد نوعی «مسابقه تسلیحاتی هوش‌مصنوعی»، تدوین چارچوب حکمرانی جهانی ضروری به نظر می‌رسد. این چارچوب باید اطمینان حاصل کند که هوش‌مصنوعی به عنوان ابزاری برای ثبات و همکاری بین‌المللی به کار گرفته می‌شود و عاملی برای تشدید رقابت‌های اقتصادی و سیاسی نیست.
خطرات ناشی از ریسک‌های هوش‌مصنوعی
همانطور که در گزارش «حکمرانی هوش‌مصنوعی برای بشریت» مطرح شده است، فناوری هوش‌مصنوعی به همراه فرصت‌هایش، ریسک‌ها و خطرات قابل‌توجهی نیز به همراه دارد. از جمله این خطرات می‌توان به مسائل مربوط به بی‌طرفی و تعصبات الگوریتمی، نظارت گسترده، استفاده نادرست از داده‌ها، تشدید نابرابری‌ها و خطرات ناشی از تسلیحات خودکار اشاره کرد. در همین راستا و باتوجه به وجود تهدیدات مذکور، لازم است سیستم حکمرانی جهانی به صورت جامع به مدیریت این چالش‌ها بپردازد و چارچوب‌هایی برای تضمین استفاده ایمن، شفاف و عادلانه از هوش‌مصنوعی تدوین کند. با مرور پنج محور مطرح شده، می‌توان نتیجه گرفت که هوش‌مصنوعی به عنوان یک فناوری پرکاربرد و جهانی، مستلزم یک رویکرد حکمرانی جامع و فراگیر است. کارشناسان بر این عقیده‌اند که حکمرانی ملی یا منطقه‌ای به تنهایی نمی‌تواند پاسخگوی چالش‌های این فناوری باشد و تنها از طریق همکاری‌های بین‌المللی و تدوین چارچوب‌های حکمرانی جهانی می‌توان اطمینان حاصل کرد که هوش‌مصنوعی به شکلی مسوولانه و به نفع همه مردم جهان توسعه یابد.
شکاف‌های حکمرانی جهانی هوش‌مصنوعی
در حالی که هوش‌مصنوعی به سرعت در حال تحول است و کاربردهای آن در زندگی روزمره انسان‌ها هر روز بیش از پیش افزایش می‌یابد، حکمرانی موثر بر این فناوری همچنان با چالش‌های متعددی روبه‌رو است. براساس گزارش «حکمرانی هوش‌مصنوعی برای بشریت»، چندین شکاف و کاستی در حکمرانی جهانی هوش‌مصنوعی وجود دارد که سبب می‌شود این فناوری به صورت کامل و عادلانه تحت مدیریت قرار نگیرد. این شکاف‌ها به سه دسته اصلی تقسیم می‌شوند:
شکاف نمایندگی:یکی از بزرگ‌ترین مشکلات در حکمرانی جهانی هوش‌مصنوعی، عدم مشارکت و نمایندگی کافی از سوی همه کشورها و مناطق جهان است. بسیاری از کشورهای در حال توسعه و مناطق کم‌درآمد، به‌ویژه در جنوب جهانی، از گفت‌وگوهای بین‌المللی و تصمیم‌گیری‌های مرتبط با حکمرانی هوش‌مصنوعی کنار گذاشته شده‌اند. نمودارهای ارائه‌شده در گزارش مذکور نشان می‌دهند که تعداد محدودی از کشورها، به‌ویژه کشورهای صنعتی و پیشرفته، در همه ابتکارات و معاهدات بین‌المللی مربوط به حکمرانی هوش‌مصنوعی مشارکت دارند. در مقابل، بخش بزرگی از جهان، شامل ۱۱۸‌کشور هیچ نماینده‌ای در این گفت‌وگوها ندارند. کارشناسان معتقدند که این وضعیت نه‌تنها باعث نابرابری در تصمیم‌گیری‌ها می‌شود بلکه موجب نادیده گرفته شدن صدای کشورهای در حال توسعه و نیازهای خاص آن‌ها در مباحث حکمرانی هوش‌مصنوعی نیز می‌شود.
شکاف هماهنگی:براساس دیدگاه مطرح شده از سوی هیات مشورتی هوش‌مصنوعی سازمان ملل متحد، علاوه بر مشکل نمایندگی، فقدان هماهنگی میان نهادهای بین‌المللی و مناطق مختلف جهان نیز باعث می‌شود که رویکردی یکپارچه و هماهنگ برای حکمرانی هوش‌مصنوعی شکل نگیرد. در حال حاضر، صدها چارچوب، مجموعه اصول و راهنما توسط دولت‌ها، شرکت‌ها، کنسرسیوم‌ها و سازمان‌های بین‌المللی درباره حکمرانی این فناوری تدوین شده است اما هیچ‌یک از این چارچوب‌ها به تنهایی نمی‌تواند همه مسائل و چالش‌های جهان را پوشش دهد و در نتیجه، حکمرانی جهانی همچنان تکه‌تکه و ناهمگون باقی مانده است. این شکاف‌ها در هماهنگی باعث شده که کشورها و سازمان‌ها نتوانند به‌طور موثر با یکدیگر همکاری کنند و اقدامات هماهنگ برای جلوگیری از بروز رقابت‌های تکنولوژیک، ایجاد استانداردهای مشترک یا مقابله با تهدیدات جهانی مرتبط با هوش‌مصنوعی صورت نگیرند.
شکاف اجرایی: محققان مدعی هستند که حکمرانی هوش‌مصنوعی نه‌تنها به تصمیم‌گیری‌های درست و چارچوب‌های قوی نیاز دارد بلکه باید از مرحله تدوین اصول و قوانین فراتر رفته و به مرحله پیاده‌سازی و اجرا نیز برسد. این در حالی است که در بسیاری از موارد، چارچوب‌ها و توافقات بین‌المللی به دلیل فقدان مکانیسم‌های اجرایی قوی و تعهدات الزام‌آور، در عمل ناکارآمد باقی می‌مانند. براساس گزارش سازمان ملل، برای افزایش تاثیرگذاری حکمرانی جهانی هوش‌مصنوعی، لازم است که کشورها و سازمان‌های بین‌المللی به صورت واقعی و ملموس اقداماتی را برای توسعه ظرفیت‌های محلی، ارتقای دانش فنی و حمایت از کسب‌وکارهای کوچک و متوسط انجام دهند. همچنین ایجاد سازوکارهایی برای پاسخگویی و شفافیت در استفاده از سیستم‌های هوش‌مصنوعی و اجرای اصول حکمرانی برای تحقق اهداف تعیین شده در این راستا، بسیار ضروری و حیاتی است.
بی‌شک نبود نمایندگی جهانی، شکاف هماهنگی و چالش اجرای موثر سیاست‌های اتخاذ شده ذیل حکمرانی هوش‌مصنوعی، پیامدهای جدی برای جامعه جهانی در پی دارد. از جمله این پیامدها می‌توان به ایجاد رقابت‌های ناسالم بین کشورها، گسترش نابرابری‌ها در دسترسی به فناوری‌های نوین و افزایش خطرات امنیتی و اقتصادی اشاره کرد. تداوم این وضعیت همچنین می‌تواند منجر به شکل‌گیری «مسابقه تسلیحاتی هوش‌مصنوعی» میان کشورهای برتر این حوزه شود؛ رقابتی که در آن کشورها به جای همکاری و هماهنگی، تلاش می‌کنند سریع‌تر از دیگران به فناوری‌های پیشرفته دست یابند. متخصصان سازمان ملل در متن این گزارش ادعا می‌کنند که تقویت جامع و فراگیر حکمرانی هوش‌مصنوعی برای پر کردن این شکاف‌ها، ضروری است و همه کشورها و بازیگران جهانی باید در تصمیم‌گیری‌های مربوط به آینده این فناوری مشارکت داشته باشند. از همین‌رو هماهنگی میان نهادهای بین‌المللی و پیاده‌سازی موثر اصول حکمرانی باید به عنوان اولویت‌های اصلی در دستور کار حکمرانی جهانی هوش‌مصنوعی قرار گیرد تا از تبدیل این فناوری به عاملی برای تشدید نابرابری‌ها و تهدیدات امنیتی جلوگیری شود.
تقویت همکاری جهانی
با عنایت به نکات ذکر شده، می‌توان نتیجه گرفت که تقویت همکاری جهانی برای حکمرانی هوش‌مصنوعی امری ضروری محسوب می‌شود زیرا این فناوری مرزهای ملی را پشت سر گذاشته و به یک پدیده جهانی تبدیل شده است. براساس گزارش «حکمرانی هوش‌مصنوعی برای بشریت» اولین گام در این مسیر، ایجاد درک مشترک میان دولت‌ها و سازمان‌ها از فرصت‌ها و خطرات هوش‌مصنوعی است. در این راستا، پیشنهاد ایجاد کمیته علمی بین‌المللی برای هوش‌مصنوعی مطرح شده تا دانش علمی بی‌طرفانه‌ای ارائه دهد و به‌عنوان مرجعی برای تمامی ذی‌نفعان این حوزه عمل کند. این کمیته می‌تواند به توسعه هماهنگی‌های بین‌المللی کمک کند و تفاهم جهانی را در مورد این فناوری افزایش دهد. همچنین کارشناسان سازمان ملل متحد در متن گزارش مذکور به ارائه راهکارها و برخی اقدامات پیشنهادی می‌پردازند. گزارش «حکمرانی هوش‌مصنوعی برای بشریت» برای مقابله با تهدیدات موجود و به‌کارگیری هوش‌مصنوعی به شکل مسوولانه، چندین اقدام پیشنهادی را ارائه می‌دهد. نخستین اقدام، ایجاد چارچوب‌های شفافیت و پاسخگویی است. توسعه‌دهندگان و کاربران هوش‌مصنوعی باید در قبال استقرار و به‌کارگیری این فناوری مسوولیت‌پذیر باشند، همچنین سیستم‌های توسعه‌یافته باید شفافیت لازم را داشته باشند تا امکان بررسی و ارزیابی تصمیمات هوش‌مصنوعی توسط نهادهای نظارتی فراهم شود. علاوه بر این، ایجاد استانداردهای جهانی برای توسعه و استفاده از هوش‌مصنوعی سازگار با اصول اخلاقی و حقوق بشر نیز از دیگر پیشنهادات کلیدی مطرح شده رد این گزارش محسوب می‌شود.
یکی دیگر از پیشنهادات مهم مطرح در گزارش، توسعه نهادهای بین‌المللی برای نظارت بر استفاده از هوش‌مصنوعی و تنظیم مقررات در سطح جهانی است. این نهادها می‌توانند چارچوب‌های قانونی مشترک و استانداردهای جهانی برای استفاده از هوش‌مصنوعی ایجاد کنند و از بروز رقابت‌های ناسالم فناورانه جلوگیری کنند. ایجاد شبکه‌های آموزشی و فراهم کردن دسترسی برابر به منابع داده و توان محاسباتی برای کشورهای در حال توسعه نیز در زمره پیشنهادات گزارش هیات مشورتی سازمان ملل است که می‌تواند به کاهش شکاف‌های دیجیتالی و جلوگیری از تمرکز بیش از حد قدرت در دست چند کشور یا شرکت خاص منجر شود.
تدوین قوانین بین‌المللی برای منع استفاده از هوش‌مصنوعی در تسلیحات خودکار و حوزه‌های نظامی نیز یکی دیگر از پیشنهادات کلیدی گزارش مذکور است. به عقیده کارشناسان، این قوانین باید تضمین کنند که تصمیمات حیاتی مانند حملات نظامی به صورت کامل تحت نظارت انسانی قرار گیرند و از هرگونه استفاده غیراخلاقی از این فناوری ممانعت به عمل آید. علاوه بر این مکانیسم‌های بین‌المللی برای مقابله با سوءاستفاده از داده‌ها و حفاظت از حریم خصوصی نیز باید تدوین شوند تا از نقض حقوق افراد و جوامع جلوگیری شود.