نگرانی از فاجعه AI

«جهان‌صنعت»- هوش مصنوعی (AI) به سرعت در حال تکامل و فراگیر شدن در سراسر جهان است و پتانسیل دگرگونی بسیاری از جنبه‌های زندگی ما را دارد. با این حال، این پیشرفت سریع خطرات قابل توجهی را به همراه دارد، از جمله سوء‌استفاده از هوش مصنوعی برای اهداف مخرب، تبعیض الگوریتمی و از دست رفتن شغل. به همین دلیل، بسیاری از کارشناسان معتقدند که ایجاد یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی ضروری است. این آژانس می‌تواند به عنوان یک مرجع جهانی برای توسعه و اجرای استانداردها و مقررات مربوط به هوش مصنوعی عمل کرده و به ترویج تحقیقات و همکاری بین‌المللی در این زمینه کمک کند.
یکی از مزایای بالقوه ایجاد یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی ایمنی و امنیت است. این آژانس می‌تواند به اطمینان از توسعه و استفاده ایمن و امن از هوش مصنوعی کمک کند. این امر با وضع استانداردهایی برای طراحی، توسعه و استقرار سیستم‌های هوش مصنوعی و همچنین با ترویج تحقیقات در مورد روش‌های کاهش خطرات هوش مصنوعی، مانند سوء‌استفاده و تبعیض، حاصل می‌شود.
یکی دیگر از مزایای ایجاد آژانس بین‌المللی عدالت و برابری است. این آژانس می‌تواند با اطمینان از اینکه از هوش مصنوعی به روشی عادلانه استفاده می‌شود، کمک کند. این امر با وضع مقرراتی برای جلوگیری از تبعیض الگوریتمی و ترویج استفاده مسوولانه از هوش مصنوعی حاصل می‌شود. این آژانس می‌تواند به ترویج تحقیقات و همکاری بین‌المللی در زمینه هوش مصنوعی کمک کند. این امر با ایجاد یک بستر برای اشتراک‌گذاری اطلاعات و ایده‌ها و همچنین با تسهیل همکاری در پروژه‌های تحقیقاتی، حاصل می‌شود.
ایجاد یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی نیز با چالش‌هایی همراه است. به عنوان مثال، باید در مورد ساختار، اختیارات و بودجه این آژانس توافق حاصل شود، همچنین باید اطمینان حاصل کرد که این آژانس نماینده منافع همه ذی‌نفعان، ازجمله دولت‌ها، شرکت‌ها و جامعه مدنی باشد. با وجود این چالش‌ها، مزایای بالقوه ایجاد یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی قابل توجه است. با توسعه و اجرای استانداردها و مقررات مناسب، این آژانس می‌تواند با اطمینان از اینکه هوش مصنوعی به نفع همه به کار گرفته می‌شود، کمک کند. بر همین اساس «سم آلتمن»، مدیرعامل OpenAI، دوباره خاطرنشان کرده است که باید یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی ایجاد شود. آلتمن با توجه به تکامل سریع هوش مصنوعی رویکرد چنین آژانسی را بهتر از قوانین غیرقابل انعطاف فعلی می‌داند.
او هوش مصنوعی را با هواپیما مقایسه و بر نیاز به ایجاد یک چارچوب ایمنی تاکید کرد.
«سم آلتمن» در یک پادکست گفت: «فکر می‌کنم زمانی در آینده نه‌چندان دور فرا می‌رسد- البته درباره دهه‌های آینده صحبت نمی‌کنیم- که در آن سیستم‌های هوش مصنوعی پیشتاز، قادر به ایجاد آسیب‌های جهانی قابل ‌توجه باشند.» او معتقد است که این سیستم‌ها تاثیر منفی فرامرزی خواهند داشت و سیستم‌های هوش مصنوعی‌ قدرتمند باید توسط یک آژانس بین‌المللی بررسی شوند تا با آزمایش‌های ایمنی معقول بر آنها نظارت شود. سم آلتمن می‌گوید که افزایش بیش ‌از حد مقررات و نظارت بر هوش مصنوعی او را بسیار عصبی می‌کند. در واقع او فکر می‌کند که نظارت بر این فناوری باید به حد کافی باشد و مقررات نه بیشتر و نه کمتر از حد لازم وضع شوند.
در ماه مارس (اسفندماه)، اتحادیه اروپا قانون هوش مصنوعی را تصویب کرد که خطرات این فناوری را طبقه‌بندی و موارد غیرقابل ‌قبول را ممنوع می‌کند. رییس‌جمهور آمریکا نیز سال گذشته میلادی یک فرمان اجرایی را امضا کرد که در آن خواستار شفافیت بیشتر درباره مدل‌های پیشرفته هوش مصنوعی شد اما آلتمن استدلال می‌کند که یک آژانس بین‌المللی انعطاف‌پذیری بیشتری نسبت به وضع قوانین ملی ارائه می‌دهد و چنین مزیتی با توجه به سرعت تکامل هوش مصنوعی مهم است. او می‌گوید این قوانین ملی در ۱۲ماه آینده، ممکن است دیگر کارکردی نداشته باشند، چراکه نمی‌توان رویدادهای ۱۲ تا ۱۴ماه آینده هوش مصنوعی را با قوانین فعلی تنظیم کرد. به‌ عبارت دیگر، آلتمن فکر می‌کند که هوش مصنوعی باید مانند ایمنی یک هواپیما بررسی شود. او می‌گوید که وقتی از دست ‌دادن جان انسان‌ها مطرح باشد، همانند پرواز با هواپیما، داشتن نوعی چارچوب ایمنی بسیار مهم‌تر خواهد شد. چنین رویکردی را باید درباره هوش مصنوعی اتخاذ کرد. سم آلتمن در صحبت‌های اخیر خود، ایده درآمد پایه جدیدی را با عنوان
«رایانش پایه همگانی» مطرح کرد.
در نهایت توسعه و استفاده از هوش مصنوعی بدون نظارت و کنترل نامناسب، میتواند منجر به مشکلات جدی اخلاقی، اجتماعی و حقوقی شود، بنابراین ایجاد یک آژانس بین‌المللی برای نظارت بر هوش مصنوعی ضروری است تا ارزش‌های مورد نیاز جامعه در استفاده از این فناوری رعایت شود و تاثیرات منفی آن کاهش یابد.