شمشیر دولبه «AI»

گروه فناوری- هوش مصنوعی با سرعتی سرسام‌آور در حال پیشرفت است و وعده‌های بسیاری برای آینده بشریت می‌دهد. از خودران کردن اتومبیل‌ها و تشخیص بیماری‌ها تا ارتقای روبات‌ها و دستیاران مجازی، هوش مصنوعی در حال حاضر نقشی حیاتی در زندگی ما ایفا می‌کند، اما در کنار این پیشرفت‌ها، نگرانی‌هایی نیز در مورد خطرات هوش مصنوعی به وجود آمده است. یکی از مهم‌ترین این نگرانی‌ها، عدم کنترل‌پذیری هوش مصنوعی در آینده است. سیستم‌های هوش مصنوعی به طور فزاینده‌ای پیچیده می‌شوند و درک نحوه عملکرد آنها دشوارتر می‌شود. این امر پیش‌بینی رفتار و تصمیمات آنها را دشوارتر می‌کند. هوش مصنوعی به طور مداوم در حال یادگیری و تکامل است. این امر پیش‌بینی رفتار آینده آنها را دشوارتر می‌کند، زیرا ممکن است به طور غیرمنتظره‌ای از اهداف و برنامه‌های اولیه خود منحرف شوند. همچنین هوش مصنوعی به طور فزاینده‌ای قدرتمند می‌شود. این امر خطرات احتمالی ناشی از نقص یا سوءاستفاده از آنها را افزایش می‌دهد. از طرفی عدم کنترل هوش مصنوعی می‌تواند عواقب ناگوار و حتی فاجعه‌بار به دنبال داشته باشد. هوش مصنوعی می‌تواند بسیاری از مشاغل فعلی را خودکار کند و منجر به بیکاری گسترده در سطح جهان شود. رقابت برای برتری در هوش مصنوعی هم می‌تواند منجر به جنگ‌های هوش مصنوعی بین کشورها یا شرکت‌های مختلف شود. بنابراین هوش مصنوعی یک فناوری قدرتمند با پتانسیل‌های فراوان است، اما عدم کنترل هوش مصنوعی می‌تواند خطرات جدی برای بشریت به دنبال داشته باشد، لذا ضروری است که از هم‌اکنون برای یافتن راه‌حل‌های مناسب برای کنترل هوش مصنوعی تلاش کنیم.
خیال خام کنترل ایمن هوش مصنوعی
دکتر «رومن وی یامپولسکی» از کارشناسان برجسته هوش مصنوعی می‌گوید ما با یک رویداد تقریبا تضمین‌شده با پتانسیل ایجاد یک فاجعه وجودی روبه‌رو هستیم. یک متخصص در زمینه هوش مصنوعی، بررسی کاملی روی ادبیات علمی در مورد هوش مصنوعی انجام داده و به این نتیجه رسیده است که هیچ مدرکی برای حمایت از این تصور وجود ندارد که هوش مصنوعی را می‌توان به طور ایمن کنترل کرد. علاوه بر این، حتی اگر مکانیسم‌ها یا روش‌هایی برای کنترل هوش مصنوعی پیشنهاد شده باشد، دکتر «رومن وی یامپولسکی» معتقد است که این اقدامات برای تضمین ایمنی کافی نخواهند بود. «یامپولسکی» دانشیار دانشگاه «لوئیزویل» است که نتایج تحقیقات خود را در کتابی با عنوان «هوش مصنوعی غیر‌قابل توضیح، غیر‌قابل پیش‌بینی، غیر‌قابل کنترل» منتشر کرده است. کار او در زمینه «ایمنی هوش مصنوعی» تا حدی است که توسط ایلان ماسک و موسسه آینده زندگی(FLI) که توسط «مکس تِگمارک» استاد دانشگاه MIT و «ژان تالین» یکی از بنیانگذاران اسکایپ تاسیس شده است، پشتیبانی شده است. موسسه آینده زندگی همان موسسه‌ای است که برای توسعه ابزارهای هوش مصنوعی قدرتمندتر از ۴-GPT درخواست کرد این پروژه با یک توقف شش ماهه روبه‌رو شود. نامه سرگشاده این موسسه توسط بیش از ۳۳ هزار نفر از جمله ایلان ماسک، استیو وزنیاک هم‌بنیانگذار اپل، یوشوا بنجیو(Yoshua Bengio) پدرخوانده هوش مصنوعی و سایر کارشناسان امضا شده است.
نگرانی در مورد مدیریت و تنظیم مقررات در مقابل خطرات هوش مصنوعی
با نفوذ ابزارهای جدید هوش مصنوعی در بازار طی یک سال گذشته، دکتر یامپولسکی پیشنهاد می‌کند که سیستم‌های هوش مصنوعی پیشرفته به دلیل غیر‌قابل پیش‌بینی بودن و استقلال ذاتی، با وجود مزایای بالقوه‌شان، همیشه خطراتی را به همراه خواهند داشت. او در یک بیانیه مطبوعاتی گفت: چرا بسیاری از پژوهشگران تصور می‌کنند که مشکل کنترل هوش مصنوعی قابل حل است؟ تا آنجا که ما می‌دانیم، هیچ گواه و مدرکی وجود ندارد. قبل از شروع تلاش برای ساخت یک هوش مصنوعی کنترل شده، مهم است که نشان دهیم مشکل قابل حل است. وی افزود: این همراه با آماری که نشان می‌دهد توسعه اَبَرهوش مصنوعی یک رویداد تقریبا تضمین‌شده است، نشان می‌دهد که ما باید از تلاش‌های ایمنی قابل توجهی در زمینه هوش مصنوعی حمایت کنیم.
توسعه ابرهوش مصنوعی اجتناب‌ناپذیر است
از آنجایی که هوش مصنوعی در حالت ابرهوشمندی می‌تواند به تنهایی یاد بگیرد، تطبیق یابد و به صورت نیمه‌مستقل عمل کند، اطمینان از ایمن بودن آن، به ویژه با وجود افزایش قابلیت‌های آن به طور فزاینده‌ای چالش‌برانگیز می‌شود. می‌توان گفت که هوش مصنوعی فوق هوشمند «ذهن» خود را خواهد داشت. پس چگونه آن را کنترل کنیم؟ آیا قوانین روباتیک آیزاک آسیموف که رفتار اخلاقی بین انسان و روبات را برقرار می‌کند، هنوز در دنیای امروز اعمال می‌شود؟ دکتر یامپولسکی که حوزه اصلی مورد علاقه او ایمنی هوش مصنوعی است، توضیح داد: ما با یک رویداد تقریبا تضمین‌شده با پتانسیل ایجاد یک فاجعه وجودی روبه‌رو هستیم. وی افزود: جای تعجب نیست که بسیاری این را مهم‌ترین مشکلی که بشریت تا به حال با آن روبه‌رو بوده است، توصیف می‌کنند. نتیجه می‌تواند رفاه یا انقراض بشر باشد. یکی از چالش‌های اصلی، تصمیم‌گیری‌های بالقوه و شکست موجودات فوق‌ هوشمند است که پیش‌بینی و تهدید آنها را دشوار می‌کند.
علاوه بر این، فقدان قابلیت توضیح در تصمیمات هوش مصنوعی نگرانی‌هایی را ایجاد می‌کند، زیرا درک این تصمیمات برای کاهش تصادفات و تضمین نتایج بدون سوگیری، به ویژه در زمینه‌های حیاتی مانند مراقبت‌های بهداشتی و مالی که هوش مصنوعی در آن نفوذ کرده، بسیار مهم است. با افزایش استقلال هوش مصنوعی، کنترل انسان روی آن کاهش می‌یابد که منجر به نگرانی‌های ایمنی می‌شود.
دکتر یامپولسکی ایجاد تعادل بین توانایی و کنترل هوش مصنوعی را پیشنهاد می‌دهد و اذعان می‌کند که ابرهوش ذاتا فاقد قابلیت کنترل است. او همچنین درباره اهمیت همسویی هوش مصنوعی با ارزش‌های انسانی بحث می‌کند و روش‌هایی را برای به حداقل رساندن خطرها مانند اصلاح‌پذیری، شفافیت هوش مصنوعی و طبقه‌بندی به عنوان قابل کنترل یا غیرقابل کنترل پیشنهاد می‌کند. با وجود این چالش‌ها، دکتر یامپولسکی ادامه تحقیقات و سرمایه‌گذاری در ایمنی و امنیت هوش مصنوعی را تشویق و تاکید می‌کند که اگرچه دستیابی به هوش مصنوعی ۱۰۰‌درصد ایمن ممکن است دست‌نیافتنی باشد، اما تلاش برای بهبود ایمنی آن همواره ارزشمند است.