انقلابی نزدیک‌تر از تصور

گروه فناوری- ظهور ابرهوش مصنوعی، تحولی که می‌تواند آینده بشریت را متحول کند، دیگر در حد تئوری نیست، این فناوری در آستانه ورود به واقعیت است. مدیرعامل OpenAI، با تاکید بر این موضوع هشدار داده است که شرکت‌های فعال در حوزه هوش مصنوعی به دنبال توسعه سیستم‌هایی با هوشی در سطح انسان هستند؛ ماشین‌هایی که می‌توانند مانند انسان بیندیشند، یاد بگیرند و تصمیم‌گیری کنند. او معتقد است که دستیابی به ایمن‌ترین و موثرترین نتایج از این فناوری انقلابی، تنها در صورتی ممکن است که دانشمندان دانشگاهی و متخصصان صنعتی در یک همکاری بی‌سابقه، مسیر توسعه آن را به‌ طور مشترک هدایت کنند اما این چشم‌انداز نه‌تنها فرصت‌هایی بی‌پایان را نوید می‌دهد، بلکه نگرانی‌های عمیقی نیز در مورد کنترل‌پذیری، اخلاق و تاثیرات اجتماعی این سیستم‌های ابرهوشمند ایجاد کرده است.
«سم آلتمن» مدیرعامل شرکت «اوپن‌ای‌آی»، شرکتی که ChatGPT را توسعه داد، می‌گوید که ماشین‌ها در آینده به هوش فوق‌العاده یا ابرهوش خواهند رسید. او می‌گوید: این امکان وجود دارد که تا چند هزار روز دیگر «ابرهوش» داشته باشیم. ممکن است بیشتر طول بکشد اما مطمئن هستم که به آنجا خواهیم رسید. آلتمن این را در حالی می‌گوید که به تازگی پیشرفته‌ترین مدل زبان بزرگ(LLM) خود موسوم به «o1» را منتشر کرده است. ظهور LLMها در چند سال گذشته، این سوال را مطرح کرده است که چه زمانی می‌توانیم به هوش عمومی مصنوعی(AGI) برسیم. اگرچه هوش عمومی مصنوعی تعریف دقیقی ندارد اما به طور گسترده به یک سیستم هوش مصنوعی اشاره دارد که قادر به استدلال، تعمیم، برنامه‌ریزی و استقلال در سطح انسانی است. سیاستگذاران در همه جا سوالاتی در مورد AGI دارند، از جمله اینکه چه مزایا و خطراتی خواهد داشت. پاسخ به این سوالات آسان نیست، به ویژه با توجه به اینکه بسیاری از کارها در بخش خصوصی اتفاق می‌افتد که در آن مطالعات همیشه به طور آشکار منتشر نمی‌شوند. آنچه واضح است این بوده که شرکت‌های هوش مصنوعی روی ارائه طیف وسیعی از توانایی‌های شناختی به سیستم‌های خود تمرکز کرده‌اند. شرکت‌هایی که مدل‌های هوش مصنوعی را توسعه می‌دهند، انگیزه‌ای قوی برای حفظ این ایده که AGI نزدیک است، برای جلب علاقه و در نتیجه سرمایه‌گذاری دارند.
بین محققانی که با «نیچر» صحبت کردند، اتفاق نظر وجود داشت که مدل‌های زبان بزرگ مانند ‌«o1»، جمینای گوگل و کلاود متعلق به شرکت آنتروپیک هنوز به AGI نرسیده‌اند و با توجه به شناخت‌ها از این حوزه، بسیاری می‌گویند دلایل خوبی وجود دارد که بگوییم LLMها هرگز این کار را نخواهند کرد و برای دستیابی به هوش در سطح انسانی به فناوری دیگری برای هوش مصنوعی نیاز است. با وجود گستردگی توانایی ‌LLMها، از تولید کدهای کامپیوتری گرفته تا خلاصه کردن مقالات دانشگاهی و پاسخ دادن به سوالات ریاضی، هنوز محدودیت‌های اساسی در نحوه عملکرد قوی‌ترین آنها وجود دارد که اساسا شامل بلعیدن انبوهی از داده‌ها و استفاده از آن برای پیش‌بینی حرکت بعدی است که در یک تسلسل، این به جای حل واقعی یک مشکل، پاسخ‌های قابل قبولی را برای یک مشکل ایجاد می‌کند.
«فرانسوا شولت» مهندس نرم‌افزار سابق در گوگل مستقر در کالیفرنیا و «سابارائو کامبامپاتی» دانشمند رایانه در دانشگاه ایالتی آریزونا، عملکرد «o1» را در کارهایی که نیاز به استدلال و برنامه‌ریزی انتزاعی دارند، آزمایش کرده‌اند و دریافته‌اند که تا رسیدن به AGI فاصله معناداری دارد. اگر قرار است AGI محقق شود، برخی محققان فکر می‌کنند که سیستم‌های هوش مصنوعی به «مدل‌های جهانی» منسجم یا نمایش‌هایی از محیط اطراف خود نیاز دارند که بتوانند از آن برای آزمایش فرضیه‌ها، استدلال، برنامه‌ریزی و تعمیم دانش آموخته‌شده در یک حوزه به موقعیت‌های بالقوه نامحدود دیگر استفاده کنند. اینجاست که ایده‌های علوم اعصاب و علوم شناختی می‌توانند پیشرفت‌های بعدی را پیش ببرند. به عنوان مثال، «تیم یوشوا بنجیو» در دانشگاه مونترال کانادا در حال بررسی معماری‌های جایگزین هوش مصنوعی است که بهتر از ساخت مدل‌های جهانی منسجم و توانایی استدلال با استفاده از چنین مدل‌هایی پشتیبانی می‌کند. برخی محققان استدلال می‌کنند که پیشرفت‌های بعدی در هوش مصنوعی ممکن است نه از بزرگ‌ترین سیستم‌ها، بلکه از هوش مصنوعی کوچک‌تر و با انرژی کارآمدتر حاصل شود. «کارل فریستون» عصب‌شناس نظری در کالج دانشگاهی لندن می‌گوید اگر سیستم‌های هوشمندتر در آینده به جای اینکه صرفا همه چیزهایی را که از آن تغذیه می‌شوند، ببلعند، توانایی تصمیم‌گیری در مورد نمونه‌برداری از جنبه‌های محیطی خود را داشته باشند، می‌توانند به داده‌های کمتری برای آموزش نیاز داشته باشند، بنابراین محققان در طیف وسیعی از حوزه‌ها باید در توسعه هوش مصنوعی مشارکت داشته باشند. این امر برای تایید اینکه واقعا چه سیستم‌هایی قادر به انجام آن هستند و اطمینان از اینکه مطابق با ادعاهای شرکت‌های فناوری هستند و پیشرفت‌های مورد نیاز برای توسعه را شناسایی می‌کنند، ضروری است. با این وجود در حال حاضر، دسترسی به سیستم‌های هوش مصنوعی پیشرو برای محققانی که در شرکت‌هایی کار نمی‌کنند که می‌توانند مقدار زیادی از واحدهای پردازش گرافیکی(GPU) مورد نیاز برای آموزش سیستم‌ها را داشته باشند، می‌تواند دشوار باشد.
برای درک مقیاس این فعالیت بد نیست بدانید سازمان‌های دولتی ایالات‌متحده (به استثنای وزارت دفاع این کشور) در سال‌۲۰۲۱ معادل 5/1‌میلیارد دلار به تحقیق و توسعه هوش مصنوعی اختصاص دادند و کمیسیون اروپا سالانه حدود یک میلیارد یورو برای آن هزینه می‌کند. در مقابل، شرکت‌ها در سراسر جهان بیش از ۳۴۰‌میلیارد دلار برای تحقیقات هوش مصنوعی در سال‌۲۰۲۱ هزینه کرده‌اند. راه‌هایی وجود دارد که دولت‌ها می‌توانند تحقیقات هوش مصنوعی را در مقیاسی بزرگ‌تر، به عنوان مثال با تجمیع منابع، تامین مالی کنند. کنفدراسیون آزمایشگاه‌های تحقیقات هوش مصنوعی در اروپا که یک سازمان غیرانتفاعی مستقر در لاهه هلند است، پیشنهاد کرده مرکزی مشابه «سرن» که برای مطالعه ذرات بنیادین تاسیس شده است، برای هوش مصنوعی نیز ایجاد شود که بتواند همان سطح استعداد مورد نیاز را که شرکت‌های هوش مصنوعی نیاز دارند، جذب کند و تحقیقات پیشگامانه در این حوزه انجام شود. پیش‌بینی اینکه «هوش مصنوعی عمومی» چه زمانی می‌تواند محقق شود، دشوار است. تخمین‌ها از چند سال، از حالا تا یک دهه یا بیشتر متغیر است، اما مطمئنا پیشرفت‌های بزرگ‌تری در هوش مصنوعی اتفاق خواهد افتاد و با توجه به مقیاس سرمایه‌گذاری در آن، این تصور نادرست نیست. برای اطمینان از سودمند بودن این پیشرفت‌ها، تحقیقات شرکت‌های فناوری باید با استفاده از بهترین درک فعلی از آنچه که هوش انسان را تشکیل می‌دهد، مطابق با علوم اعصاب، علوم شناختی، علوم اجتماعی و سایر زمینه‌های مرتبط تایید شود و این تحقیقات با بودجه عمومی باید نقشی کلیدی در توسعه AGI داشته باشد. بشریت باید همه دانش خود را به کار گیرد تا کاربردهای تحقیقات هوش مصنوعی قدرتمند باشد و خطرات آن تا حد امکان کاهش یابد. دولت‌ها، شرکت‌ها، سرمایه‌گذاران و محققان باید نقاط قوت مکمل خود را بشناسند. اگر این کار را انجام ندهند، بینش‌هایی که می‌توانند به بهبود هوش مصنوعی کمک کنند از دست خواهند رفت و سیستم‌های حاصل در معرض خطر غیرقابل پیش‌بینی و در نتیجه غیرایمن بودن هستند.
در نهایت، پیشرفت به سوی ابرهوش مصنوعی می‌تواند مرزهای علم و فناوری را به شکل بی‌سابقه‌ای جابه‌جا کند اما پیامدهای آن فراتر از حوزه‌های فنی است و ابعاد اجتماعی، اخلاقی و امنیتی گسترده‌ای را دربر می‌گیرد. همانطور که «سم آلتمن» تاکید می‌کند، همکاری میان نهادهای دانشگاهی و صنعتی نقشی کلیدی در هدایت این فناوری به سوی آینده‌ای ایمن و سازنده دارد. این همکاری می‌تواند از تمرکز صرف بر رقابت تجاری فاصله بگیرد و بر طراحی پروتکل‌های کنترلی، تضمین شفافیت و ایجاد استانداردهای اخلاقی جهانی متمرکز شود. بدون چنین رویکردی، خطر خروج کنترل از دست بشر و اثرات مخرب بر جامعه، محیط‌زیست و اقتصاد بیش از هر زمان دیگری افزایش خواهد یافت، بنابراین ابرهوش مصنوعی نه‌تنها فرصتی برای پیشرفت، بلکه آزمونی برای تعهد انسان به مسوولیت‌پذیری و اخلاق‌مداری در عصر فناوری است.