چالش‌ها و الزامات توسعه هوش‌مصنوعی مولد

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی به بررسی چالش‌ها و الزامات توسعه و پیاده‌سازی هوش‌مصنوعی مولد در کشور پرداخت. دفتر مطالعات انرژی، صنعت و معدن این مرکز در گزارشی با عنوان «هوش‌مصنوعی مولد؛ چالش‌ها و الزامات توسعه و پیاده‌سازی» آورده است که هوش‌مصنوعی مولد نوعی فناوری هوش‌مصنوعی است که می‌تواند انواع مختلفی از محتوا ازجمله متن، تصویر، صدا و داده‌های مصنوعی تولید کند هیاهوی اخیر در مورد هوش‌مصنوعی مولد به‌دلیل سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ویدئوهای باکیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی است که پیش از این وجود نداشته‌اند و در واقع هوش‌مصنوعی مولد مبدع و مبتکر آن است.
هوش‌مصنوعی مولد، شاخه‌ای از هوش‌مصنوعی است که محتوای جدیدی مانند تصاویر، متن، موسیقی یا گفتار را از داده‌های موجود ایجاد می‌کند و کاربردهای بالقوه زیادی مانند شخصی‌سازی تجربیات، ایجاد شبیه‌سازی‌های واقع‌بینانه، ارائه پاسخ و تصمیم به کاربر و تسهیل فرآیندها و امور در حوزه‌های مختلف دارد؛ توانایی این شاخه از هوش‌مصنوعی در خلق و ایجاد محتواهای جدیدی که از قبل وجود نداشته‌اند و ورود به حوزه خلاقیت که زمانی ویژگی منحصربه‌فرد انسان‌ها محسوب می‌شد، باعث شده چالش‌ها و مخاطرات پیش روی توسعه هوش‌مصنوعی، در حوزه هوش‌مصنوعی مولد بسیار پر‌رنگ‌تر و حساس‌تر باشد. ازاین‌رو توجه سیاستگذاران و قانونگذاران به نظام‌مند کردن هوش‌مصنوعی به‌طور عام در کنار توجه به ویژگی‌های خاص هوش‌مصنوعی مولد، بر فضای توسعه این حوزه اثرگذار است.
یافته‌های پژوهش نشان می‌دهد ایجاد زیرساخت‌های پایدار و ایمن فنی از قبیل استفاده از داده‌های مصنوعی، یادگیری انتقالی، فنون کاهش سوگیری، محاسبات ابری و توزیع شده می‌تواند در کاهش چالش‌های مرتبط با امنیت داده‌ها، حریم خصوصی، شفافیت، صحت و دقت نتایج و کاهش هزینه‌های محاسباتی مؤثر باشد. همچنین مدیریت مخاطرات احتمالی هوش‌مصنوعی به‌ویژه از نوع مولد آن، با هدف کاهش چالش‌های اجتماعی ناشی از به کارگیری این فناوری، از طریق تکمیل یا ایجاد زیرساخت‌های حقوقی و قانونی مرتبط با داده (ازجمله قوانین حریم خصوصی و مدیریت داده در ابعاد مختلف، حقوق داده)، توسعه اصول و مقررات هوش‌مصنوعی مسوولیت‌پذیر با تمرکز بر استفاده اخلاقی از آن و افزایش سطح سواد دیجیتالی در جامعه (با تمرکز بر اقشار حساس مانند کودکان، نوجوانان، افراد کم‌سواد و مسن)، حائز اهمیت است.
این گزارش بیان می‌کند که باوجود این پیشرفت‌ها و فراگیری استفاده از کاربردهای هوش‌مصنوعی مولد، واکنش‌های قابل‌توجهی نیز علیه آن وجود داشته است، زیرا علاوه‌بر دغدغه کشورها نسبت به عقب نماندن در توسعه این فناوری، نگرانی‌های جدی نیز در مورد به‌کارگیری و بهره‌مندی از آن در حال پررنگ شدن است که ازجمله آنها می‌توان به صحت، دقت، امنیت اطلاعات و ملاحظات اخلاقی اشاره کرد.
این گزارش ادامه می‌دهد که هرچند نگرانی‌های ذکر شده فقط مرتبط با هوش‌مصنوعی مولد نیست و کل عرصه‌های هوش‌مصنوعی به‌طور عام را دربر می‌گیرد، اما ویژگی ایجاد و خلق محتوای جدید بدون دخالت و کنترل انسان و ارائه تصمیمات جدید و پاسخ‌هایی که ممکن است به‌راحتی قابل ارزیابی و صحت‌سنجی نباشند به کاربران و در نتیجه تاثیرگذاری بالای این فناوری بر قدرت تفکر، انتخاب، تصمیم‌گیری و عملکردهای انسانی که به‌واسطه توانایی‌های هوش‌مصنوعی مولد ایجاد شده و به‌شدت رو به گسترش است، سطح نگرانی‌ها را افزایش داده است.
این گزارش مطرح می‌کند که این ابعاد گسترده، پیچیده و جدید از منظر فنی، اقتصادی، اجتماعی و حتی سیاسی‌، سیاستگذاران را به‌سمت تنظیم چارچوب‌ها و اصولی که به‌طورکلی براساس سطح مخاطره انواع هوش‌مصنوعی منجربه توسعه هدفمند و پایدار فناوری‌های این حوزه شود، سوق
داده است.
ازاین‌رو در این پژوهش، ملاحظات و الزامات مختلف توسعه هوش‌مصنوعی که آثار آنها در هوش‌مصنوعی مولد قابل تامل و کلیدی است و همچنین پیاده‌سازی آن از منظر فنی و اجتماعی مورد بررسی قرار گرفته است.
این گزارش به چالش‌های پیش روی توسعه هوش‌مصنوعی مولد را بررسی کرده و در اولین مورد به چالش‌های فنی و عملیات مرتبط با زیرساخت‌های داده و محاسبات برشمرده است که شامل لزوم دسترسی به داده زیاد، با کیفیت و متنوع (با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن)، کیفیت و کمیت داده (با چالش‌هایی مانند دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاکسازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها)، تامین امنیت و حفاظت از داده‌های داخلی به ‌کمک توسعه الگوها و کدها (با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ روی مجموعه‌ای از حقایق خارجی و قابل‌تایید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها)، بررسی عملکرد و ارزیابی مدل (با چالش‌هایی مانند امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها)، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد مدل (با چالش‌هایی مانند شفافیت و پاسخگو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل)، تامین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطات، ابرسامانه‌های پردازشی و ذخیره‌سازی داده‌های بزرگ در کنار بحث آموزش و محاسبات استنتاج) و تامین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن (با چالش‌هایی مانند مصرف زیاد انرژی و انتشار کربن به‌علت حجم بالای پردازش) می‌شود.
این گزارش در ادامه به چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش‌مصنوعی مولد در کسب‌وکارها پرداخته این چالش‌ها را اینطور برشمرده که از جمله آن می‌توان به موارد زیر اشاره کرد: پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین‌، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش‌مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد.)
دیگر موارد اشاره‌شده در این گزارش در حوزه چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش‌مصنوعی مولد در کسب‌وکارها می‌توان این موارد را برشمرد: تغییر شکل بخشی از نیروی کار کسب‌وکارها (نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان)، توهمات هوش‌مصنوعی (با نگرانی‌هایی مانند امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش‌مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش‌مصنوعی مولد)، نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش‌مصنوعی مولد (مسائل مربوط به رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی) و نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها (کنترل و نظارت بر واگذاری وظایف یا تکالیف سازمانی به هوش‌مصنوعی مولد (این امر در حال حاضر در حوزه آموزش و پژوهش کاملا مشهود است)، عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تاییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان که ممکن است اخلاقیات، انطباق، استقلال یا سایر برنامه‌ها را تحت‌تاثیر قرار دهد.
این گزارش در ادامه به چالش‌های عمومی و اجتماعی مخاطرات هوش‌مصنوعی مولد پرداخته و به این موارد اشاره می‌کند: مخاطرات دقت و صحت (احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تایید اطلاعات، عدم شناخت محدودیت‌های هوش‌مصنوعی و بیش‌برآورد توانایی‌های آن)، مخاطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود)، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی (نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن)، مخاطرات مالکیت فکری (چالش با هنجارها و مقررات مالکیت فکری سنتی از منظر اصالت و مالکیت، مجوزها، حقوق بهره‌برداری و نقض حقوق مالکیت فکری افراد)، مخاطرات سرقت ادبی، تقلب علمی و تشخیص آن (افزایش زمینه‌های سرقت، تقلب علمی و ادبی و تشخیص دشوار و چالش‌برانگیز آن)، مخاطرات اخلاقی (گسترش جعل عمیق و حملات سایبری، دستکاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی) و ابهام و پیچیدگی انطباق با مفاهیم و چارچوب‌های موجود (دشواری در تعریف و ارزیابی آسیب و خسارت، تعیین سطح آسیب، گروه‌های آسیب‌دیده و مسوول خسارت).
مرکز پژوهش‌های مجلس در این گزارش راهکارهای تقنین، نظارتی و سیاستی پیشنهاد می‌دهد و این پیشنهادات را در دولایه زیرساختی و فنی و تنظیم‌گری مطرح کرده است که در لایه اولیه آن را اینطور توضیح می‌دهد که تدوین چارچوب‌ها و استانداردهای لازم به‌نحوی‌ که چالش‌های مرتبط با کیفیت داده، نتایج سوگیرانه و شفافیت و پاسخگویی مدل‌ها را مرتفع کند. حمایت از توسعه نوآوری و فناوری و توسعه تکنیک‌های فنی که منجربه کاهش مخاطرات می‌شوند از جمله استفاده از داده‌های مصنوعی، تکنیک‌های کاهش سوگیری با توسعه الگوریتم‌ها، یادگیری انتقالی، هوش‌مصنوعی ناظر و کنترل‌کننده هوش‌مصنوعی دیگر. ارتقای زیرساخت‌های پردازشی و ارتباطی برای بهبود مقیاس‌پذیری، اعتماد، سرعت، انعطاف‌پذیری و مقرون‌به‌صرفه بودن و کاهش هزینه‌های محاسباتی با روش‌هایی مانند محاسبات ابری و محاسبات توزیع‌شده و فشرده‌سازی مدل‌ها.
این گزارش در ادامه به توضیح لایه تنظیم‌گری پرداخته و توضیح می‌دهد که تسهیل دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده، ازجمله تکمیل و بهبود قانون مدیریت داده‌ها و اطلاعات ملی مصوب سال ۱۴۰۱، ایجاد ضوابط مرتبط با پردازش داده‌های شخصی افراد و استفاده اشخاص یا سامانه‌های هوش‌مصنوعی مولد از این داده‌ها در قالب تدوین طرح / لایحه حفاظت و حمایت از داده‌های شخصی و حریم خصوصی، به‌روزرسانی و انطباق قوانین موجود با مصادیق و موضوعات هوش‌مصنوعی مولد ازجمله قانون جرائم رایانه‌ای مصوب سال ۱۳۸۸‌، قانون تجارت الکترونیک مصوب سال ۱۳۸۲ و احکام مرتبط در قوانین مجازات اسلامی و حقوق مدنی – قوانین مرتبط با حمایت از مالکیت فکری با موضوعات هوش‌مصنوعی مولد ازجمله قانون حمایت از مالکیت صنعتی- مصوب صحن مجلس در 21/9/1400 – قانون حمایت از حقوق پدیدآورندگان نرم‌افزارهای رایانه‌ای مصوب ۱۳۷۹- – قانون حمایت حقوق مؤلفان و مصنفان و هنرمندان مصوب سال ۱۳۴۸، ایجاد زیرساخت‌های قانونی ویژه هوش‌مصنوعی مولد در کنترل و سطح مسوولیت و خودمختاری.
در این گزارش دیگر موارد مطرح‌شده در لایه تنظیم‌گری به این شرح آمده است: شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه‌ها و مقررات براساس سطح مخاطره انواع هوش‌مصنوعی برای حاکمیت هوش‌مصنوعی مسوولیت‌پذیر (با تاکید بر هم‌افزایی و انسجام سیاستی این حوزه در ذیل دستگاه‌های اجرایی)، بهبود سرمایه انسانی و ظرفیت نوآوری در کسب‌وکارها از طریق آموزش، هدایت و نگهداشت نیروهای متخصص در کنار تربیت نیروی کار ماهر، راهبردهای افزایش سواد دیجیتالی برای استفاده ایمن از هوش‌مصنوعی مولد با تاکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان، افراد کم‌سواد و مسن (نحوه مواجهه با فناوری و مزایا و معایب آن، کنترل و مدیریت بهره‌مندی از فناوری.)