راه‌حل جدید «اوپن‌ای‌آی» برای کاهش استفاده مخرب از مدل‌های هوش مصنوعی

تک‌کرانچ- دسترسی به مدل‌های هوش مصنوعی آینده «اوپن‌ای‌آی» ممکن است نیازمند یک شناسه تاییدشده باشد. اطلاعات صفحه پشتیبانی که هفته گذشته در وب‌سایت «اوپن‌ای‌آی» منتشر شدند، نشان می‌دهند که این شرکت ممکن است به زودی از سازمان‌ها بخواهد تا فرآیند تایید هویت را برای دسترسی به برخی مدل‌های هوش مصنوعی آینده تکمیل کنند. در صفحه پشتیبانی آمده است که فرآیند تایید به نام سازمان، روش جدیدی برای توسعه‌دهندگان به منظور باز کردن قفل دسترسی به پیشرفته‌ترین مدل‌ها و قابلیت‌ها در پلتفرم اوپن‌ای‌آی است. راستی‌آزمایی به یک شناسه دولتی از یکی از کشورهایی نیاز دارد که توسط API اوپن‌ای‌آی پشتیبانی می‌شود.
به گفته اوپن‌ای‌آی، شناسه تنها می‌تواند هر ۹۰‌روز یک سازمان را تایید کند و همه سازمان‌ها واجد شرایط تایید نیستند. در صفحه پشتیبانی آمده است: در اوپن‌ای‌آی مسوولیت خود را جدی می‌گیریم تا اطمینان حاصل کنیم که هوش مصنوعی هم به طور گسترده در دسترس است و هم با خیال راحت استفاده می‌شود. متاسفانه اقلیت کوچکی از توسعه‌دهندگان عمدا از APIهای اوپن‌ای‌آی در جهت مخالف خط‌مشی‌ ما استفاده می‌کنند.
در حال اضافه کردن فرآیند تایید برای کاهش استفاده ناامن از هوش مصنوعی هستیم و در عین حال به ارائه مدل‌های پیشرفته برای جامعه توسعه‌دهندگان گسترده‌تر ادامه می‌دهیم. این فرآیند جدید تایید می‌تواند برای تقویت امنیت در محصولات اوپن‌ای‌آی به دلیل پیچیده‌تر شدن و توانمندتر شدن آنها باشد.
اوپن‌ای‌آی چندین گزارش درباره تلاش‌های خود برای شناسایی و از مدل‌های این شرکت منتشر کرده است. این کار ممکن است با هدف جلوگیری از سرقت IP صورت گرفته باشد. براساس گزارش بلومبرگ در اوایل سال جاری، اوپن‌ای‌آی در حال بررسی این موضوع بود که آیا یک گروه مرتبط با شرکت چینی «دیپ‌سیک» در اواخر سال۲۰۲۴ مقادیر زیادی داده را احتمالا برای آموزش مدل‌های خود از طریق API آن استخراج کرده و شرایط اوپن‌ای‌آی را نقض کرده است یا خیر. اوپن‌ای‌آی تابستان گذشته دسترسی به خدمات خود را در چین مسدود کرد.