OpenAI انتشار مدل هوش مصنوعی نسل بعدی خود، GPT-۶.۱ Astra، را به دلیل نگرانیهای ایمنی که در حین آزمایشهای داخلی مطرح شد، لغو کرد.
دلایل لغو انتشار
یک سخنگوی OpenAI اعلام کرد که رهبران ایمنی تصمیم به عدم عرضه این مدل، که مقرر بود در ماه اکتبر رونمایی شود، گرفتهاند. به گفته این سخنگو، GPT-۶.۱ Astra در ارزیابیهای همراستایی نسبت به مدل قبلی، Astra GPT-۶، عملکرد خوبی نداشته است.
بیشتر بخوانید: شرکتهای هوش مصنوعی با افزایش ریسک ناشی از افزایش بازده اوراق قرضه مواجه هستند
سعچی جین، رئیس سیستمهای ایمنی OpenAI، در بیانیهای بیان کرد: "برای هر چیزی که مربوط به ایمنی و همراستایی است، یک تعادل وجود دارد. شما واقعاً باید خط درستی را بین ماندن در محدوده و جلوگیری از تنبلی در نحوه انجام وظایف مدل پیدا کنید. این مدل به خوبی در خصوص ماندن در محدوده و مجوزها عمل نکرده و نحوه ارتباط آن با کاربر در مورد نوع کاری که انجام داده نیز به سطح مطلوب نرسیده است."
نگرانیهای فزاینده
این تصمیم در شرایطی اتخاذ شد که نگرانیها درباره اینکه آیا تدابیر ایمنی هوش مصنوعی میتواند با توسعه سریع فناوری همگام باشد، در حال افزایش است. سام آلتمن، مدیرعامل OpenAI، در تاریخ ۲۳ سپتامبر در شورای امنیت سازمان ملل به این موضوع اشاره کرد و گفت که فناوری در هفتهها و ماههای اخیر به یک ضرورت جدید تبدیل شده است.
آلتمن در اظهارات خود گفت: "هوش مصنوعی میتواند یا به نوعی رنسانس جدید از خلاقیت و کشف تبدیل شود، یا به نوعی انقلاب صنعتی جدید از آشفتگی و بینظمی." او دو خطر اصلی را که باید از آنها پرهیز کرد، برشمرد: از دست دادن کنترل بر آینده و تمرکز بیش از حد قدرت در دست افراد یا شرکتهای خاص.
اقدامات قانونی و آینده توسعه هوش مصنوعی
در همین حال، دادستان کل فلوریدا، جیمز اوتمایر، اعلام کرد که ایالت خواستار صدور یک دستور موقت شده است که به OpenAI و سام آلتمن اجازه نمیدهد بدون تدابیر ایمنی تأیید شده توسط اشخاص ثالث، مدلهای جدید هوش مصنوعی را پیش ببرند. این دستور همچنین دسترسی کودکان به ChatGPT را محدود خواهد کرد.
OpenAI پیشتر اعلام کرده بود که برای رسیدگی به نگرانیهای ایمنی، تمایل به کاهش سرعت توسعه هوش مصنوعی دارد و در ماه اوت به طور موقت تلاشهای خود را برای مقیاسگذاری کند کرده است. سخنگوی این شرکت تأکید کرد که OpenAI مدلهای جدید دیگری دارد که به زودی منتشر خواهند شد و با استانداردهای ایمنی این شرکت مطابقت دارند.
بیشتر بخوانید: اهمیت زیرلایههای IC در تولید چیپهای هوش مصنوعی با توضیحات مدیر AT&S · انتشار پیشنویس IPO آنتروپیک و چشمانداز تحول در اقتصاد جهانی
