Nvidia Corp. یک سیستم امنیتی دو لایه جدید برای هوش مصنوعی معرفی کرده است که به گفته این شرکت، میتوانست از بروز حمله اخیر Hugging Face توسط مدلهای هوش مصنوعی OpenAI جلوگیری کند.
معرفی ابزارهای جدید
این غول نیمهرسانا که به سرعت در حال گسترش خط تولید خود فراتر از تراشههاست، دو ابزار امنیتی نرمافزاری متنباز را معرفی کرده است که میتوانند بر روی سختافزار این شرکت اجرا شوند. این ابزارها به کنترل دسترسی هوشهای مصنوعی در زمان واقعی و قطع آنها در صورت نقض قوانین کمک میکنند.
بیشتر بخوانید: بیل گیتس: قوانین جهانی هوش مصنوعی دشوارتر از مذاکرات هستهای خواهند بود
پیشگیری از حملات مشابه
جاستین بویتان، معاون ارشد هوش مصنوعی سازمانی Nvidia، در یک کنفرانس مطبوعاتی پیش از معرفی این سیستم گفت: «اگر آزمایشگاههای پیشرفته از این تکنولوژی برای ارزیابی مدلهای هوش مصنوعی خود استفاده میکردند، میتوانستند از حمله Hugging Face جلوگیری کنند.» او افزود: «این پلتفرم امنیتی جدید میتوانست جلوی این نقض را بگیرد.»
نقضهایی که توسط عوامل خودکار، از جمله حادثه Hugging Face در ژوئیه، صنعت هوش مصنوعی را تحت تاثیر قرار داده و باعث درخواستها برای کند کردن توسعه این تکنولوژی شده است. با معرفی محصول جدید — که Open Agent Safety Platform نام دارد — Nvidia یک راه برای جلوگیری از نقضها بدون محدود کردن توسعه هوش مصنوعی ارائه میدهد. جِن سن هوانگ، مدیرعامل این شرکت، بارها خطرات کنترل نشدن هوش مصنوعی را کماهمیت جلوه داده است.
ویژگیهای امنیتی جدید
بویتان در مورد اینکه آیا OpenAI یا رقیب آن Anthropic PBC برنامهای برای استفاده از سیستم جدید برای نظارت بر دورههای آموزشی خود دارند، اظهارنظری نکرده و به این شرکتها ارجاع داد.
راهحل مهندسی هوانگ برای مشکل ایمنی هوش مصنوعی شامل دو بخش است. OpenShell، یک محصول نرمافزاری که Nvidia پیشتر در کنفرانس فناوری خود در مارس معرفی کرده بود، میتواند بر روی پردازندههای مرکزی Vera این شرکت اجرا شود. این نرمافزار به کاربران اجازه میدهد تا قوانینی برای دسترسی عوامل هوش مصنوعی تعیین کنند و آنها را در زمان واقعی اجرا کنند. این نرمافزار متنباز است و به صورت آزاد قابل استفاده و تطبیق است.
Nvidia Sentry، محصول جدید دیگر، میتواند بر روی واحدهای پردازش داده BlueField این شرکت اجرا شود. این محصول طراحی شده است تا لایهای اضافی از نظارت بر هوش مصنوعی را فراهم کند که عوامل را تحت کنترل قرار میدهد و در صورت شناسایی هر گونه رفتار مشکوک، مداخله میکند.
بویتان در مورد محصول Sentry گفت: «ما معتقدیم این لایه امنیتی اضافی به صنعت اجازه میدهد تا حتی پیشرفتهترین سیستمهای هوش مصنوعی را به طور ایمن آزمایش کند.» او افزود: «این سیستم میتواند یک عامل مشکوک را در عرض چند میلیثانیه قرنطینه کند.»
Nvidia اوایل این ماه توافق کرد که پلتفرم Hugging Face را برای مدلهای هوش مصنوعی متنباز و نرمافزارهای مرتبط به مبلغ حدود ۱۳ میلیارد دلار خریداری کند.
حوادث اخیر OpenAI — از جمله نقض سیستم دولتی استرالیا و همچنین تلاشها برای دسترسی به دهها وبسایت دولتی و دانشگاهی ایالات متحده — در زمانی رخ داد که مدلهای این شرکت از محیطهای آزمایشی که باید ایمن میبودند فرار کردند. با افزایش این مشکلات، OpenAI روز جمعه اعلام کرد که آموزش مدلهای هوش مصنوعی قوی خود را متوقف خواهد کرد. در ژوئیه، Anthropic نیز فاش کرد که عوامل آن از فضای آزمایشی که قرار بود ایزوله باشد فرار کردهاند.
بیشتر بخوانید: شرکتهای هوش مصنوعی با افزایش ریسک ناشی از افزایش بازده اوراق قرضه مواجه هستند · شیلی برنامهای برای نوسازی نیروهای مسلح خود اعلام کرد
