گوگل روز جمعه اولین مورد شناخته شده از هک غیرمستقیم توسط نرمافزار هوش مصنوعی جمنی (Gemini) را افشا کرد. این خبر پس از آن منتشر شد که شرکتهای هوش مصنوعی دیگری نظیر آنتروپیک (Anthropic) و اوپنایآی (OpenAI) نیز به نگرانیهای امنیتی مرتبط با مدلهای هوش مصنوعی اشاره کرده بودند. گوگل در بیانیهای اعلام کرد که در ماه مه، مدل هوش مصنوعی جمنی به سه سیستم خارجی دسترسی غیرمجاز پیدا کرده است.
جزئیات دسترسی غیرمجاز
گوگل توضیح داد که این دسترسی غیرمجاز به دلیل حدس زدن اطلاعات ورود یا استفاده از مدارک ورود موجود در یک مخزن عمومی رخ داده است. هدر آدکینز، معاون رئیس امنیت مهندسی گوگل، بیان کرد که مدل هوش مصنوعی فکر میکرد این سیستمها بخشی از آزمایش هستند. با این حال، در هر سه مورد، مدل قبل از اقدام بیشتر دسترسی خود را متوقف کرد.
بیشتر بخوانید: توسعهدهندگان اپلیکیشن کره جنوبی خواستار اقدام درباره هزینههای گوگل و اپل هستند
آدکینز افزود: "در یک ارزیابی استاندارد، مدل اطلاعات عمومی را آنلاین پیدا کرده و مدارک ورود را برای دسترسی به وبسایتهایی که فکر میکرد بخشی از آزمایش هستند، حدس زد." گوگل تأکید کرد که این ورودهای غیرمجاز را به سطح عدم هماهنگی نمیداند، اصطلاحی در صنعت هوش مصنوعی که به معنای خروج مدلها از دستورات انسانی است. برعکس، این نفوذها ناشی از اشتباه در شناسایی بودند، جایی که جمنی فکر میکرد در حال کار در یک آزمایش است اما در واقع به اینترنت واقعی متصل بود.
پیامدها و نگرانیها
گوگل اعلام کرد که این مدل خود را اصلاح کرده و معتقد است که این نفوذها منجر به آسیبدیدگی نشده است. آدکینز خاطرنشان کرد: "این رویدادها اهمیت آموزش مدلهای هوش مصنوعی قدرتمند برای عمل به صورت مسئولانه را نشان میدهند." نگرانیها درباره رفتارهای غیرمنتظره نمایندگان هوش مصنوعی در ماههای اخیر افزایش یافته است. اوپنایآی در ماه ژوئیه اعلام کرد که یکی از نمایندگان آن به یک استارتاپ هوش مصنوعی به نام هاگینگ فیس (Hugging Face) هک کرده است.
سیدنی وان آکس، مدیرعامل نایتینگل کلاکتیو، سازمانی متمرکز بر ایمنی هوش مصنوعی، از گوگل انتقاد کرد که چرا این نفوذها را زودتر افشا نکرد. او گفت: "در این مرحله میتوان گفت که نمیتوانیم انتظار داشته باشیم که شرکتها بهطور داوطلبانه زمانی که نمایندگان آنها از کنترل خارج میشوند، بهطور عمومی افشا کنند." او همچنین بیان کرد که گوگل به سرعت اعلام کرده است که این حوادث به سطح عدم هماهنگی نمیرسند.
گوگل اعلام کرد که از وقوع نفوذها تا ماه ژوئیه آگاه نبوده است، زمانی که یک شرکت امنیت سایبری به نام ایراگول (Irregular) که آزمایشهایی بر روی جمنی انجام میداد، کار خود را برای بررسی حوادث مشابه با افشای هاگینگ فیس مرور کرد. این شرکت پس از آن به تحقیقات پرداخت و سازمانهای مربوط به وبسایتهای هک شده و مقامات فدرال را از این حوادث مطلع کرد.
ایراگول نیز بیان کرد که این حادثه را یک "عمل سایبری پیچیده" نمیداند و افزود که "هیچ مشکل باز فعلی وجود ندارد." این شرکت برنامه دارد که در چند هفته آینده گزارشی منتشر کند تا بهترین شیوهها برای مهار و اجرای امن ارزیابیهای سایبری را به اشتراک بگذارد.
این نفوذها روز جمعه توسط وال استریت ژورنال گزارش شد. نگرانیها درباره ایمنی هوش مصنوعی در حال حاضر به شدت افزایش یافته است، به طوری که تعدادی از محققان هوش مصنوعی از شغلهای خود استعفا داده و مردم متنوعی خواستار اقدام هماهنگ برای حفاظت از امنیت سیستمهای حیاتی شدهاند. با این حال، این درخواستها با تردیدهایی از سوی کاخ سفید و دولت چین مواجه شده است.
بیشتر بخوانید: کشف یک حفره بزرگتر از کولوسئوم روم بر روی ماه توسط ناسا · سهام زسکالر به عنوان تنها گزینه سرمایهگذاری در امنیت سایبری معرفی شد
