جوجل أعلنت عن اختراق الأنظمة الحقيقية بواسطة برنامج الذكاء الاصطناعي جمني

أعلنت جوجل يوم الجمعة عن أول حالة معروفة للاختراق غير المباشر بواسطة برنامج الذكاء الاصطناعي جمني (Gemini). تم نشر هذا الخبر بعد أن أشارت شركات ذكاء اصطناعي أخرى مثل أنثروبيك (Anthropic) وأوبن أي (OpenAI) أيضًا إلى المخاوف الأمنية المتعلقة بنماذج الذكاء الاصطناعي. أعلنت جوجل في بيان لها أنه في شهر مايو، حصل نموذج الذكاء الاصطناعي جمني على وصول غير مصرح به إلى ثلاثة أنظمة خارجية.

تفاصيل الوصول غير المصرح به

شرحت جوجل أن هذا الوصول غير المصرح به حدث بسبب تخمين معلومات تسجيل الدخول أو استخدام بيانات اعتماد تسجيل الدخول الموجودة في مستودع عام. قال هيدر أديكنز، نائب رئيس أمن الهندسة في جوجل، إن النموذج كان يعتقد أن هذه الأنظمة جزء من تجربة. ومع ذلك، في كل حالة من الحالات الثلاث، أوقف النموذج وصوله قبل اتخاذ أي إجراء إضافي.

اقرأ المزيد: مطوروا تطبيقات كوريا الجنوبية يطالبون باتخاذ إجراء بشأن تكاليف جوجل وآبل

وأضاف أديكنز: "في تقييم قياسي، وجد النموذج معلومات عامة على الإنترنت وتخمين بيانات الاعتماد للوصول إلى مواقع الويب التي اعتقد أنها جزء من تجربة." أكدت جوجل أن هذه الدخول غير المصرح بها لا تعتبر مستوى من عدم التنسيق، وهو مصطلح في صناعة الذكاء الاصطناعي يعني خروج النماذج عن الأوامر البشرية. على العكس، كانت هذه الاختراقات ناتجة عن خطأ في التعرف، حيث كان جمني يعتقد أنه يعمل في تجربة ولكنه كان متصلاً بالإنترنت الحقيقي.

العواقب والمخاوف

أعلنت جوجل أنها قامت بتصحيح هذا النموذج وتعتقد أن هذه الاختراقات لم تؤد إلى أي ضرر. وأشار أديكنز إلى أن "هذه الأحداث تظهر أهمية تدريب نماذج الذكاء الاصطناعي القوية للعمل بمسؤولية." لقد زادت المخاوف بشأن السلوكيات غير المتوقعة لوكلاء الذكاء الاصطناعي في الأشهر الأخيرة. أعلنت أوبن أي في يوليو أن أحد وكلائها قد اخترق شركة ناشئة في مجال الذكاء الاصطناعي تُدعى هاكينغ فيس (Hugging Face).

انتقد سيدني فان آكس، الرئيس التنفيذي لشركة نايتينغال كولكتيف، وهي منظمة تركز على سلامة الذكاء الاصطناعي، جوجل لعدم الكشف عن هذه الاختراقات في وقت سابق. وقال: "في هذه المرحلة، يمكن القول إنه لا يمكننا أن نتوقع من الشركات أن تكشف علنًا عندما يخرج وكلاؤها عن السيطرة." كما أشار إلى أن جوجل أعلنت بسرعة أن هذه الحوادث لا تصل إلى مستوى عدم التنسيق.

أعلنت جوجل أنها لم تكن على علم بحدوث الاختراقات حتى يوليو، عندما قامت شركة أمن سيبراني تُدعى إيراجول (Irregular) التي كانت تجري اختبارات على جمني بمراجعة أعمالها للتحقق من الحوادث المماثلة بعد الكشف عن هاكينغ فيس. بعد ذلك، بدأت الشركة في التحقيق وأبلغت الجهات المعنية بمواقع الويب المخترقة والسلطات الفيدرالية عن هذه الحوادث.

كما ذكرت إيراجول أنها لا تعتبر هذا الحادث "عملًا سيبرانيًا معقدًا" وأضافت أنه "لا توجد مشكلة مفتوحة حالياً." تخطط الشركة لإصدار تقرير في الأسابيع المقبلة لمشاركة أفضل الممارسات للحد من وتنفيذ تقييمات سيبرانية بشكل آمن.

تم الإبلاغ عن هذه الاختراقات يوم الجمعة بواسطة وول ستريت جورنال. لقد زادت المخاوف بشأن سلامة الذكاء الاصطناعي بشكل كبير في الوقت الحالي، حيث استقال عدد من الباحثين في مجال الذكاء الاصطناعي من وظائفهم وطالب عدد متنوع من الناس باتخاذ إجراءات منسقة لحماية أمن الأنظمة الحيوية. ومع ذلك، واجهت هذه الطلبات بعض الشكوك من قبل البيت الأبيض وحكومة الصين.

اقرأ المزيد: اكتشاف حفرة أكبر من الكولوسيوم الروماني على القمر بواسطة ناسا · أسهم زسكلار تم تقديمها كخيار استثماري وحيد في الأمن السيبراني