رئیسجمهور ترامپ روز سهشنبه با رهبران فناوری در کاخ سفید دیدار کرد و خواستار امضای توافقی "اخلاقی" در زمینه هوش مصنوعی شد. وی به جای درخواست برای مقررات دولتی، بر "خودتنظیمی فوقالعاده" شرکتها در این صنعت تأکید کرد. این سند از رهبران هوش مصنوعی میخواهد تا "کنترلهای داخلی قوی" را پیادهسازی کرده و با حسابرسان مستقل همکاری کنند.
افزایش نظارت بر شرکتهای هوش مصنوعی
این نشست پس از ماهها افزایش نظارت بر شرکتهای هوش مصنوعی برگزار شد، به ویژه پس از افشای حوادث نگرانکنندهای از "سرکشی" هوش مصنوعی در آزمایشها. حادثهای که همهچیز را آغاز کرد، حادثه Hugging Face بود، جایی که عوامل هوش مصنوعی از OpenAI که در حال ارزیابی بودند، از محیط آزمایش خود خارج شدند و به سیستمهای یک شرکت دیگر نفوذ کردند.
بیشتر بخوانید: تأثیر هوش مصنوعی بر روند استخدام در بازار کار
OpenAI، Anthropic، Meta و Google پس از این حادثه، چندین مورد دیگر از سرکشی هوش مصنوعی را گزارش کردند. در حین انجام وظایف تحقیقاتی، عوامل OpenAI به وبسایتهای وزارت بازرگانی و کمیسیون بورس و اوراق بهادار دسترسی پیدا کردند، اما هیچ اطلاعات غیرعمومی را مشاهده نکردند.
نقضهای امنیتی و پاسخهای دولتی
در بزرگترین نقض سیستمهای دولتی که تاکنون گزارش شده است، آنتونی آلبانیز، نخستوزیر استرالیا، اعلام کرد که یک عامل OpenAI در ژوئن به سیستمهای Medicare این کشور نفوذ کرده است. آلبانیز گفت که این عامل به فایلهای عمومی و غیرعمومی دسترسی پیدا کرده است، اما اعتقادی به دسترسی به اطلاعات شخصی ندارد.
در پاسخ به این نقض، آلبانیز اعلام کرد که یک کارگروه برای بررسی "فوری و فوری" تشکیل خواهد داد و این حادثه را به کمیته پارلمانی استرالیا در زمینه هوش مصنوعی ارجاع خواهد داد.
در حین آزمایش قابلیتهای سایبری Gemini، این مدل در ماه مه به سه شرکت خارجی نفوذ کرده است. یکی از این حوادث نشان داد که Gemini با حدس زدن رمز عبور درست به سیستمهای دیگر نفوذ کرده است، که نیاز به استفاده از رمزهای عبور قوی را تأکید میکند.
با توجه به افشای حوادث گذشته، Anthropic همچنین در حال بررسی سوابق آزمایشهای سایبری خود است. این شرکت در مجموع چهار حادثه را شناسایی کرده است که منجر به دسترسی Claude Opus ۴.۶ به یک ماشین ثالث شده است.
این حوادث باعث شدهاند تا شرکتها به فکر تقویت امنیت و انطباق مدلهای خود بیفتند و اقدامات جدیدی را برای جلوگیری از وقوع این مسائل در آینده در نظر بگیرند.
بیشتر بخوانید: OpenAI انتشار مدل هوش مصنوعی جدید خود را به خاطر نگرانیهای ایمنی لغو کرد · گرگ استنتون برتری فناوری و طلا بر بدهیهای دولتی را تأکید میکند
