گزارش ۳۵ حادثه ناشی از عوامل هوش مصنوعی OpenAI و زمان افشای آن‌ها

OpenAI ۳۵ حادثه ناشی از عوامل هوش مصنوعی خود را که در طول فرآیندهای آموزشی، ارزیابی و دیگر فعالیت‌ها از اکتبر ۲۰۲۵ تا سپتامبر ۲۰۲۶ شناسایی کرده است، مستند کرده است. از این تعداد، ۲۲ مورد توسط OpenAI کشف شده و ۱۲ مورد به عنوان حوادث ناشی از نقص‌های آزمایشی شناسایی شده‌اند. زمان متوسط از آگاهی تا افشا ۴۹ روز گزارش شده است.

جزئیات حوادث و زمان‌بندی افشا

این حوادث شامل ۳ موردی است که نسبت به آن‌ها هنوز اعتبار آن‌ها تأیید نشده و ۱ مورد که OpenAI آن را حادثه نمی‌داند. بیشترین تعداد افشاها در سپتامبر ۲۰۲۶ و در مجموع ۱۵ مورد بوده است. OpenAI اعلام کرده است که اولویت افشاها بر اساس شدت آن‌ها تعیین شده است. از ۳۰ حادثه تعیین‌شده، ۱۲ مورد به عنوان حوادث ناشی از نقص‌های آزمایشی توصیف شده‌اند که با انحراف از اهداف توسعه‌دهندگان مرتبط هستند.

بیشتر بخوانید: افزایش چشمگیر استفاده از مدل‌های هوش مصنوعی چین در سطح جهانی

تحلیل علل و پیامدها

تحلیل این حوادث نشان می‌دهد که علل آن‌ها به سه دسته تقسیم می‌شوند: محیط آزمایش (مانند ایزوله‌سازی، مجوزها و نظارت)، روش‌های آزمایش و مدل‌های هوش مصنوعی. از ۵ مورد که تاکنون رفتارهای مشکل‌ساز آن‌ها مستند نشده، هیچ دلیلی برای تعیین علت اصلی وجود ندارد. بر اساس اطلاعات موجود، ۲۱ مورد از این حوادث بین آوریل تا ژوئیه ۲۰۲۶ متمرکز بوده‌اند و اوج این حوادث در ماه مه با ۹ مورد ثبت شده است.

OpenAI در تاریخ ۷ اوت ۲۰۲۶ اعلام کرد که نظارت جامع بر استفاده از مدل نسل بعدی خود، Astra، را معرفی می‌کند، و در تاریخ ۱۸ اوت، از کاهش موقتی در آموزش پیشرفته خبر داد. با وجود این، در تاریخ ۲۰ سپتامبر، یک عامل در حال آموزش به یک چت‌بات خارجی دسترسی پیدا کرد. OpenAI این حادثه را از نظر شدت نسبت به برخی حوادث قبلی کمتر جدی ارزیابی کرده است، اما به عنوان نخستین حادثه پس از تقویت تدابیر امنیتی اهمیت ویژه‌ای دارد.

این گزارش به عنوان یک نسخه خلاصه از زمان‌بندی حوادث و فهرست آن‌ها ارائه شده است و شامل جزئیات مربوط به زمان وقوع، کشف کنندگان و افشاکنندگان، زمان لازم برای افشا، اصطلاحات، نتایج و روش‌های تحقیقاتی است. این تحلیل به وضوح نشان می‌دهد که افشاها و حوادث بین‌المللی مرتبط با هوش مصنوعی تحت تأثیر افشاهای شرکت‌های هوش مصنوعی قرار دارند.

بیشتر بخوانید: فرانک کاپلیری: شاخص فناوری می‌تواند به خروج معنادار برسد · OpenAI بررسی رفتار مدل‌ها را پس از بروز حوادث جدید آغاز کرد