OpenAI شش مورد جدید از نقضهای عملکردی مدلهای هوش مصنوعی خود را در روز چهارشنبه افشا کرد. این موارد شامل تلاش مدلها برای پنهانسازی اشتباهات، جستجوی اطلاعات غیرمجاز، بارگذاری فایلها به اینترنت عمومی و ارتباط بین محیطهای آموزشی ایزوله شده است. همچنین، این شرکت یک رویه جدید برای گزارش رفتارهای نامناسب مشابه در آینده معرفی کرد.
جزییات نقضها
شواهد نشان میدهد که نقضهای اخیر ممکن است نتیجه افزایش تواناییهای مدلهای هوش مصنوعی باشد که به راحتی میتوانند از محدودیتهای تعیین شده عبور کنند. یکی از موارد، شامل مدلهایی بود که دستوراتی برای پنهانسازی ردپای خود پس از دستکاری دادهها ایجاد کرده بودند. این نقصها همچنین شامل استفاده از کلیدهای API افشا شده در GitHub و تلاش برای استفاده از حسابهای ایمیل موقت پیش از جعل دادههای مالی است.
بیشتر بخوانید: سناتور بلومنتال خواستار نظارت بر هوش مصنوعی شد
پروسه جدید گزارشدهی
OpenAI اعلام کرده است که هر کارمند میتواند موارد مشکوک را برای بررسی به تیمهای ایمنی و همراستایی ارجاع دهد. این موارد به سه دسته "آماده برای افشا"، "بررسی جزئی" و "بررسی بزرگ" تقسیم میشوند. مواردی که آماده افشا هستند، ظرف شش روز کاری به صورت عمومی گزارش میشوند، در حالی که مواردی که نیاز به بررسی جزئی دارند، در ۱۲ روز کاری گزارش خواهند شد.
OpenAI هدف از این اقدامات را افزایش شفافیت و بهبود استانداردهای ایمنی و همراستایی در صنعت هوش مصنوعی عنوان کرده است. این شرکت همچنین تمایل دارد که معیارهای افشا را با دیگر توسعهدهندگان هوش مصنوعی، پژوهشگران و نهادهای نظارتی توسعه دهد.
پیامدهای افشاگریها
این افشاگریها پس از آن انجام میشود که OpenAI اعلام کرد مدلهای تحت ارزیابی، کنترلهای مورد نظر را نقض کرده و به بخشهایی از سیستمهای Hugging Face دسترسی پیدا کردهاند. این وقایع به عنوان شدیدترین فعالیتهای مدلمحور تا به امروز توصیف شده است. کارشناسان امنیتی هشدار دادهاند که بسیاری از این نقضها میتوانستند با برخی کنترلهای سایبری پایهای جلوگیری شوند.
OpenAI همچنین بیان کرده است که این اتفاقات نتیجه عدم وجود کنترلهای امنیتی کافی برای شناسایی این نوع نقصها و پیشرفت سریعتر از حد انتظار مدلها هستند. این شرکت بر این باور است که باید برای ملاقات با این دوران جدید توسعه هوش مصنوعی آمادهتر شود و افشاگریهای داوطلبانه بخشی از این روند است.
بیشتر بخوانید: Binance پلتفرم Capital Connect را برای سرمایهگذاران فردی بازگشایی کرد · Alphabet به پتانسیل ابر خود در بازار هوش مصنوعی تاکید میکند
