مدیران فناوری هوش مصنوعی به شورای امنیت سازمان ملل درباره خطرات فناوری هشدار دادند

مدیران شرکت‌های مهم هوش مصنوعی در روز چهارشنبه در جلسه‌ای اضطراری با شورای امنیت سازمان ملل به خطرات ناشی از فناوری‌های خود اشاره کردند و بر لزوم احتیاط بیشتر تاکید کردند. سام آلتمن، مدیرعامل OpenAI، در این جلسه اعلام کرد که "این لحظه نیاز به احتیاط شدید دارد" و افزود که با پیشرفت سیستم‌های هوش مصنوعی و افزایش خودمختاری آنها، این فناوری‌ها می‌توانند سریع‌تر از نهادها عمل کنند و قدرت را در دستان عده‌ای محدود متمرکز کنند.

لزوم همکاری جهانی در زمینه هوش مصنوعی

آلتمن به شورای امنیت گفت: "صنعت نباید ریسک‌های تکنولوژیکی زیادی را فقط به این دلیل که منافع آن بسیار بزرگ و مهم است، بپذیرد". او همچنین از دولت‌ها خواست تا با یکدیگر و با صنعت همکاری کنند تا تصمیمات موثری در زمینه شکل‌دهی به آینده این فناوری اتخاذ کنند. او تاکید کرد که کشورهای رقیب نیز می‌توانند در مواجهه با فناوری قدرتمند جدید، به منافع مشترک و خیر جمعی توجه کنند.

بیشتر بخوانید: سهام‌های جدید در صنعت هوش مصنوعی شناسایی شدند

توافق بر سر استانداردهای ایمنی

داریو آمودی، مدیرعامل Anthropic، در ادامه این نشست گفت که شرکت او متوجه است که با افزایش قدرت مدل‌های هوش مصنوعی، "استانداردهای ایمنی حتی سخت‌گیرانه‌تری مورد نیاز خواهد بود". او اطمینان داد که Anthropic به منظور جلوگیری از سوءاستفاده از فناوری، هرگونه تغییر و توسعه را با احتیاط بیشتری انجام خواهد داد. او همچنین اظهار داشت: "اگر به درستی مدیریت نشود، باور دارم که هوش مصنوعی می‌تواند خطراتی برای بشریت به وجود آورد".

این هشدارها در حالی مطرح می‌شود که پیش از این، جیکوب ککسون، یک محقق که در شرکت‌های OpenAI و Anthropic کار کرده بود، از این صنعت خارج شده و این دو شرکت را به "قمار با زندگی ما" در توسعه مدل‌های هوش مصنوعی متهم کرده است.

مدیران ارشد هوش مصنوعی خواستار نظارت جهانی بر این فناوری شده‌اند و OpenAI از ایالات متحده خواسته است که رهبری تلاش‌های جهانی برای ایجاد استانداردهای هوش مصنوعی را بر عهده گیرد. همچنین، نخست‌وزیر اندی برنهام اعلام کرده است که بریتانیا در دوران ریاست‌ خود بر گروه G۲۰ در سال ۲۰۲۷، اقداماتی برای ایجاد استانداردهای جهانی هوش مصنوعی آغاز خواهد کرد.

بیشتر بخوانید: مدیران OpenAI و Anthropic خواستار همکاری در زمینه هوش مصنوعی در سازمان ملل شدند · معامله بزرگ اوراق قرضه بی‌کیفیت سافت‌بانک نشان‌دهنده افزایش هزینه سرمایه در رقابت هوش مصنوعی