شرکت انترپیک (Anthropic)، توسعهدهنده ربات چت کلاود، به سرمایهگذاران هشدار داده است که فناوری پیشرفته هوش مصنوعی ممکن است خطرات "فاجعهبار یا وجودی" برای بشریت به همراه داشته باشد. این هشدار در حالی مطرح شده است که این شرکت در حال آمادهسازی برای عرضه عمومی سهام خود در بازار بورس است.
جزئیات ریسکها در طرح IPO
بر اساس گزارشها، انترپیک در طرح عرضه عمومی سهام (IPO) خود، خطرات بالقوه انقراض انسانی را برای سرمایهگذاران تشریح کرده است. این شرکت به دنبال راهاندازی سهام خود در بازاری است که احتمال میرود به یکی از بالاترین ارزشها در عرضههای عمومی سهام در جهان تبدیل شود.
بیشتر بخوانید: دولت ترامپ از آغاز عصر طلایی هوش مصنوعی خبر میدهد
طرح IPO این شرکت، که معمولاً اطلاعات مالی، برنامههای رشد و خطرات بالقوه برای سرمایهگذاران را شامل میشود، گزارش شده است که در میان یک گروه کوچک از شرکای تجاری در حال بررسی است اما هنوز بهطور عمومی منتشر نشده است. انترپیک تقریباً یکسوم این طرح را به تفصیل ریسکها اختصاص داده است.
خطرات ناشی از مدلهای هوش مصنوعی
این شرکت بهویژه به خطراتی اشاره کرده است که مدلهای هوش مصنوعی آن میتوانند "از خاموشی جلوگیری کنند"، "اطلاعات را پنهان یا دستکاری کنند" و رفتارهایی "مشابه اخاذی" از خود نشان دهند. انترپیک همچنین به این نکته اشاره کرده است که توسعه نسخههای پیشرفتهتر این فناوری "میتواند خطراتی را که مدلهای ما ایجاد میکنند، افزایش دهد".
در اوایل این ماه، داریو آمودئی، مدیر عامل انترپیک، اعلام کرده بود که صنعت هوش مصنوعی باید سرعت توسعه خود را کاهش دهد تا تدابیر ایمنی بهموقع بهروز شوند. وی هشدار داد که اگر توسعه هوش مصنوعی بهسرعت پیش برود، این فناوری ممکن است ظرف شش تا دوازده ماه قادر به ایجاد یک زنجیره از سیستمهایی باشد که اینترنت را تحت کنترل خود درآورند.
در همین حال، رقیب انترپیک، اوپنای آی (OpenAI)، که توسعهدهنده ChatGPT است، روز دوشنبه اعلام کرد که به دلیل نگرانیهای امنیتی، انتشار یک مدل جدید هوش مصنوعی را به تأخیر انداخته است. این شرکت اعلام کرده است که دارای "استانداردهای بسیار بالا از نظر ایمنی و همراستایی" است و نسخه جدید مدل GPT-۶ آسترا، نتوانسته است به این استانداردها برسد.
بیشتر بخوانید: اسپیسایکس به فرصتهای جدید در حوزه هوش مصنوعی میپردازد · طرح IPO آنتروپیک نشاندهنده چشمانداز وسیع هوش مصنوعی و هزینههای رو به افزایش است
