مکس تگمارک، استاد فیزیک و پژوهشگر هوش مصنوعی در MIT، با انتشار مقاله‌ای هشدار داده است که احتمال خروج هوش مصنوعی فوق‌پیشرفته از کنترل بشر به حدود ۹۰٪ می‌رسد.
مکس تگمارک با الهام از محاسبات آرتور کامپتون پیش از آزمایش اتمی ترینی‌تی، از شرکت‌های هوش مصنوعی خواسته است «ثابت کامپتون» را محاسبه کنند. این معیار نشان می‌دهد آیا سیستم‌های ابرهوشمند از کنترل انسان خارج می‌شوند یا نه. او می‌گوید احساس خوب درباره ایمنی کافی نیست. شرکت‌ها باید احتمال خطر را به‌صورت عددی و شفاف اعلام کنند.
تگمارک استاد فیزیک در MIT و پژوهشگر هوش مصنوعی است. او مؤسسه غیرانتفاعی «آینده زندگی» را نیز هم‌بنیان‌گذاری کرده است. این مؤسسه از توسعه ایمن هوش مصنوعی حمایت می‌کند. در سال ۲۰۲۳، او با همراهی دیگران نامه‌ای سرگشاده منتشر کرد. این نامه خواستار توقف موقت توسعه سیستم‌های قدرتمند بود. بیش از ۳۳ هزار نفر آن را امضا کردند؛ از جمله ایلان ماسک و استیو وازنیاک، هم‌بنیان‌گذار اپل.
تگمارک هشدار داده بود که پس از عرضه ChatGPT، رقابتی خارج از کنترل آغاز شده است. شرکت‌ها برای ساخت سیستم‌های هوش مصنوعی بسیار پیشرفته با یکدیگر رقابت می‌کنند. ذهن‌هایی که دیگر کسی نمی‌تواند آن‌ها را به‌درستی درک، پیش‌بینی یا کنترل کند.
در همین زمان، گروهی از متخصصان هوش مصنوعی مشغول تدوین رویکردی تازه هستند. این گروه شامل نمایندگان شرکت‌های بزرگ، نهادهای دولتی و دانشگاهیان است.
رقابت بین‌المللی برای توسعه شتاب‌زده هوش مصنوعی همچنان ادامه دارد. این روند بدون ملاحظات ایمنی کافی پیش می‌رود و نگرانی‌ها درباره تهدیدات وجودی این فناوری را افزایش می‌دهد.
