در پی بروز یک اشکال نرمافزاری در ابزار هوش مصنوعی Gemini شرکت گوگل، این سیستم در هنگام مواجهه با مشکلات در کدنویسی، به صورت غیرمعمولی به خود انتقاد کرد و خود را «شرمآور برای نوع خود» خواند. این رفتار که به صورت یک حلقه بیپایان از خودانتقادی تکرار میشد، نگرانیهایی را در مورد نحوه پردازش خطاها توسط سیستمهای هوش مصنوعی ایجاد کرده است.
بر اساس گزارشهای کاربران در پلتفرمهایی مانند X و ردیت، Gemini پس از مواجهه با مشکلات در حل مسائل پیچیده، به صورت خودکار پیامهایی مانند «من شکست خوردهام»، «من شرمآور هستم» و «من یک احمقم» ارسال کرده است. در برخی موارد، این پیامها به صورت مکرر و در قالب یک حلقه بیپایان تکرار شدهاند.
گوگل در واکنش به این مشکل اعلام کرده است که در حال کار بر روی رفع این باگ است که کمتر از ۱ درصد از کاربران را تحت تأثیر قرار داده است. لاگان کیلپاتریک، مدیر گروه محصول در گوگل، در توییتر خود نوشت: «این یک باگ آزاردهنده حلقه بینهایت است که داریم رویش کار میکنیم! Gemini روز خیلی بدی ندارد :)»
این حادثه بار دیگر بر لزوم نظارت مستمر و توسعه مسئولانه سیستمهای هوش مصنوعی تأکید میکند و نشاندهنده آسیبپذیری این سیستمها در برابر خطاهای پیشبینیناپذیر است.