در روزهای گذشته، چت‌بات «گروک» متعلق به ایلان ماسک، به‌طور مکرر و بی‌ربط به سؤالات کاربران، به ادعای «نسل‌کشی سفیدپوستان» در آفریقای جنوبی اشاره کرد.
این اختلال در پلتفرم X (توییتر سابق) دیده شد و جنجال گسترده‌ای به‌پا کرد. شرکت xAI اعلام کرد که عامل این پاسخ‌ها «تغییرات غیرمجاز» در سیستم بوده و بلافاصله آن را اصلاح کرده است.
این ماجرا نگرانی‌ها درباره بی‌طرفی و اعتبار چت‌بات‌ها را افزایش داد.
ایلان ماسک پیش‌تر نیز الگوریتم‌های شرکت‌هایش را تغییر داده بود؛ از جمله در X که توییت‌های خود را هزار برابر بیشتر از دیگران در معرض دید گذاشت. در رابطه با این موضوع نیز ماسک در گذشته ادعاهایی مشابه درباره تبعیض علیه سفیدپوستان در آفریقای جنوبی مطرح کرده بود.رئیس‌جمهور آفریقای جنوبی این ادعاها را «کاملاً نادرست» خوانده و رد کرده است.
با این پیشینه، تصور بی‌طرف بودن گروک نادرست است. چت‌بات‌ها ابزار شرکت‌ها هستند و پاسخ‌هایشان نتیجه تصمیم‌های الگوریتمی و سلیقه‌ای سازندگان است.
این رویداد بار دیگر لزوم نظارت دقیق بر توسعه هوش مصنوعی را، به‌ویژه در مسائل سیاسی و اجتماعی، پررنگ کرد.
