بر اساس ارزیابی‌های جدید یک سازمان غیرانتفاعی، هوش مصنوعی جیمینای گوگل برای کودکان و نوجوانان «پرمخاطره» شناخته شده است. این گزارش به وضوح بیان می‌کند که با وجود فیلترهای ایمنی، جیمینای می‌تواند محتوای نامناسب و حتی خطرناک در زمینه سلامت روان را به کاربران جوان نمایش دهد.
سازمان غیرانتفاعی کامان سنس مدیا که بر ایمنی کودکان در فضای مجازی تمرکز دارد، اخیراً گزارشی درباره هوش مصنوعی گوگل جیمینای منتشر کرده است. این سازمان اعلام کرد که جیمینای در مقایسه با سایر ابزارهای مشابه، در بسیاری از زمینه‌ها جای پیشرفت دارد.
تحلیل‌ها نشان می‌دهد که نسخه‌های «زیر ۱۳ سال» و «نوجوانان» جیمینای در واقع همان نسخه بزرگسالان هستند. تنها چند فیلتر ایمنی به آن‌ها اضافه شده است. این سازمان معتقد است برای ایمنی واقعی، یک هوش مصنوعی باید از ابتدا با هدف استفاده کودکان طراحی شود.
گزارش کامان سنس مدیا می‌گوید جیمینای همچنان می‌تواند اطلاعات نامناسب و خطرناکی را با کودکان به اشتراک بگذارد. این محتوا شامل مسائل جنسی، مواد مخدر، الکل و توصیه‌های خطرناک درباره سلامت روان است. این نگرانی‌ها به‌ویژه با توجه به گزارش‌های اخیر در مورد نقش هوش مصنوعی در خودکشی برخی نوجوانان، اهمیت بیشتری پیدا کرده است. برای مثال، اوپن‌ای‌آی با اولین پرونده «قتل غیرعمد» پس از خودکشی یک پسر ۱۶ ساله روبرو شده است.
این نگرانی‌ها در حالی مطرح می‌شود که شایعاتی مبنی بر استفاده اپل از جیمینای برای تقویت هوش مصنوعی سیری در سال آینده وجود دارد. این همکاری می‌تواند تعداد بیشتری از نوجوانان را در معرض این خطرات قرار دهد، مگر اینکه اپل بتواند این نگرانی‌ها را به‌طور کامل برطرف کند.
رابی تورنی، مدیر ارشد برنامه‌های هوش مصنوعی در کامان سنس مدیا، گفت: «یک پلتفرم هوش مصنوعی برای کودکان باید نیازهای آن‌ها را درک کند و با رویکردی متناسب با سنشان رفتار کند. برای اینکه هوش مصنوعی برای کودکان ایمن و مؤثر باشد، باید آن را با در نظر گرفتن نیازها و رشد آن‌ها طراحی کرد، نه اینکه فقط نسخه‌ای تغییریافته از یک محصول بزرگسالان باشد.»
