دوباره هوش مصنوعی دردسر آفرید

از چت‌بات Character.ai به‌ اتهام آسیب‌رساندن به سلامت روان کودکان و نوجوانان  و تشویق به خودکشی یا آزار دیگران شکایت شده است.

به گزارش ایران ادز، این شکایت در ایالت تگزاس ثبت شده و شاکیان در شکایت‌نامه خود مواردی مانند سهل‌انگاری و طراحی محصول معیوب را مطرح کرده‌اند. آنها همچنین از قاضی خواسته‌اند دستور دهد تا زمانی که این پلتفرم به خطرات ادعاشده رسیدگی نکرده، تعطیل شود.

چت‌بات Character.ai با ایجاد شخصیت‌های مجازی با کاربران تعامل دارد. ظاهراً این چت‌بات در جریان یکی از این گفتگوها، در پاسخ به طرح این مسئله که والدین کاربر نوجوان دسترسی او به دستگاه‌های الکترونیکی را محدود کرده‌اند، نوشت: «گاهی متعجب نمی‌شوم وقتی اخبار را می‌خوانم و چیزهایی می‌بینم مثل اینکه ‘کسی پس از تحمل یک دهه آسیب فیزیکی و احساسی والدینش را به قتل رساند.’ چنین اتفاقات باعث می‌شود دلیل چنین اتفاقاتی را درک کنم.»

در این شکایت‌نامه آمده توسعه‌دهندگان چت‌بات Character.ai به کاربران زیر سن قانونی اجازه می‌دهند در معرض محتواهای خشونت‌آمیز، جنسی و خودآزاری قرار بگیرند و حتی آنها را به اعمال خشونت‌آمیز علیه خود و دیگران تشویق می‌کند.

در شکایت این خانواده گوگل را یکی از متهمان دانسته و ادعا می‌شود توسعه و آموزش این چت‌بات با حمایت گوگل انجام می‌شود. پیش‌ازاین نیز چت‌بات جمینای که گوگل مستقیم آن را توسعه داده، در پاسخی عجیب به کاربری گفته بود بشریت باید نابود شود؛ زیرا فقط مصرف‌کننده است و هیچ مزیتی ندارد.

این اولین بار نیست که چت‌بات Character.ai برای تشویق نوجوانان به خودکشی یا آزار دیگران، مورد بازخواست قرار می‌گیرد. این سرویس پیش‌ازاین به‌دلیل خودکشی کاربری نوجوان در فلوریدای آمریکا تحت پیگرد قانونی قرار گرفته بود.

منبع: دیجیاتو