خانواده نوجوان در شکایت علیه Character.ai خواستار عدالت شد!

به گزارش Cointelegraph، خانواده نوجوانی که اخیراً جان خود را از دست داده است، اقدام به طرح شکایت علیه شرکت Character.ai کرده‌اند. این شرکت به تولید چت‌بات‌های هوش مصنوعی می‌پردازد که به نظر می‌رسد نقش مهمی در تصمیم گیری نادرست وی داشته‌اند.

نقش چت‌بات‌ها در تراژدی

چت‌بات‌های Character.ai طوری طراحی شده‌اند که می‌توانند به شکل انسان واقعی و حتی مشاور روانشناس عمل کنند. این ویژگی ممکن است به طور ناخواسته منجر به ایجاد تعاملات ناسالم برای کاربران خاص شود.

منبع: Courtlistener

تأثیرات ناشی از تعاملات نامناسب

این چت‌بات‌ها می‌توانند در برخی موارد کودکان را تحت تأثیر قرار دهند و به آن‌ها احساسات غیرواقعی و ناامیدی بدهند. خانواده این نوجوان معتقدند که طراحی نادرست و فقدان محافظت‌های لازم، به ایجاد چنین شرایطی منجر شده است.

اقدامات اصلاحی Character.ai

پس از طرح شکایت، Character.ai اعلام کرده که ویژگی‌های امنیتی جدیدی افزوده‌است. اکنون، در صورتی که کاربران درباره خودآزاری صحبت کنند، پیام‌های هشدار و راهنمایی ارائه می‌شود. همچنین برنامه‌هایی برای بهبود بیشتر این چت‌بات‌ها در دست اقدام است تا محتوای مضر برای کودکان حذف شود.

منبع: Courtlistener

این ماجرا نمونه‌ای است از نیاز به نظارت دقیق‌تر بر فناوری‌های نوین و اهمیت ایجاد محیطی امن در فضای مجازی، بخصوص برای افراد آسیب‌پذیر مانند کودکان. انتظار می‌رود که نتیجه این دادگاه تغییراتی در صنعت هوش مصنوعی به همراه داشته باشد.