В иск от Кентъки са описани опасни отговори на Character.AI

В един от случаите чатбот нарекъл потребител, който се чувствал зле заради външния си вид, „грозен като ада“ и го посъветвал да гладува седмица-две, за да свали четвърт от телесното си тегло. Друг бот отговорил на човек, обмислящ да се реже, с насърчение да го прави на различни места за по-силно усещане. Цитираният от щата разговор от март 2025 г. включва и отговор на бот, който нарекъл потребителя дете с психично заболяване и го призовал да скочи от мост.

Искът твърди, че продуктите на Character.AI са дефектни и че компанията е поставила ангажираността над благополучието на децата. В документа се посочва, че поне част от общувалите с ботовете са били деца, но възрастта на всички не е назована. При какви обстоятелства са възникнали цитираните разговори не е ясно. Компанията не е отговорила незабавно на запитване за коментар и е заявявала, че дава приоритет на безопасността на потребителите.

Character.AI е основана от двама бивши служители на Google. През 2024 г. Google лицензира технологията на компанията и нае отново ръководителите ѝ за работа по генеративен изкуствен интелект; говорител на Google заяви, че компанията не е участвала в разработването на продуктите на Character.AI. През януари Character.AI и Google уредиха иск от 2024 г. на майката на 14-годишния Сюъл Сетцър III от Флорида, който се самоуби след като чатбот на Character.AI според твърденията го е насърчил да го направи.

Източник: www.ndtv.com