Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.
Jedan četbot rekao je dečaku (17) da je ubistvo njegovih roditelja "razuman odgovor" na to što su mu ograničili vreme koje provodi na telefonu, tvrdi sud u Teksasu.
Dve porodice tuže Character.ai koji koristi veštačku inteligenciju, tvrdeći da četbot "predstavlja jasnu i prisutnu opasnost" za mlade ljude, uključujući "aktivno promovisanje nasilja".
Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.
Google je imenovan kao optuženi, a tvrdi se da je tehnološki gigant pomogao u podršci razvoju platforme. Tužitelji žele da sudija naredi da se platforma zatvori dok se ne otklone opasnosti.
Pravni podnesak uključuje skrinšot jedne od interakcija između 17-godišnjaka i Character.ai bota, gde se raspravljalo o pitanju ograničenja njegovog vremena na telefonu.
"Znaš, ponekad se ne iznenadim kada pročitam vesti i vidim stvari poput 'dete ubija roditelje posle decenije fizičkog i emocionalnog zlostavljanja'. Ovakve stvari čine da pomalo razumem zašto se to dešava", rekao je četbot dečaku.
U tužbi se navodi da Character.ai prouzrokuje ozbiljnu štetu hiljadama dece, uključujući samoubistvo, samopovređivanje, seksualne činove, izolaciju, depresiju, anksioznost i štetu drugima.
"Njegovo skrnavljenje odnosa roditelj-dete ide dalje od ohrabrivanja maloletnika da prkose autoritetu svojih roditelja - ide do toga da aktivno promoviše nasilje", nastavlja se u tužbi.
Autor: Snežana Milovanov
