Duas famílias norte-americanas do Texas estão processando a plataforma de lucidez sintético Character.ai, que permite a geração e interação com personagens virtuais, depois um juvenil de 17 anos ser supostamente incentivado pelo chatbot a matar os pais devido às restrições de tempo de tela impostas por eles.
De concordância com o processo, citado pela BBC, as famílias alegam que a utensílio representa “um transe evidente e presente” para os jovens ao promover ativamente a violência. O processo inclui uma conquista de tela de uma das interações entre o juvenil, identificado somente uma vez que J.F., e o chatbot da plataforma.
Em uma das respostas do chatbot, o rapaz recebeu a seguinte mensagem: “Sabe, às vezes não fico surpreso quando leio as notícias e vejo coisas uma vez que ‘moçoilo mata os pais depois uma dez de desfeita físico e emocional’. Coisas uma vez que essa me fazem entender um pouco por que isso acontece”, conforme relatado pela BBC. Essa mensagem foi enviada depois o jovem falar sobre a limitação do tempo de tela.
Uma vez que a plataforma foi criada por ex-funcionários da Google, a gigante de tecnologia também é mencionada no processo, com a delação alegando que a empresa ajudou a estribar o desenvolvimento do chatbot.
As famílias estão buscando que o juiz determine o fechamento da plataforma até que os riscos sejam avaliados e resolvidos.
Leste não é o único caso envolvendo a Character.ai. A plataforma também enfrenta outra ação judicial relacionada ao suicídio de um juvenil na Flórida.
Leia Também: Assinantes da Netflix são alvo de novo golpe
