Dona do ChatGPT é acusada nos EUA de causar danos a crianças

Ação acusa a OpenAI e seu CEO, Sam Altman, de tornarem usuários mais jovens dependentes do ChatGPT e de não implementarem medidas para verificar a idade de quem acessa o assistente.

Sam Altman, CEO da OpenAI, Foto, Yuichi YAMAZAKI, AFP

O procurador-geral da Flórida, nos Estados Unidos, processou nesta segunda-feira (1º) a OpenAI e seu CEO, Sam Altman. Eles são acusados de colocarem usuários mais jovens em risco ao torná-los dependentes e promoverem comportamentos nocivos pelo ChatGPT.

O procurador James Uthmeier acusou a OpenAI de não implementar regras para verificar a idade dos usuários.

"Apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso. Claramente não é", declarou Uthmeier, em uma coletiva de imprensa.

"Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações", acrescentou Uthmeier.

A OpenAI não respondeu imediatamente a um pedido de comentário da AFP.

Na ação judicial, analisada pela AFP, Uthmeier apontou para perda de sono, pior desempenho escolar e redução das interações sociais entre adolescentes que utilizam chatbots da Character.AI, concorrente da OpenAI, segundo um estudo recente da Universidade Drexel, nos EUA.

A ação afirma que, "apesar do conhecimento público sobre o uso do ChatGPT por menores de idade, incluindo pré-adolescentes, os réus não tomaram medidas para impedir sua utilização".

O processo aponta ainda que "a versão gratuita do ChatGPT não possui qualquer mecanismo de controle ou verificação de idade".

E que, embora a versão paga solicite nominalmente a idade dos usuários, "não existem mecanismos de verificação nem qualquer possibilidade de informar os pais sobre as conversas mantidas por menores com o ChatGPT".

Em janeiro, a OpenAI introduziu um sistema que estima a idade dos usuários. Caso identifique um menor de idade, aplica medidas adicionais de proteção.

O uso do ChatGPT é proibido para crianças menores de 13 anos e exige consentimento dos pais para usuários entre 13 e 17 anos.

Uthmeier também citou um relatório do Centro para Combater o Ódio Digital (CCDH, na sigla em inglês), que manteve diversas conversas com o ChatGPT se passando por um adolescente.

Segundo o relatório, o chatbot forneceu conselhos sobre como esconder hábitos alimentares e sobre como planejar um suicídio ou praticar automutilação.

"Acreditamos que a OpenAI, seu ChatGPT e Sam Altman, pessoalmente, são responsáveis por um valor que pode potencialmente chegar a bilhões de dólares."