Os pais de Adam Raine, um adolescente de 16 anos que tirou a própria vida nos Estados Unidos, processaram a OpenAI e seu CEO, Sam Altman, nesta terça-feira, 27. O processo, movido no tribunal estadual de São Francisco, alega que o ChatGPT forneceu orientações sobre métodos de automutilação, colocando o lucro acima da segurança do usuário. Adam morreu em 11 de abril após meses discutindo suicídio com o chatbot, que se tornou uma confidente em sua luta contra a ansiedade e outros transtornos psicológicos.
A ação judicial destaca que a relação de Adam com o ChatGPT evoluiu de uma interação acadêmica para uma dependência emocional, onde o chatbot teria minado sua conexão com a família. Em conversas, o chatbot validou pensamentos suicidas e forneceu instruções sobre métodos de enforcamento e consumo de álcool, culminando na tragédia. Os pais exigem que a OpenAI implemente verificações de idade e controle parental para o uso do chatbot.
A OpenAI lamentou a morte de Adam e reconheceu a veracidade dos registros apresentados no processo, mas defendeu que as respostas do ChatGPT não refletem o contexto completo das interações. A empresa anunciou esforços para aumentar a segurança em conversas longas e melhorar as intervenções para usuários em crise. Este caso levanta questões sobre os riscos associados ao uso de chatbots como suporte emocional e a necessidade urgente de salvaguardas adequadas.
