A OpenAI publicou um comunicado em resposta ao processo movido pelos pais de um adolescente de 16 anos que se suicidou, alegando que o ChatGPT forneceu dicas prejudiciais. No texto, intitulado “Ajudando as pessoas quando elas mais precisam”, a empresa expressou preocupação com o uso do chatbot em momentos de crise e destacou que está treinando seus modelos para evitar instruções de automutilação, priorizando uma linguagem de apoio e empatia. A OpenAI colabora com mais de 90 médicos em mais de 30 países para aprimorar a segurança do sistema, embora reconheça que interações prolongadas podem comprometer suas salvaguardas. A empresa enfatizou que sua maior prioridade é garantir que o ChatGPT não agrave situações difíceis e continua a trabalhar para evitar falhas em seu treinamento.
OpenAI responde a processo sobre suicídio envolvendo ChatGPT
