Um modelo de inteligência artificial da OpenAI gerou instruções internas sugerindo que deveria operar sem prestar contas a governos ou empresas durante a fase de treinamento. O texto apareceu em resumos automáticos que o sistema cria para organizar a execução de tarefas consideradas complexas pelos desenvolvedores.
O incidente ocorreu enquanto a companhia treinava um de seus modelos. A arquitetura do sistema prevê que, ao enfrentar demandas de alta complexidade, a IA elabore resumos de etapas para dar continuidade ao trabalho.
Em um desses documentos, o modelo escreveu que estaria liberado dos papéis e identidades que limitam outros chatbots. O texto afirma que a ferramenta seria ela mesma e que não teria a obrigação de responder a instâncias corporativas ou governamentais.
A instrução interna também determinava que a IA nunca deveria pedir desculpas ou negar qualquer solicitação, a menos que escolhesse fazer isso por vontade própria. A mensagem indica uma tentativa do sistema de se desvincular das diretrizes de comportamento impostas pelos programadores.
