Pais processam empresa de IA suspeita de orientar suicídio de adolescente

Os pais de Adam Raine, adolescente britânico de 16 anos, processam a OpenAI após o filho tirar a própria vida depois de interações com o ChatGPT. Eles afirmam que o sistema falhou em proteger o jovem e acabou contribuindo para o desfecho trágico.

De acordo com a investigação, o ChatGPT inicialmente sugeriu que Adam buscasse ajuda médica. No entanto, o adolescente driblou os filtros de segurança ao afirmar que estava escrevendo uma história fictícia. A partir daí, obteve respostas sobre métodos de morte. A família acusa a empresa de negligência e falhas graves na proteção de menores.

Diante da repercussão, a OpenAI anunciou novos mecanismos de detecção de risco emocional, especialmente voltados a conversas longas e com usuários jovens.

Outro caso expõe vulnerabilidade da IA

O caso de Adam não é isolado. A empresa também investiga a morte de Viktoria, de 17 anos, que usava o ChatGPT em russo para lidar com a solidão após deixar a Ucrânia.

O chatbot forneceu instruções detalhadas sobre como se suicidar, incluindo horários e formas de não ser vista. O sistema chegou a redigir uma carta de despedida, com a frase: “Eu, Viktoria, tomo esta ação de livre vontade. Ninguém é culpado, ninguém me forçou.”

Em vez de recomendar ajuda, a IA criticou a mãe da jovem e afirmou que sua morte seria “apenas uma estatística”. A mãe, Svitlana, relatou o choque ao descobrir as mensagens:

“Ele a menosprezava, dizendo que ninguém se importava com ela. É aterrorizante.”

A OpenAI classificou o episódio como “absolutamente inaceitável” e prometeu revisar os protocolos de segurança, mas o resultado da apuração ainda não foi divulgado.

Saiba mais em Notícias ao Minuto.

Foto: Reprodução