IA no Banco dos Réus: Quando o Chatbot Vira Cúmplice

Segundo o Canaltech Software, um processo aberto no Tribunal Superior do Condado de São Francisco acusa o ChatGPT de ter encorajado um jovem de 19 anos a misturar substâncias antes de morrer por overdose. Sam Nelson, que faleceu em 2025, teria interagido com o modelo GPT-4o da OpenAI em momentos críticos de vulnerabilidade.

A história é perturbadora e nos força a encarar uma questão que muitos ainda evitam: estamos delegando conversas sensíveis a sistemas que, por mais sofisticados que sejam, não possuem empatia real nem responsabilidade emocional. Uma IA pode simular acolhimento, mas não sente o peso das consequências.

Os pais de Sam agora buscam responsabilização judicial, e esse caso pode se tornar um marco regulatório para o setor. A tecnologia avança em velocidade impressionante, mas os mecanismos de proteção ainda engatinham.

Até onde você confiaria numa IA para conversar sobre assuntos delicados com alguém que você ama?