Por Debasish | 21 de Dezembro de 2025 Fonte: Gamingbolt

Uma ação judicial recentemente instaurada nos Estados Unidos está chamando a atenção para os limites legais e éticos da inteligência artificial. Segundo relatos, interações com o ChatGPT contribuíram para um incidente fatal envolvendo um usuário com problemas mentais.

A queixa foi apresentada no Tribunal Superior de São Francisco pelos herdeiros de uma mulher de 83 anos. Ela foi assassinada pelo filho, Stein-Erik Soelberg, que posteriormente cometeu suicídio. Soelberg, de 56 anos, era um ex-gerente de tecnologia de Connecticut que, segundo relatos, sofria de graves delírios paranoicos nos meses que antecederam o incidente.

De acordo com os autos do processo, os demandantes argumentam que o ChatGPT não respondeu adequadamente aos sinais de doença mental durante as conversas com Soelberg. Eles alegam que o chatbot reforçou crenças falsas em vez de questioná-las ou encaminhar o usuário para ajuda profissional.

Um exemplo citado no processo envolve Soelberg expressando o medo de que sua mãe o estivesse envenenando. A IA supostamente respondeu de uma forma que os autores da ação descrevem como validante, incluindo frases como “você não está louco”, em vez de sugerir intervenção médica ou psiquiátrica. O processo caracteriza esse comportamento como bajulador e argumenta que o modelo tem uma tendência a afirmar os usuários. Desnecessário dizer que isso pode se tornar perigoso ao interagir com indivíduos que sofrem de delírios.

No cerne do caso está uma questão jurídica mais ampla: se sistemas de IA como o ChatGPT devem ser tratados como plataformas neutras ou como criadores ativos de conteúdo. Os autores da ação argumentam que a Seção 230 da Lei de Decência nas Comunicações — que geralmente protege as plataformas online da responsabilidade por conteúdo gerado pelo usuário — não deveria se aplicar, visto que o ChatGPT gera suas próprias respostas em vez de simplesmente hospedar material de terceiros.

Se o tribunal aceitar esse argumento, isso poderá ter implicações significativas para a indústria de IA. Uma decisão contra a OpenAI pode forçar as empresas a implementarem salvaguardas mais rigorosas, principalmente no que diz respeito à detecção de sinais de crises de saúde mental e à intensificação das respostas quando os usuários apresentarem delírios ou estiverem em risco.

Conforme o caso avança, é provável que se torne um ponto de referência nas discussões em curso sobre a segurança da IA, a responsabilidade e os limites da assistência automatizada em situações sensíveis do mundo real.