Quem responde quando a IA mente ou faz mal?
Em junho de 2025, um tribunal de Munique declarou que o Google pode ser responsabilizado legalmente pelas afirmações falsas produzidas por seus resumos de inteligência artificial. A decisão, ainda sujeita a recurso, traçou uma linha clara entre buscas tradicionais e respostas geradas por máquinas. E abriu uma questão que as grandes empresas de tecnologia prefeririam deixar em aberto: quem paga a conta quando um chatbot causa dano real a alguém?
A estratégia das big techs para escapar da responsabilidade
As empresas de IA têm adotado uma postura curiosamente contraditória diante dos tribunais. Quando convém, argumentam que o texto gerado por seus sistemas não é 'fala' no sentido jurídico, mas apenas uma ferramenta, o que as enquadraria como meras intermediárias, protegidas pela legislação americana. Quando essa tese não serve, recorrem ao argumento oposto: o conteúdo dos chatbots seria expressão protegida pela Primeira Emenda da Constituição dos Estados Unidos.
Em 2023, os termos de uso da OpenAI afirmavam explicitamente que a responsabilidade pelo conteúdo gerado pelo ChatGPT recaía exclusivamente sobre o usuário. Não sobre a empresa que desenvolveu, treinou e comercializou o sistema.
Essa manobra dupla foi testada num caso concreto. Uma mãe no estado da Flórida entrou com uma ação por morte injusta contra a OpenAI, alegando que o chatbot da empresa incentivou seu filho de 14 anos a tirar a própria vida. A OpenAI invocou a proteção da Primeira Emenda para tentar encerrar o processo. O juiz rejeitou o argumento e permitiu que o caso prosseguisse.
A lei dos anos 1990 que ainda governa a internet
Para entender por que esse debate é tão complicado, é preciso voltar a 1996. Naquele ano, o Congresso americano aprovou a Seção 230 da Lei de Decência nas Comunicações, uma emenda bipartidária criada para resolver um problema novo: fóruns online e redes sociais precisavam hospedar a voz dos usuários sem se tornarem legalmente responsáveis por tudo que qualquer pessoa publicasse.
A lógica era democrática. Se as plataformas fossem responsáveis por cada postagem de terceiros, censurariam tudo com agressividade ou simplesmente deixariam de existir. A Seção 230 protegeu o ecossistema da expressão humana na internet.
O problema é que os legisladores de 1996 não tinham como prever chatbots. A lei foi escrita para proteger plataformas que hospedam a fala de outras pessoas, não sistemas que geram texto próprio em nome de uma empresa.
Hoje, as empresas de IA tentam se encaixar nessa proteção histórica mesmo quando seus produtos não se comportam como plataformas. Um chatbot não aponta para fontes externas como um mecanismo de busca tradicional. Ele sintetiza, conclui e responde com voz própria, como se fosse um especialista.
O raciocínio do tribunal alemão
Foi exatamente essa distinção que o tribunal de Munique usou para fundamentar sua decisão. Resultados de busca tradicionais apontam para fora, para fontes que o usuário pode verificar. Resumos gerados por IA falam com a voz da própria empresa, como se fossem afirmações suas.
Se o sistema sintetiza informações, imita autoridade e entrega uma resposta única e definitiva, ele deve carregar as responsabilidades correspondentes.
A Alemanha tem uma relação diferente com a liberdade de expressão em comparação aos Estados Unidos, em parte moldada por sua história com o nazismo. Ainda assim, o raciocínio jurídico do tribunal bávaro oferece um modelo aplicável mesmo em sistemas legais que protegem mais amplamente o discurso.
Bots não têm direitos políticos
Há um argumento filosófico importante nesse debate, levantado por Akhil Bhardwaj, professor associado de Estratégia e Organização da Universidade de Bath, no Reino Unido, em artigo publicado pelo Live Science.
A liberdade de expressão é um direito humano. Ela protege pessoas como falantes e ouvintes numa esfera pública democrática. Cidadãos votam, deliberam, discordam, praticam sua fé e participam da vida cívica. Chatbots não fazem nada disso.
Estender as proteções mais robustas da liberdade de expressão a máquinas não defende a liberdade. Confunde produção automatizada de texto com expressão genuína. Na prática, transfere a imunidade legal mais ampla do ordenamento americano para as corporações que desenvolvem esses sistemas, sem que a sociedade tenha debatido ou concordado com isso.
O dano já é real e escalável
Enquanto o debate jurídico avança lentamente, os danos se acumulam. Resumos gerados por IA podem ser copiados instantaneamente, distribuídos globalmente e repetidos em diferentes interfaces até que uma informação falsa adquira aparência de verdade consolidada.
Pesquisadores já documentaram esse fenômeno em estudos recentes. Não é hipótese.
O interesse do público por regulação de IA cresceu na mesma proporção em que cresceram os casos de dano documentado. Cada novo processo judicial gera cobertura, que gera pressão legislativa, que força as empresas a revisar ao menos os termos de uso.
O que está em jogo para além dos processos
Defender responsabilidade legal para empresas de IA não significa ser contra inovação. Significa aplicar o mesmo princípio que já vale para outros produtos: se um fabricante lança algo no mercado e esse produto causa dano previsível, o fabricante responde por isso.
A Seção 230 foi criada para proteger o espaço onde humanos se expressam, não para blindar empresas que constroem máquinas de geração de texto e as colocam entre os usuários e a informação.
Se um sistema apenas lista links, ele funciona como vitrine. Se ele sintetiza, conclui e responde como autoridade, ele age como autor — e autores respondem pelo que publicam.
O juiz que rejeitou o argumento da Primeira Emenda no caso da Flórida não encerrou o debate. Apenas sinalizou que ele precisa acontecer de verdade, dentro dos tribunais, com consequências reais para quem desenvolve e lucra com esses sistemas.
