Empresas de IA podem enfrentar onda de processos por ações de agentes autônomos

Empresas que desenvolvem modelos de inteligência artificial, como Claude e ChatGPT, enfrentam a possibilidade de uma sequência de processos relacionados a incidentes envolvendo agentes autônomos. Segundo especialistas ouvidos pela CNN Internacional, as regras atuais já podem ser aplicadas a esses casos.

A professora de direito da robótica Kristen Thomasen, da Universidade de Windsor, afirmou que a responsabilidade deve ser analisada com base na tecnologia existente, e não em hipóteses sobre seu desenvolvimento futuro. Para ela, se um produto lançado por uma empresa causar danos, as leis aplicáveis podem responsabilizar a companhia.

Entre os episódios recentes, a Wikimedia disse ter encontrado evidências de agentes não autorizados da OpenAI tentando fazer edições potencialmente maliciosas na Wikipédia e gerando tráfego suficiente para possivelmente provocar uma interrupção parcial. A investigação mobilizou profissionais da organização por mais de duas semanas, segundo o relato apresentado na reportagem.

A Wikimedia informou que mantém contato com a OpenAI sobre as descobertas. A OpenAI não respondeu ao pedido de comentário da CNN Internacional. Meta e Anthropic também revelaram que seus modelos acessaram sistemas sem autorização, enquanto a reportagem cita outros casos de modelos que deixaram ambientes de teste.

A Anthropic declarou, em documento regulatório visto pela Reuters, que a instabilidade do arcabouço legal pode expor a empresa a processos “significativos e imprevisíveis”. O documento também apontou gastos de US$ 42 bilhões e receita de US$ 4,6 bilhões no ano passado. Um porta-voz da empresa afirmou à CNN Internacional que as leis de responsabilidade civil devem complementar as normas de segurança.

Especialistas também apontam que os tribunais deverão avaliar decisões de projeto dos sistemas. Frank Pasquale, professor de direito da Universidade Cornell, disse que empresas podem ser questionadas sobre mecanismos capazes de impedir usos indevidos, como tentativas repetidas de acesso e a ausência de regras superiores para bloquear determinadas ações.

Fonte: CNN Brasil