CEO da Microsoft defende “freio de emergência” para sistemas de IA

O CEO e presidente do conselho da Microsoft, Satya Nadella, publicou no sábado (10) um artigo defendendo a criação de um “freio de emergência” para a inteligência artificial e que as empresas precisam de mecanismos de segurança mais robustos para a tecnologia. O texto foi publicado na conta do X (antigo Twitter) do executivo.

A proposta permitiria que uma pessoa interviesse para pausar ou desligar o que o modelo estivesse fazendo. Nadella também afirmou que as organizações não devem depender apenas das garantias dos desenvolvedores e precisam manter separadas a estrutura do modelo e a responsável por sua execução.

No texto, o executivo defendeu que os modelos sejam tratados como “riscos internos”, não necessariamente por serem maliciosos, mas porque agentes com acesso a sistemas importantes podem cometer erros ou ser comprometidos. Ele também disse que a inteligência artificial não deve ser tratada como uma “caixa preta” e que as empresas precisam definir quais dados os sistemas podem acessar e que ações podem realizar.

Entre as demais propostas estão a diversidade de modelos e a verificabilidade, com testes contínuos para identificar falhas e erros. Nadella ainda defendeu que ações significativas deixem evidências verificáveis por humanos, além de verificações independentes e divulgação de incidentes para informar pessoas e organizações afetadas.

O artigo foi publicado após manifestações de líderes de empresas do setor em defesa de uma desaceleração no desenvolvimento da inteligência artificial. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, defenderam essa ideia, enquanto Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, afirmaram que as medidas de segurança devem ser desenvolvidas pelas próprias empresas responsáveis.

Fonte: CNN Brasil