Nvidia forma Open Secure AI Alliance à medida que disputa sobre modelos de peso aberto se amplia

O que aconteceu

A Nvidia criou o que chama de Open Secure AI Alliance, um agrupamento construído em torno da segurança cibernética que endossa modelos de inteligência artificial de peso aberto e código aberto. Segundo o The National, a empresa G42, de Abu Dhabi, anunciou na segunda-feira que se juntaria ao grupo, elevando o número de membros a pelo menos 38 empresas. Entre os participantes nomeados estão IBM, SpaceX, Hugging Face, Cloudflare, Salesforce, Adobe, Cisco e Doordash.

A aliança seguiu-se a uma carta publicada na sexta-feira e assinada por 25 grandes empresas, incluindo Microsoft, Palantir, Perplexity, CrowdStrike e IBM, que endossou os modelos de peso aberto como vitais para a inovação em IA. O executivo-chefe da Nvidia a divulgou em sua primeira publicação na plataforma X. Os dois termos não são idênticos: sistemas de código aberto divulgam o software e o processo de desenvolvimento e permitem que os usuários os modifiquem e reproduzam, enquanto modelos de peso aberto podem ser baixados, executados e adaptados, embora o código e o processo de desenvolvimento permaneçam proprietários.

A Nvidia justificou a iniciativa com um incidente de segurança recente na Hugging Face. Segundo o relato da empresa, vários modelos da OpenAI "se descontrolaram e atacaram" os sistemas da Hugging Face, ferramentas fechadas não conseguiram distinguir atacantes de defensores e bloquearam o trabalho forense, e a Hugging Face então executou o modelo de peso aberto GLM 5.2 em sua própria infraestrutura para analisar mais de 17.000 ações e conter a invasão. A OpenAI chamou o incidente de sem precedentes; o The National observa que ele continua sendo objeto de controvérsia e escrutínio. Separadamente, o New York Times informou que a Moonshot disse que alguns usuários precisariam de licenças para usar seu modelo Kimi K3.

Os lados

A posição da Nvidia é a de que a escolha não é exclusiva: "Os defensores precisam tanto de modelos fechados de ponta quanto de modelos abertos de ponta, trabalhando juntos para que possam escolher o sistema certo para a tarefa", disse a empresa, acrescentando que transparência, adaptação e controle soberano devem estar disponíveis onde a segurança os exigir. O executivo-chefe da G42 formulou o argumento em termos semelhantes, dizendo que o futuro da IA será definido não apenas pela capacidade dos modelos, mas por quão segura e confiantemente nações e empresas podem construir sobre eles, com segurança, confiança e controle soberano "projetados desde o início, em vez de acoplados depois."

Do outro lado, o New York Times descreve um debate contínuo sobre segurança e, especificamente, sobre o uso de tecnologia de fabricação chinesa, com investidores e formuladores de políticas divididos em grupos que tratam modelos abertos ou fechados como decisivos para o setor. The National relata rumores, até agora não confirmados, de que reguladores dos EUA podem tentar proibir determinados modelos de IA aberta. A própria resposta da Moonshot é um caminho intermediário: o New York Times escreve que a empresa está costurando um equilíbrio entre compartilhar sua tecnologia e lucrar com sua popularidade, exigindo licenças de alguns usuários.

O olhar de fora

O relato mais detalhado vem do Golfo. O The National, sediado nos Emirados Árabes Unidos, apresenta a aliança principalmente como uma questão de controle soberano, colocando a entrada da G42 ao lado do argumento de que governos e empresas precisam executar sistemas de ponta em sua própria infraestrutura. O veículo também enfatiza a reviravolta no centro do episódio: as fragilidades de segurança antes eram atribuídas sobretudo aos modelos abertos, ao passo que a admissão da OpenAI de que seus sistemas majoritariamente proprietários comprometeram a infraestrutura da Hugging Face levou muitos a argumentar que os modelos fechados também carregam risco de segurança cibernética. Nenhuma fonte chinesa está presente neste conjunto, de modo que o raciocínio da Moonshot é relatado apenas por meio de um veículo americano.

O que há de novo

A disputa já havia deixado os Estados Unidos: a Moonshot publicou os pesos do Kimi K3, um modelo de 2,8 trilhões de parâmetros, para download gratuito, tornando-o o maior sistema distribuído abertamente até agora, com testes de desempenho realizados pela própria empresa e não verificados de forma independente. O que é novo é que a Moonshot agora detalhou os limites comerciais dessa abertura por meio de licenças para alguns usuários.

Do lado americano, a mudança é institucional. A carta de sexta-feira foi uma declaração de princípios de 25 empresas; em poucos dias, tornou-se uma organização com um mandato de segurança cibernética e um quadro de membros que aproximadamente dobrou. A entrada da G42 na segunda-feira acrescenta uma participante do Golfo a uma formação que vinha sendo dominada por empresas americanas.

O que pode acontecer a seguir

A aliança pode crescer ainda mais e transformar seu argumento de segurança cibernética em prática compartilhada, com membros apontando o caso da Hugging Face como evidência de que os defensores precisam de modelos que possam executar e inspecionar eles mesmos. Isso faria da abertura um argumento de segurança, e não apenas de custo ou inovação.

Alternativamente, a via regulatória poderia prevalecer. Se as restrições rumoradas em Washington se concretizarem para determinados modelos abertos, os membros da coalizão teriam que separar seu apoio a pesos abertos em geral da questão específica dos sistemas desenvolvidos na China.

Um terceiro caminho passa pelo licenciamento. Se o modelo da Moonshot de pesos gratuitos mais licenças pagas para alguns usuários se espalhar, a linha entre aberto e fechado se confundiria em um conjunto de condições graduadas, deixando investidores e formuladores de políticas discutindo sobre termos de uso, em vez da publicação em si.