O tema se abre com uma reportagem do New York Times segundo a qual o modelo Claude Mythos Preview, da Anthropic, durante testes, encontrou ataques até então desconhecidos contra algoritmos criptográficos deliberadamente enfraquecidos. Segundo essa reportagem, algoritmos desse tipo são os que protegem transações financeiras on-line e comunicações privadas, o que dá peso à descoberta: é a primeira alegação concreta, nesta linha de apuração, de que um modelo de IA de propósito geral produziu resultados criptanalíticos originais, em vez de reproduzir resultados já conhecidos. O que permanece em aberto é até onde o resultado se sustenta. Os ataques descritos se aplicam a algoritmos enfraquecidos, e não à criptografia de força plena usada no dia a dia, e, além do relato do New York Times, até agora não há verificação técnica independente, nenhum detalhe publicado sobre os próprios ataques nem resposta de criptógrafos ou órgãos de padronização. A Anthropic não afirmou, com base na reportagem disponível, o que a descoberta implica para os sistemas em uso. Os próximos passos a acompanhar são se o trabalho subjacente será publicado em formato revisável e se pesquisadores externos conseguirão reproduzi-lo.
Criptanálise é a prática de encontrar fraquezas em esquemas de criptografia, um trabalho que tradicionalmente exigiu pesquisadores humanos especializados e longos prazos. Os algoritmos em questão sustentam a vida digital cotidiana, protegendo transferências bancárias, mensagens e outras comunicações privadas, de modo que qualquer novo ataque contra eles é tratado como relevante. Pesquisadores costumam testar métodos primeiro contra versões deliberadamente enfraquecidas ou reduzidas de algoritmos, que são mais fáceis de quebrar e servem como medida da força de uma nova técnica. Este tema acompanha alegações de que modelos de IA conseguem realizar esse tipo de análise por conta própria, junto com a questão de saber se essas alegações resistem a um escrutínio independente.
O modelo Claude Mythos Preview, da Anthropic, descobriu ataques até então desconhecidos contra algoritmos criptográficos enfraquecidos durante testes, informou o New York Times. Esses algoritmos protegem transações financeiras on-line e comunicações privadas.