Documentos vazados mostram que o novo modelo da Anthropic apresenta riscos de segurança cibernética semdent

Segundo informações da Fortune, documentos internos vazados da Anthropic revelaram a existência de uma nova geração de modelos de IA com o codinome "Claude Mythos"

No entanto, a notícia mais importante é que os novos modelos já estariam em fase de testes, apesar de serem considerados como apresentando "riscos de segurança cibernética semdent"

Vazamento de dados da Anthropic

A revista Fortune publicou recentemente uma reportagem contendo documentos vazados da empresa de inteligência artificial Anthropic. Os documentos revelam detalhes sobre uma nova geração de modelos de IA em desenvolvimento, supostamente chamada de "Claude Mythos".

O vazamento ocorreu devido a um erro humano na configuração do sistema de gerenciamento de conteúdo (CMS) da Anthropic. Roy Paz, da LayerX Security, e Alexandre Pauwels, da Universidade de Cambridge, explicaram que a Anthropic deixou quase 3.000 arquivos não publicados, incluindo imagens, PDFs, arquivos de áudio e rascunhos de posts de blog, em um repositório de dados público e pesquisável. 

O material estava disponível online antes de a Fortune notificar a Anthropic, após o que a empresa removeu o acesso público.

Os documentos consultados pela Fortune afirmam que o Claude Mythos já está em fase de testes. Mais importante ainda, declaram que a Anthropic acredita que este novo modelo "apresenta riscos de cibersegurança semdent" 

Em um rascunho de postagem em seu blog, a Anthropic afirmou que o sistema está "atualmente muito à frente de qualquer outro modelo de IA em capacidades cibernéticas" e alertou que "ele prenuncia uma onda futura de modelos que podem explorar vulnerabilidades de maneiras que superam em muito os esforços dos defensores"

Devido aos riscos potenciais, a Anthropic planejou uma estratégia de implementação cautelosa que priorizaria o acesso antecipado para organizações de defesa cibernética, dando aos defensores uma vantagem inicial no fortalecimento de suas bases de código contra explorações impulsionadas por IA. 

A Anthropic já havia relatado que um grupo patrocinado pelo Estado chinês usou o Claude Code para se infiltrar em cerca de 30 organizações, incluindo empresas de tecnologia, instituições financeiras e agências governamentais, portanto, a preocupação não é infundada. 

Os documentos vazados também revelaram detalhes de uma cúpula de CEOs, apenas para convidados, planejada em uma mansão do século XVIII na zona rural inglesa, onde o CEO da Anthropic, Dario Amodei, receberia líderes empresariais europeus para discutir a adoção de IA e apresentar recursos ainda não lançados do modelo Claude.

A batalha contínua de Elon Musk com a Anthropic 

Assim que a notícia sobre a X foi divulgada e atraiu muita atenção, Elon Musk, proprietário da X e chefe da xAI, concorrente direta da Anthropic, não perdeu a oportunidade de comentar o assunto. 

Musk comentou : "Seriamente preocupante", e rapidamente obteve dezenas de milhares de visualizações e milhares de curtidas.

Musk tem o hábito de comentar notícias negativas sobre concorrentes com os quais discorda. A Anthropic foi fundada por ex-funcionários da OpenAI, e Musk tem sido abertamente crítico tanto da OpenAI quanto da abordagem da indústria de IA em geral em relação à segurança e comercialização.

Enquanto isso, a própria empresa de IA de Musk, a xAI , lançou recentemente um novo plano de assinatura paga chamado "SuperGrok Lite". A assinatura custa US$ 10 e foram impostas limitações aos usuários gratuitos do Grok para incentivá-los a comprar o plano ou qualquer um dos outros três planos de assinatura oferecidos pelo Grok.

Eles incluem o SuperGrok, que custa US$ 30 por mês, o SuperGrok Heavy, que custa US$ 300 por mês, e o Grok Business, que também custa US$ 30 por mês.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter .