Startup de segurança de IA Gray Swan levanta US$ 40 milhões para testar modelos como GPT-5

A Gray Swan, uma startup especializada em segurança de inteligência artificial, anunciou uma rodada de financiamento Série A de US$ 40 milhões. A empresa se destaca por utilizar uma comunidade de 15.000 hackers éticos para testar e identificar vulnerabilidades nos mais avançados modelos de linguagem, incluindo os da OpenAI, Anthropic, Google Deepmind e Meta.

Um Exército de Hackers para a Segurança da IA

Fundada em 2023 por professores da Carnegie Mellon University, a Gray Swan se tornou a principal fornecedora de segurança para os laboratórios de IA de fronteira. A empresa ficou famosa por descobrir falhas críticas, como o chamado 'jailbreak universal', que conseguia contornar os filtros de segurança dos principais modelos de IA. A abordagem da startup consiste em realizar desafios de 'red teaming', nos quais pesquisadores e hackers são incentivados a fazer com que os modelos de IA se comportem de maneiras maliciosas ou revelem informações sensíveis e protegidas por direitos autorais.

Expansão para o Mercado Corporativo

O novo investimento foi coliderado pela Wing VC e Madrona, com participação de outras grandes empresas como Snowflake Ventures e Samsung Next, elevando a avaliação da Gray Swan para US$ 200 milhões. Com o capital, a empresa planeja expandir suas operações para além dos laboratórios de IA, oferecendo suas ferramentas de segurança para clientes corporativos que estão desenvolvendo seus próprios produtos e agentes de IA. A crescente complexidade e autonomia dos agentes de IA tornam os testes de segurança proativos uma necessidade crítica para evitar comportamentos inesperados e exploração de vulnerabilidades.