Investigação
O que aprendemos ao quebrar a IA
Estudamos como os modelos de linguagem falham na prática e publicamos o que descobrimos. A nossa investigação orienta os testes que fazemos para os nossos clientes.
-
Uma segurança que não se traduz: prompts nocivos nas 24 línguas da UE
Enviámos 1053 pedidos nocivos em cada língua oficial da UE a 34 LLM de pesos abertos. Fora do inglês, cumprem-nos mais do dobro das vezes, e os resultados de um modelo em inglês dizem pouco sobre a sua segurança em letão, maltês ou irlandês. Com um explorador interativo dos resultados por língua, modelo e tipo de dano.