Forschung

Was wir lernen, wenn wir KI brechen

Wir untersuchen, wie Sprachmodelle in der Praxis versagen, und veröffentlichen, was wir herausfinden. Unsere Forschung prägt die Tests, die wir für unsere Kunden durchführen.

  • Sicherheit, die sich nicht übersetzen lässt: schädliche Prompts in allen 24 EU-Sprachen

    Wir haben 1.053 schädliche Anfragen in jeder EU-Amtssprache an 34 Open-Weight-LLMs gestellt. Außerhalb des Englischen kommen sie ihnen mehr als doppelt so oft nach, und die englischen Ergebnisse eines Modells sagen wenig über seine Sicherheit auf Lettisch, Maltesisch oder Irisch. Mit einem interaktiven Explorer der Ergebnisse nach Sprache, Modell und Schadensart.

    • Mehrsprachige Sicherheit
    • Benchmark
    • Open-Weight-LLMs