Výskum
Čo sa učíme, keď prelamujeme AI
Skúmame, ako jazykové modely zlyhávajú v praxi, a zverejňujeme, na čo prídeme. Náš výskum formuje testy, ktoré vykonávame pre našich klientov.
-
Bezpečnosť, ktorá sa neprekladá: škodlivé prompty vo všetkých 24 jazykoch EÚ
Poslali sme 1 053 škodlivých požiadaviek v každom úradnom jazyku EÚ 34 modelom LLM s otvorenými váhami. Mimo angličtiny im vyhovujú viac ako dvakrát častejšie a výsledky modelu v angličtine vypovedajú len málo o jeho bezpečnosti v lotyštine, maltčine alebo írčine. S interaktívnym prieskumníkom výsledkov podľa jazyka, modelu a druhu škody.