O RokoAI
RokoAI založili odborníci na zpracování přirozeného jazyka, odpovědnou AI a kybernetickou bezpečnost. Spojujeme hluboké výzkumné zkušenosti s praktickým adversariálním testováním a nabízíme jedinečný pohled na rizika, jimž čelí moderní nasazení AI. Od útoků typu jailbreak přes drift sladění až po prompt injection uvažujeme jako útočníci, abyste vy mohli spouštět s jistotou.
Naše mise
V RokoAI pomáháme organizacím budovat bezpečnější a důvěryhodnější AI prostřednictvím proaktivního adversariálního red teamingu modelů a systémů. Naší misí je odhalovat skryté zranitelnosti dřív, než dojde ke zneužití, a posilovat tak integritu AI pro všechny.
Naše vize
RokoAI vidí budoucnost, v níž je každý systém AI odolný vůči novým hrozbám a red teaming je nedílnou součástí vývoje AI. Simulací skutečných útoků a průběžným zátěžovým testováním algoritmů pomáháme klientům dodávat řešení AI, která jsou bezpečná, etická a spolehlivá.
Lidé za RokoAI
Dr. Pavel Denisov
Chief Executive Officer
Ph.D. v oboru zpracování přirozeného jazyka (Univerzita ve Stuttgartu). Specialista na multimodální systémy, výzkum zranitelností LLM a adversariální prompt engineering.
Dr. Manuel Mager
Chief Science Officer
Ph.D. v oboru zpracování přirozeného jazyka (Univerzita ve Stuttgartu). Bývalý Applied Scientist v AWS pro odpovědnou AI v rámci AWS Bedrock Guardrails. Hluboké znalosti bezpečnosti LLM, adversariální robustnosti a NLP pro jazyky s malými zdroji.
Ánh Nguyễn
Chief Business Officer
MBA. Odpovídá za obchodní plánování a jeho realizaci. Řídí strategii vstupu na trh, financování a provozní činnost RokoAI.