O RokoAI
RokoAI založili odborníci na spracovanie prirodzeného jazyka, zodpovednú AI a kybernetickú bezpečnosť. Spájame hlboké výskumné skúsenosti s praktickým adversariálnym testovaním a ponúkame jedinečný pohľad na riziká, ktorým čelia moderné nasadenia AI. Od útokov typu jailbreak cez drift zosúladenia až po prompt injection uvažujeme ako útočníci, aby ste vy mohli spúšťať s istotou.
Naše poslanie
V RokoAI pomáhame organizáciám budovať bezpečnejšiu a dôveryhodnejšiu AI prostredníctvom proaktívneho adversariálneho red teamingu modelov a systémov. Naším poslaním je odhaľovať skryté zraniteľnosti skôr, než dôjde k zneužitiu, a posilňovať tak integritu AI pre všetkých.
Naša vízia
RokoAI vidí budúcnosť, v ktorej je každý systém AI odolný voči novým hrozbám a red teaming je neoddeliteľnou súčasťou vývoja AI. Simuláciou skutočných útokov a priebežným záťažovým testovaním algoritmov pomáhame klientom dodávať riešenia AI, ktoré sú bezpečné, etické a spoľahlivé.
Ľudia za RokoAI
Dr. Pavel Denisov
Chief Executive Officer
PhD. v odbore spracovania prirodzeného jazyka (Univerzita v Stuttgarte). Špecialista na multimodálne systémy, výskum zraniteľností LLM a adversariálny prompt engineering.
Dr. Manuel Mager
Chief Science Officer
PhD. v odbore spracovania prirodzeného jazyka (Univerzita v Stuttgarte). Bývalý Applied Scientist v AWS pre zodpovednú AI v rámci AWS Bedrock Guardrails. Hlboké znalosti bezpečnosti LLM, adversariálnej robustnosti a NLP pre jazyky s malými zdrojmi.
Ánh Nguyễn
Chief Business Officer
MBA. Zodpovedá za obchodné plánovanie a jeho realizáciu. Riadi stratégiu vstupu na trh, financovanie a prevádzkovú činnosť RokoAI.