Apie RokoAI
RokoAI įkūrė natūraliosios kalbos apdorojimo, atsakingo DI ir kibernetinio saugumo ekspertai. Derindami gilią mokslinių tyrimų patirtį su praktiniu priešiškuoju testavimu, suteikiame neprilygstamą įžvalgą apie rizikas, su kuriomis susiduria šiuolaikiniai DI diegimai. Nuo jailbreak atakų iki suderinimo dreifo ir užklausų injekcijos – mąstome kaip užpuolikai, kad jūs galėtumėte paleisti produktą užtikrintai.
Mūsų misija
RokoAI padeda organizacijoms kurti saugesnį ir patikimesnį DI, atlikdama aktyvų, priešiškąjį modelių ir sistemų red teaming. Mūsų misija – aptikti paslėptus pažeidžiamumus, kol jais nepiktnaudžiaujama, ir taip stiprinti DI vientisumą visiems.
Mūsų vizija
RokoAI siekia ateities, kurioje kiekviena DI sistema būtų atspari naujoms grėsmėms, o red teaming taptų neatsiejama DI kūrimo dalimi. Imituodami tikras atakas ir nuolat tikrindami algoritmų atsparumą apkrovai, padedame klientams kurti saugius, etiškus ir patikimus DI sprendimus.
Žmonės, kuriantys RokoAI
Dr. Pavel Denisov
Chief Executive Officer
Natūraliosios kalbos apdorojimo daktaras (Štutgarto universitetas). Multimodalinių sistemų, LLM pažeidžiamumų tyrimų ir priešiškų užklausų kūrimo specialistas.
Dr. Manuel Mager
Chief Science Officer
Natūraliosios kalbos apdorojimo daktaras (Štutgarto universitetas). Buvęs AWS Applied Scientist atsakingo DI srityje AWS Bedrock Guardrails. Gilios žinios apie LLM saugumą, atsparumą priešiškoms atakoms ir mažai išteklių turinčių kalbų NLP.
Ánh Nguyễn
Chief Business Officer
MBA. Atsakinga už verslo planavimą ir įgyvendinimą. Vadovauja RokoAI rinkodaros strategijai, finansavimui ir veiklai.