O RokoAI-ju
RokoAI su osnovali stručnjaci za obradu prirodnog jezika, odgovorni UI i kibernetičku sigurnost. Duboko istraživačko iskustvo spajamo s praktičnim adversarijalnim testiranjem i pružamo jedinstven uvid u rizike s kojima se suočavaju suvremene implementacije UI-ja. Od jailbreak napada preko odstupanja usklađenosti do ubacivanja upita, razmišljamo kao napadači kako biste vi mogli pokrenuti s povjerenjem.
Naša misija
U RokoAI-ju pomažemo organizacijama da grade sigurniji i pouzdaniji UI proaktivnim, adversarijalnim red teamingom modela i sustava. Naša je misija otkriti skrivene ranjivosti prije zlouporabe i tako jačati integritet UI-ja za sve.
Naša vizija
RokoAI vidi budućnost u kojoj je svaki sustav UI-ja otporan na nove prijetnje, a red teaming neizostavan dio razvoja UI-ja. Simuliranjem stvarnih napada i stalnim testiranjem algoritama pod opterećenjem pomažemo klijentima da isporuče rješenja UI-ja koja su sigurna, etična i pouzdana.
Ljudi iza RokoAI-ja
Dr. Pavel Denisov
Chief Executive Officer
Doktorat iz obrade prirodnog jezika (Sveučilište u Stuttgartu). Stručnjak za multimodalne sustave, istraživanje ranjivosti LLM-ova i adversarijalno oblikovanje upita.
Dr. Manuel Mager
Chief Science Officer
Doktorat iz obrade prirodnog jezika (Sveučilište u Stuttgartu). Bivši Applied Scientist u AWS-u za odgovorni UI u okviru AWS Bedrock Guardrails. Duboka stručnost u sigurnosti LLM-ova, adversarijalnoj robusnosti i obradi jezika s malo resursa.
Ánh Nguyễn
Chief Business Officer
MBA. Odgovorna za poslovno planiranje i provedbu. Vodi strategiju izlaska na tržište, financiranje i operativno poslovanje RokoAI-ja.