За RokoAI
RokoAI е основана от експерти по обработка на естествен език, отговорен ИИ и киберсигурност. Съчетаваме задълбочен изследователски опит с практическо състезателно тестване и предлагаме несравним поглед върху рисковете, пред които са изправени съвременните внедрявания на ИИ. От jailbreak атаки през отклоняване от съгласуваността до инжектиране на подкани — мислим като нападатели, за да можете вие да пускате продукти с увереност.
Нашата мисия
В RokoAI помагаме на организациите да изграждат по-сигурен и по-надежден ИИ чрез проактивен, състезателен red teaming на модели и системи. Нашата мисия е да откриваме скритите уязвимости преди злоупотреба и така да укрепваме почтеността на ИИ за всички.
Нашата визия
RokoAI вижда бъдеще, в което всяка система с ИИ е устойчива на новите заплахи, а red teaming е неразделна част от разработката на ИИ. Чрез симулиране на реални атаки и непрекъснато стрес тестване на алгоритмите помагаме на клиентите да предоставят решения с ИИ, които са сигурни, етични и надеждни.
Хората зад RokoAI
Dr. Pavel Denisov
Chief Executive Officer
Доктор по обработка на естествен език (Университет в Щутгарт). Специалист по мултимодални системи, изследване на уязвимостите на LLM и състезателно проектиране на подкани.
Dr. Manuel Mager
Chief Science Officer
Доктор по обработка на естествен език (Университет в Щутгарт). Бивш Applied Scientist в AWS по отговорен ИИ в AWS Bedrock Guardrails. Задълбочен опит в сигурността на LLM, състезателната устойчивост и обработката на езици с малко ресурси.
Ánh Nguyễn
Chief Business Officer
MBA. Отговаря за бизнес планирането и изпълнението. Ръководи стратегията за излизане на пазара, финансирането и оперативната дейност на RokoAI.