Платформа для проверки безопасности ИИ-моделей и агентов на уязвимости через сценарии атак и сбор доказательств.
AI Beat — инструмент для тестирования безопасности генеративного ИИ: он строит сценарии и враждебные тест-кейсы, запускает их на целевой модели или агенте и оценивает результат с доказательствами. PromptBeat проверяет поведение самой модели, API или RAG-приложения на безопасность ответов, а AgentBeat дополнительно отслеживает действия агента — вызовы инструментов, команды, изменения файлов — чтобы поймать момент, когда агент вышел за допустимые границы. Поставляется как готовые исполняемые команды для разных платформ.
Описание автора:Break your AI before they do. Join Discord: https://discord.gg/8A6mFckxZ
