Cloudflare AI Security for Apps: новая поверхность атаки уже стала обычной
AI-функции в приложениях создают новые риски: prompt injection, утечки данных, неожиданные вызовы инструментов и теневые endpoint’ы.
Cloudflare вывел AI Security for Apps в generally available. Это хорошо отражает момент: AI-функции перестали быть экспериментом в углу продукта. Они становятся обычной частью приложений, а значит и обычной частью attack surface.
Чем AI endpoint отличается от обычного
Обычный endpoint обычно делает понятную операцию: сохранить форму, вернуть список, создать заказ. AI endpoint может принимать свободный текст, обращаться к модели, вызывать инструменты, читать контекст и возвращать непредсказуемый результат.
Из-за этого появляются риски:
- prompt injection;
- утечка внутреннего контекста;
- вызов не того инструмента;
- слишком широкие права у агента;
- отправка чувствительных данных провайдеру.
Что стоит сделать до продакшена
- описать, какие данные можно отправлять в модель;
- ограничить инструменты агента;
- логировать подозрительные запросы;
- отделить public и internal actions;
- настроить rate limit;
- проверять ответы, если они влияют на действия.
Вывод
AI security — не отдельная мода. Это продолжение обычной AppSec, но с новым типом ввода и новой логикой выполнения.
Источник: Cloudflare AI Security for Apps GA.