Заметки / product-risk
Риски ИИ-продуктов
Когда ИИ-продукту нужно остановиться. Как заметить риск в неоднозначной ситуации и проверить, сработала ли защита.
О чём этот раздел: Медицинских рекомендаций здесь нет. Эксперимент с продуктом сам по себе не подтверждает клиническую эффективность.
Рабочая ситуация
Разобрать проблему: Безопасность ИИ-продуктовКейс с результатами
Redis P0 до первых пользователей
Аудит перед запуском обнаружил в Redis уязвимость уровня P0: хранилище могло раскрыть токены доступа к диалогам.
Открыть кейс: Redis P0 до первых пользователейВсе заметки раздела
Опубликованные заметки на русском языке.
Безопасность ИИ-продуктов
Когда ИИ-продукту пора остановить разговор
ИИ может пропустить признак риска и продолжить разговор как ни в чём не бывало. Разбираю, что проверять в таком диалоге и когда его нужно прервать.
Когда ИИ-продукту пора остановить разговор