Заметки / ИИ в разработке
Агент советует, инженер решает
ИИ-агент уверенно отвечает и при этом может ошибаться. Как поручить ему поиск проблем в коде, а проверку решения оставить человеку.
Агент помогает проверить больше рисков. Принимать изменение должен человек.
Что происходило
Я использовал агентов для поиска рисков и альтернатив, оставляя итоговое инженерное решение человеку.
Разбор решения
Что решили и чем пожертвовали
Чем больше самостоятельности у агента, тем быстрее идёт работа. И тем легче принять гладкий ответ за верное решение.
Что можно проверить
Полезно письменно закрепить правила проверки: агент предлагает, ответственный инженер проверяет. По каждому принятому решению должно быть понятно, кто за него отвечает.
Что не сработало или осталось неизвестным
Приблизительные показатели пока нельзя публиковать. Сначала нужно согласовать исходные значения, роль человеческой проверки и вывод, который эти цифры позволяют сделать.
Рабочее правило
Рабочий принцип
Сначала автоматизируйте поиск проблем, а уже потом решайте, какую часть полномочий можно передать.