Коротко
Статья объясняет, почему одиночные тесты не дают надежной оценки AI-агента: одинаковый запрос может привести к разным ответам и цепочкам действий. Автор предлагает тестировать серии запусков и трассы, калибровать LLM-судью на человеческих оценках и учитывать стоимость успешной задачи.
Контекст
Автор рассматривает практическую проблему команд, чьи агенты проходят тесты, но ошибаются в похожих производственных запросах. Материал — руководство по оценке агентов, которые используют модели и инструменты и потому не ведут себя детерминированно.
Главное
- Один успешный прогон — лишь выборка, а не доказательство надежности: одинаковый запрос к той же модели может дать другую цепочку рассуждений, вызовы инструментов и ответ.
- Автор предлагает примерно 50–100 случаев на категорию задач; оценивать стоит частоту успеха, например проверять, проходит ли категория не менее чем в 90% запусков.
- Трассировка оценивает не только итог, но и поисковые запросы, выбор инструментов, использование их результатов и реакцию на сбои.
- Проверки без отдельной модели: сигнализировать, когда число шагов больше удвоенной медианы для типа задачи, и валидировать аргументы вызовов по JSON-схеме.
- Чтобы калибровать LLM-судью, подготовить 50–100 реальных ответов разного качества, получить оценки минимум двух людей по общей рубрике и сравнить с оценками модели.
- Рекомендованный ориентир для судьи — не менее 80% совпадений с людьми в пределах одного балла на пятибалльной шкале.
- Снижают риск смещений конкретная рубрика с раздельными критериями, temperature 0 и судья из семейства моделей, отличного от семейства агента.
- Помимо точности, нужно учитывать стоимость успешной задачи: в примере сопоставлены 95% точности при 12 вызовах и 93% при 3 вызовах модели.
- Ошибки из продакшена следует превращать в новые тестовые случаи.
Как сделано
Вместо проверки отдельных пар «ввод—ответ» автор предлагает запускать примерно 50–100 примеров на категорию задач и оценивать долю успешных прогонов; ориентир — не менее 90% прохождений. Следует разбирать трассу целиком: запросы агента, выбор инструментов, использование полученных результатов и восстановление после ошибок. Простые автоматические проверки включают предупреждение, если число шагов превышает удвоенную медиану для типа задачи, и проверку аргументов каждого вызова инструмента по JSON-схеме.
Для открытых ответов можно использовать LLM-судью, предварительно проверив его на 50–100 реальных результатах разного качества. Два или более человека оценивают их по общей шкале, затем оценивает судья; перед использованием для принятия решений рекомендуется достичь как минимум 80% совпадений в пределах одного балла по пятибалльной шкале. Автор советует задавать конкретные критерии по отдельным измерениям, выставлять temperature в 0 и выбирать судью из другого семейства моделей, чем агент. В отчете нужно показывать стоимость успешной задачи рядом с точностью.
Результаты
Подход должен выявлять нестабильность, которую скрывает успешный единичный прогон, и делать компромиссы между качеством и расходами явными. Пример из статьи: агент с точностью 95% и двенадцатью вызовами модели на задачу — иной продукт, чем агент с точностью 93% и тремя вызовами. Это иллюстрация, а не отчет об экспериментальном сравнении.
Ограничения
Статья не приводит результатов собственного контролируемого исследования и не доказывает, что указанные пороги подходят всем задачам. Числа 50–100 примеров, 90% прохождений и 80% согласия представлены как практические ориентиры. LLM-судьи сохраняют смещения в пользу более длинных ответов, первого показанного варианта и моделей своего семейства; расходы описаны без конкретных цен.
Что взять себе
- Оценивайте повторные запуски по категории, а не делайте вывод о надежности из одного прохождения.
- Проверяйте трассу: правильный ответ сам по себе не гарантирует, что агент пришел к нему устойчивым способом.
- Не используйте LLM-судью как единственный арбитр, пока не сравнили его оценки с людьми на репрезентативных примерах.
- Сопоставляйте точность с затратами на успешный результат и добавляйте производственные сбои в регрессионный набор.
Читать оригинал, если…
Откройте оригинал, если нужны связанные руководства и пошаговые инструкции по оценке трасс, проектированию рубрик для LLM-судьи и проверке его смещений.