Регрессионные тесты на промпты спасают при каждом обновлении модели: без них вы узнаёте о поломке от пользователей.

Latency важнее точности в интерактивных сценариях: ответ за 300 мс с 90% качества бьёт идеал за 6 секунд.

Логи промптов и ответов — источник датасета для будущего файнтюна и зеркало проблем продукта.