Логи промптов и ответов — источник датасета для будущего файнтюна и зеркало проблем продукта.

Latency важнее точности в интерактивных сценариях: ответ за 300 мс с 90% качества бьёт идеал за 6 секунд.

Маленькая специализированная модель часто точнее флагмана на узкой задаче и в десять раз дешевле в обслуживании.