Кейс 1 – Замена LLM на детерминированный код

Пример:

  • Классификация обращений в поддержку.

  • Использовали GPT.

  • Потом поняли, что это 8 правил + словарь.

  • Снизили latency с 800 мс до 4 мс.

  • Убрали стохастичность.

  • Сэкономили бюджет.

Это усиливает аргумент про “правила vs модель”.

Last updated