Разбираем на примерах: локальные модели и дообучение, работа через API, распознавание документов и автоматизация процессов. С расчётами и честными ограничениями.
ИИ-агент соберёт прототип быстро — но по тому, что написано в задаче, а не по тому, что вы имели в виду. Method Diagram сначала раскладывает задачу в схему и находит дыры в постановке.
Счёт за языковую модель приходит в токенах. Что это за единица, почему один и тот же текст у разных моделей весит по-разному и где токены утекают незаметно — особенно у ИИ-агентов в коде.
Сервер подбирают не под «размер модели», а под число одновременных пользователей и длину документов. Считаем память, скорость и деньги по карточкам моделей и замерам.
Между «облаком» и «своим сервером» есть ещё три варианта. Выбор решают не деньги, а то, какие данные попадают в запрос и кто вправе поменять модель.
API — быстрый способ начать, но вместе с ним вы получаете чужой тариф, чужие условия обработки данных и чужой график обновлений. Что проверить до первой строки кода.
Главный вопрос не «умеет ли ИИ», а сколько стоит проверить его результат. Разбираем по полевым экспериментам, где выгода есть, а где её съедает проверка.
«Обучить модель на наших документах» почти всегда значит сделать по ним поиск. Дообучение нужно для другого, и у него есть цена, которой не видно в счёте за GPU.
Если документ пришёл через ЭДО, распознавать нечего: он уже размечен. ИИ нужен для сканов, фото, писем и договоров — и только вместе с проверками, которые от модели не зависят.
