On-prem и приватные LLM

Для большинства задач по документам, поддержке и внутренним инструментам – да, если она опирается на ваши данные и проверена на ваших вопросах. Мы замеряем шорт-лист на вашем проверочном наборе до покупки железа и честно скажем, если публичный API будет лучше.

Зависит от размера модели и нагрузки. Один GPU-сервер закрывает многие команды среднего размера; мы считаем его от ваших ожидаемых запросов в день, а не по спецификации вендора.

Данные не покидают вашу сеть, каждый запрос логируется у вас, и нет стороннего процессора, которого нужно оформлять. Это не снимает ваши обязанности по AI Act, но снимает самые трудные – про передачу данных и субпроцессоров.

Ваша ops-команда с раннбуком, который мы передаём: перезапуск, обновление, смена модели. Мы на связи для исправлений три месяца, и есть продолжающаяся программа, если хотите, чтобы мы продолжали.

От $8 000 фиксированно за развёртывание, 3-4 недели от первого звонка до модели, которая работает на вашем железе или в вашем облачном аккаунте, с инструкцией для ваших админов. Сервер покупаете вы. Для документов и поддержки небольшой компании обычно хватает одного сервера с одной видеокартой.

Компаниям, чьи данные не могут покидать сеть. Юридические, медицинские, финансовые и кадровые задачи, договоры с запретом на третьих лиц или просто счёт за токены, который перерос стоимость сервера. Если ничего из этого не про вас, облачная модель за той же системой дешевле на старте, и мы так и скажем.