Содержание
- Прямой ответ: где проходят границы Ollama
- Подтверждённые условия доступа и источник актуальных требований
- Документированный порядок действий по выбранной задаче
- Оригинальный учебный пример и критерии самостоятельной проверки
- Смежные варианты и что выбирать по задаче
- Типичные проблемы и проверяемые способы диагностики
- Частые вопросы
Ollama: лимиты и ограничения запросов
Черновик готовит редакция с помощью ИИ. За стандарт издания отвечает главный редактор — Валерий Курземнек.
Ollama: лимиты и ограничения запросов делятся на две группы. Локальный запуск на своём железе не имеет оплачиваемых квот: в прайсе Ollama сказано, что работа моделей на собственном оборудовании всегда без ограничений. Облачные модели расходуют кредиты. Для локального сервера прочитанный FAQ указывает контекст по умолчанию 4096 токенов. Ниже — границы продукта, порядок настройки и диагностика. Мы скачали подборку результатов веб-поиска по запросу «Ollama: лимиты и ограничения запросов»: текст отдали 8 из 10.
Прямой ответ: где проходят границы Ollama
Ollama существует в двух режимах, и лимиты у них разные. Первый — локальный сервер на вашем компьютере. Второй — облачные модели, которые оплачиваются кредитами. Прайс-страница Ollama прямо разделяет эти сценарии: тарифы Pro, Max и Team включают определённую сумму кредитов каждый месяц, а Free-аккаунты получают стартовый объём для меньшего набора стартовых моделей. Покупка кредитов открывает доступ ко всем моделям. При этом запуск моделей на собственном оборудовании всегда без ограничений — это дословная формулировка из прайса.
Что это значит на практике. Локальный режим упирается в железо: объём видеопамяти, оперативную память, скорость диска. Облачный режим упирается в деньги и в месячный цикл кредитов. Включённые кредиты не переносятся на следующий месяц: в разделе вопросов прайса сказано, что неизрасходованный включённый объём не переходит, вместо этого сумма обновляется при каждом месячном сбросе. Дата сброса привязана к дню начала подписки, включая годовые планы; на Free-плане отсчёт идёт от даты регистрации.
Отдельная граница — контекстное окно локального сервера. Прочитанный FAQ проекта на GitHub указывает значение по умолчанию 4096 токенов и способы его изменения: OLLAMA_CONTEXT_LENGTH, options.num_ctx в запросе к локальному API и /set parameter num_ctx в интерактивной сессии. Параметры выбранной облачной модели следует проверять отдельно по её требованиям.
Третья граница — производительность. В прайсе Ollama сказано, что скорость зависит от размера модели, архитектуры и оптимизации под железо; компания отслеживает низкое время до первого токена и высокую пропускную способность по всем облачным моделям. Приоритетные уровни с более высокой скоростью могут появиться в будущем — это указано как возможное.
| Режим | Что ограничивает | Источник ограничения |
|---|---|---|
| Локальный запуск | Память GPU, ОЗУ, диск | Ваше оборудование |
| Облачные модели | Кредиты, месячный цикл | Прайс Ollama |
| Контекст | 4096 токенов по умолчанию | Документация на GitHub |
| Скорость | Размер модели, архитектура, железо | Прайс Ollama |
Подтверждённые условия доступа и источник актуальных требований
Актуальные требования живут в двух местах: на странице цен ollama.com/pricing и в файле faq.mdx в репозитории проекта на GitHub. Прайс описывает коммерческую сторону: тарифы, кредиты, сбросы, командные аккаунты. Документация на GitHub описывает техническую сторону: переменные окружения, контекст, загрузку моделей, логи, прокси.
Условия доступа по тарифам выглядят так. Free-аккаунт получает стартовый объём использования для меньшего набора стартовых моделей. Тариф Pro описан как решение для коротких, хорошо очерченных повседневных задач. Тариф Max — для пользователей, которые запускают несколько агентов одновременно. Тариф Team стартует от 500 долларов в месяц с неограниченным числом пользователей и 1000 долларов кредитов использования, общих для команды. Расход сверх включённых кредитов списывается с общего баланса команды по мере использования; можно пополнить баланс фиксированной суммой и отключить автоматическое списание.
Командный аккаунт устроен отдельно от личного. При вступлении в команду Ollama создаёт отдельный командный аккаунт, и переключаться между командным и личным можно под одним логином. Для команд доступны централизованный биллинг и администрирование, ограничение доступа к конкретным моделям, установка бюджетов расходов для пользователей и API-ключей, приватный канал в Slack с выделенной поддержкой. Общие проекты, навыки и инструкции указаны как готовящаяся функция.
Технические требования к локальному запуску определяет ваше железо. Документация на GitHub предлагает команду ollama ps, чтобы увидеть, какие модели загружены в память и куда именно. Совместимость GPU с Ollama вынесена в отдельный вопрос документации, а способ настройки сервера описан через переменные окружения. Для macOS переменные задаются через launchctl, для Linux — через systemctl, для Windows Ollama наследует пользовательские и системные переменные.
Проверять актуальность стоит по первоисточникам: прайс меняется вместе с тарифами, а документация — вместе с версиями. Сторонние обзоры и пересказы отстают от обеих страниц. Если вы планируете бюджет, опирайтесь на прайс; если настраиваете сервер — на файл faq.mdx.
Документированный порядок действий по выбранной задаче
Задача: поднять локальный сервер Ollama с увеличенным контекстным окном и проверить, что модель загрузилась на GPU. Порядок опирается на документацию проекта на GitHub.
Шаг первый — установка или обновление. На macOS и Windows Ollama скачивает обновления автоматически: нужно нажать на элемент в панели задач или строке меню и выбрать «Restart to update». Обновление можно поставить и вручную, скачав последнюю версию. На Linux документация предлагает повторно запустить установочный скрипт через curl.
Шаг второй — настройка контекста локального сервера. В примере FAQ указан запуск OLLAMA_CONTEXT_LENGTH=8192 ollama serve. В интерактивной сессии размер меняется командой /set parameter num_ctx 8192; это адаптация примера для выбранного размера. В JSON-запросе к локальному /api/generate параметр вложен в объект options: "options": {"num_ctx": 8192}.
Шаг третий — настройка сервера переменными окружения. На macOS, если Ollama запущен как приложение, переменные задаются через launchctl setenv. На Linux, если Ollama работает как служба systemd, переменные добавляются строкой Environment в секцию [Service] через systemctl edit ollama.service, после чего выполняются systemctl daemon-reload и systemctl restart ollama. На Windows Ollama наследует переменные пользователя и системы, поэтому перед изменением приложение нужно закрыть через панель задач.
Шаг четвертый — проверка загрузки на GPU. Команда ollama ps показывает таблицу с колонками NAME, ID, SIZE, PROCESSOR и UNTIL. Колонка PROCESSOR указывает, куда загружена модель: 100% GPU означает полную загрузку в видеопамять, 100% CPU — полную загрузку в системную память, а сочетание вида 48%/52% CPU/GPU означает частичную загрузку в оба места.
Шаг пятый — работа с логами. Документация направляет в раздел Troubleshooting за подробностями об использовании логов. Логи нужны, когда сервер не стартует или модель не грузится.
Шаг шестой — доступ по сети. Документация описывает настройку через прокси, ngrok и Cloudflare Tunnel, а также способ разрешить дополнительным веб-источникам доступ к Ollama. Это отдельные сценарии, каждый со своей конфигурацией.
Оригинальный учебный пример и критерии самостоятельной проверки
Это упражнение редакции. Оно проверяет, понимаете ли вы разницу между локальными и облачными лимитами.
Сценарий. У вас есть локальная модель и облачная модель. Вы хотите понять, где именно закончится ваш запрос. Возьмите одну задачу — например, разбор длинного документа — и прогоните её дважды: локально и через облачную модель с кредитами.
Порядок. Сначала запустите локальный сервер с контекстом, который вы задали сами, и посмотрите на вывод ollama ps. Зафиксируйте, какая доля модели ушла в GPU, а какая в системную память. Затем отправьте тот же запрос через API с параметром num_ctx и сравните поведение. После этого проверьте, сколько кредитов ушло на облачный вызов.
Критерии проверки. Первый: команда ollama ps показывает ненулевое значение в колонке PROCESSOR, и вы можете объяснить, что означает каждая комбинация. Второй: ваш запрос укладывается в заданное контекстное окно, и вы понимаете, что произойдёт при его превышении. Третий: вы можете назвать дату месячного сброса кредитов для своего аккаунта. Четвёртый: вы отличаете ошибку нехватки памяти от ошибки исчерпанных кредитов.
Частая ошибка. Пользователь поднимает контекст до большого значения на машине с небольшой видеопамятью и получает частичную загрузку модели в системную память. Скорость падает, а причина остаётся неочевидной. Проверка через ollama ps показывает сочетание CPU и GPU в колонке PROCESSOR — это и есть сигнал.
Второй сценарий для самостоятельной работы. Сравните две локальные модели разного размера на одной машине. Документация указывает, что скорость зависит от размера модели и архитектуры. Зафиксируйте время до первого токена для каждой и объясните разницу через объём модели и долю загрузки в GPU. Если хотите расширить сравнение, посмотрите материал Gemma или Qwen: сравнение локальных моделей.
Третий сценарий. Настройте сервер так, чтобы он был доступен в вашей сети, и проверьте доступ с другого устройства. Документация описывает этот сценарий отдельно, включая работу через прокси и туннели. Критерий успеха — запрос с другого устройства доходит до сервера и возвращает ответ модели.
Смежные варианты и что выбирать по задаче
Выбор между локальным и облачным режимом определяется задачей. Прайс Ollama описывает облачные модели как доступные по модели оплаты за использование с кредитами. Локальный запуск описан там же как всегда без ограничений по объёму.
| Задача | Что подходит | Почему |
|---|---|---|
| Повседневные короткие задачи | Тариф Pro | Описан как решение для коротких задач |
| Несколько агентов одновременно | Тариф Max | Описан для одновременного запуска агентов |
| Командная работа с общим бюджетом | Тариф Team | Общие кредиты и централизованный биллинг |
| Работа без оплаты за токены | Локальный запуск | Без ограничений по объёму |
| Знакомство с моделями | Free-аккаунт | Стартовый объём для стартовых моделей |
Отдельный слой — выбор модели. Прайс указывает, что список облачных моделей опубликован отдельно, и что облачные модели, обученные поддерживать инструменты, тестируются на вызов инструментов и на реальных агентных сценариях перед запуском. Квантизация облачных моделей описана как нативные веса от поставщика модели; на современном оборудовании NVIDIA могут использоваться ускоренные форматы данных, поддерживаемые архитектурами Blackwell и Vera Rubin.
Для локального запуска выбор модели упирается в память. Документация предлагает проверять загрузку через ollama ps и отдельно отвечает на вопрос о совместимости GPU. Если вы выбираете между двумя открытыми моделями, полезно посмотреть Как скачать Command R: веса и локальный запуск — там описан процесс загрузки весов.
Ещё один смежный вариант — работа с редакторами кода. Документация описывает использование Ollama в Visual Studio Code. Если вы подключаете модель к среде разработки, посмотрите Z AI Cursor: как подключить модель GLM — там разобран похожий сценарий подключения.
Типичные проблемы и проверяемые способы диагностики
Проблема первая: модель грузится медленно. Проверка — ollama ps. Если в колонке PROCESSOR стоит сочетание CPU и GPU, часть модели ушла в системную память. Документация объясняет, что 100% GPU означает полную загрузку в видеопамять, а 100% CPU — полную загрузку в системную память. Смешанное значение показывает распределение модели между GPU и системной памятью. Для выяснения причины такого размещения дополнительно проверьте параметры запуска и доступную память.
Проблема вторая: ответы обрываются на длинных документах. Проверка — размер контекстного окна. По умолчанию он равен 4096 токенам. Если документ длиннее, окно нужно поднять через OLLAMA_CONTEXT_LENGTH, num_ctx или /set parameter. Документация приводит пример с 8192.
Проблема третья: сервер не виден в сети. Проверка — настройка переменных окружения. На macOS это launchctl setenv, на Linux — секция [Service] в systemd с последующим daemon-reload и restart, на Windows — переменные пользователя и системы с предварительным закрытием приложения. Документация описывает каждый случай отдельно.
Проблема четвёртая: непонятно, куда ушли кредиты. Проверка — месячный цикл. Включённые кредиты сбрасываются в день начала подписки, на Free-плане — от даты регистрации. Неизрасходованный объём не переносится. Если расход превышает включённый объём, списание идёт с общего баланса команды.
Проблема пятая: нужно понять, отправляются ли запросы на ollama.com. Документация содержит отдельный вопрос об этом и отдельный вопрос о том, как отключить облачные функции. Это разные настройки, и их стоит различать при работе с чувствительными данными.
Проблема шестая: сервер не стартует. Проверка — логи. Документация направляет в раздел Troubleshooting за подробностями об использовании логов. Логи показывают, на каком этапе запуск прервался.
Проблема седьмая: медленная сеть в WSL2 на Windows 10. Документация выносит это в отдельный вопрос, что указывает на известный сценарий. Если вы работаете в WSL2, проверьте сетевую конфигурацию до того, как менять параметры модели.
Частые вопросы
Какие лимиты у Ollama при локальном запуске?
Локальный запуск не имеет оплачиваемых квот. Прайс Ollama указывает, что работа моделей на собственном оборудовании всегда без ограничений. Реальные границы задаёт ваше железо: объём видеопамяти, оперативной памяти и скорость диска. Контекстное окно по умолчанию равно 4096 токенам, и его можно изменить.
Сколько кредитов включено в тариф Team?
Тариф Team стартует от 500 долларов в месяц с неограниченным числом пользователей и 1000 долларов кредитов использования, общих для команды. Расход сверх включённого объёма списывается с общего баланса по мере использования. Баланс можно пополнить фиксированной суммой и отключить автоматическое списание.
Переносятся ли неиспользованные кредиты на следующий месяц?
Нет. В прайсе Ollama сказано, что неизрасходованный включённый объём не переходит на следующий месяц, вместо этого сумма обновляется при каждом месячном сбросе. Дата сброса привязана к дню начала подписки, включая годовые планы. На Free-плане отсчёт идёт от даты регистрации.
Как увеличить контекстное окно в Ollama?
Для локального сервера FAQ показывает запуск OLLAMA_CONTEXT_LENGTH=8192 ollama serve. В интерактивной сессии используйте /set parameter num_ctx 8192, а в JSON-запросе к /api/generate задайте options.num_ctx. Прочитанный FAQ указывает локальное значение по умолчанию 4096 токенов; требования облачной модели проверяйте отдельно.
Как проверить, загрузилась ли модель на GPU?
Команда ollama ps показывает таблицу с колонкой PROCESSOR. Значение 100% GPU означает полную загрузку в видеопамять, 100% CPU — полную загрузку в системную память. Смешанное значение вида 48%/52% CPU/GPU означает частичную загрузку в оба места. Документация описывает каждую комбинацию отдельно.