Обзор Jan: локальный чат и облачные модели — это разбор приложения, которое запускает модели на вашем компьютере и умеет подключать внешних провайдеров. Jan поддерживает локальные модели и подключение провайдеров. Место исполнения и инструменты нужно проверять раздельно.
Назначение Jan и выбор режима
QuickStart предлагает установить Jan для своей ОС и дождаться загрузки модели по умолчанию. Поддерживаются инструменты MCP. В нашем примере они выключены; время установки и ответа не измерялось.
Для первой карточки встречи ниже сначала запишите выбранную модель и место её исполнения. Локальные модели работают на вашем устройстве, облачные — у провайдера с его ключом. Время и качество проверяются отдельно на одном входе.
Практический критерий прост. Если задача содержит персональные данные, переписку, внутренние документы, начинайте с локальной модели. Если нужна модель, которую ваша машина не тянет, подключайте облачного провайдера и осознанно принимайте, что текст уходит наружу. Документация проекта отдельно оговаривает: запросы, направленные на удалённые провайдеры, не являются офлайн-операцией и не ограничены вашим компьютером.
Свой сервер подключают как OpenAI- или Anthropic-совместимый endpoint. В карте маршрута укажите его фактическое местоположение.
Совместимость по официальной странице
Совместимость стоит проверять по актуальной странице установки, поскольку требования менялись. Официальный блог проекта в обновлении за октябрь 2026 сообщает: поддержка Intel Mac прекращена, начиная с версии v0.8.5 встроенный движок работает только на Apple Silicon. Локальные модели на Intel Mac не запускаются. Страница Mac installation — первичный источник по этому вопросу.
Документация Local API Server повторяет ограничение точнее: встроенный движок llama.cpp не загружает модели на Intel Mac по состоянию на v0.8.5, а MLX также требует Apple Silicon. Оговорка касается локального движка и локальных моделей. Облачные провайдеры подключаются через сеть, и это отдельный сценарий.
Перед скачиванием выберите установщик для своей операционной системы и проверьте требования текущей версии. Описанное ограничение Intel Mac относится к локальному движку; возможность облачного подключения рассматривается отдельно.
Возможность запуска зависит от выбранных весов, формата, памяти и поддержанного движка. Подсказка о совместимости в приложении полезна для первого выбора, но фактическую загрузку и ответ следует проверить на своём устройстве.
Сторонний туториал AIIndigo на момент подготовки обзора описывает поддержку Intel Mac, и в этой части он устарел относительно официального обновления. Ориентируйтесь на страницу проекта.
Загрузка модели и выполнение запроса
Загрузка сохраняет файл модели на диск, выполнение использует его для обработки сообщения. Для нашего входа с встречей нужно проверить оба этапа: наличие файла и выбранный движок, который действительно отвечает.
В Hub выберите модель и Download, затем укажите её в селекторе беседы. При импорте GGUF по ссылке проверьте поддержанный движок и квантование в своей версии. Для карточки проверки сохраните точное имя и версию загруженных весов.
Наличие файла ещё не подтверждает работу модели. После загрузки весов отправьте учебный текст и сохраните ответ. Если приложение сообщает об ошибке загрузки, переходить к оценке извлечённых полей рано: содержательного ответа ещё нет.
Отсюда практический вывод для проверки. Если вы хотите убедиться, что запрос обработан локально, недостаточно посмотреть, что модель скачана. Нужно смотреть, какая модель выбрана в селекторе в момент отправки сообщения, и какие инструменты включены. Скачанный файл сам по себе ничего не доказывает.
Маршрут данных в чате и сетевых инструментах
Локальная модель обрабатывает текст на вашем компьютере. Это верно для самого inference. Сетевые инструменты живут отдельно и могут обращаться наружу даже при локальной модели.
QuickStart перечисляет web search, fetch и подключение MCP. Для встречи Лён внешних сведений не требуется: выключите инструменты и не дополняйте отсутствующую ссылку поисковой находкой.
Из этого следует карта маршрута. Локальная модель с выключенными инструментами обрабатывает запрос на вашей машине. Локальная модель с включённым web search отправляет поисковый запрос внешнему сервису. Облачный провайдер получает переданный ему запрос, который может включать сообщение, инструкции и выбранный контекст. Три разных маршрута, три разных ответа на вопрос «куда ушли мои данные».
Проверять это нужно по факту. Отключите сетевые инструменты, отправьте сообщение и посмотрите логи. Документация Local API Server отмечает, что подробные логи сервера включены по умолчанию и показывают все входящие запросы, ответы и активность. Эти логи описывают работу сервера, но не являются полным аудитом всех исходящих сетевых обращений настольного приложения и инструментов.
API server и клиент Jan
Это два разных компонента, и их часто смешивают. Клиент Jan — приложение с интерфейсом, в котором вы пишете сообщения. Локальный API server — встроенный HTTP-сервер, совместимый с OpenAI, который отдаёт ваши локальные модели другим программам.
Для запуска откройте Settings > Local API Server, выберите доступную локальную модель в Default Model и нажмите Start Server. Дождитесь running. По документации удалённые провайдеры не заменяют локальную модель, необходимую для старта.
Базовый адрес — http://127.0.0.1:1337/v1. Host 127.0.0.1 ограничивает прослушивание своим компьютером, 0.0.0.0 — всеми интерфейсами; достижимость проверяется отдельно. Порт и префикс могут изменяться. API Key задаёт аутентификацию; пустое поле её отключает. Для нашего локального сценария сначала проверьте фактическую конфигурацию и доступ, затем отправляйте учебный запрос.
Настройки исполнения инструментов проверьте отдельно: где вызывается MCP, какие данные передаются и кто обрабатывает результат. Запуск локального HTTP-сервера сам по себе не выключает внешние обращения.
Учебный пример и ручной эталон
Ниже — условный вход для первой проверки текстовой задачи. Данные и эталон заданы вручную; результат Jan на этом входе редакция не измеряла.
Встреча проекта Лён назначена на пятницу в 15:00. Место — комната 7.
Участники: Ирина, Павел. Онлайн-ссылки пока нет.
Промпт для карточки:
Составь карточку встречи: проект, день, время, место, участники,
онлайн-ссылка. Если значение неизвестно, напиши неизвестно.
Не обращайся к веб-поиску или инструментам.
Ручной эталон ответа: Лён; пятница; 15:00; комната 7; Ирина и Павел; ссылка неизвестна. Точная календарная дата в исходнике не задана, поэтому её в эталоне нет.
Отрицательная проба: если модель дописала «пятница 13 ноября», ответ не проходит. Даты в исходном тексте нет, и добавление числа означает выдумку. Так проверяется склонность модели заполнять пробелы.
Карты маршрута для этого примера:
| Вариант | Модель | Провайдер | Инструменты | Куда уходит текст |
|---|---|---|---|---|
| А | скачанная локальная | локальный движок | поиск и MCP выключены | остаётся на вашей машине |
| Б | облачная | внешний, с API-ключом | по настройке | передаётся провайдеру |
| В | локальная | локальный движок | web search включён | поисковый запрос уходит наружу |
Для каждого варианта фиксируйте шесть полей: модель, тип провайдера, включённые инструменты, ответ, ошибки и время. Вариант А нельзя объявить проверенным офлайн без фактического отключения сети и проверки логов. Такую проверку редакция не проводила.
Что не стоит обещать заранее
Качество и скорость зависят от модели, движка, параметров и оборудования. В этой статье нет измеренных требований к RAM, времени ответа или универсального преимущества квантования. Сначала проверьте, что выбранные веса загружаются, затем сравните ответ с ручным эталоном.
Для локальной проверки сохраните название модели и её версию, состояние инструментов, вход и фактический выход. Если модель добавила календарную дату, проверьте, не пришла ли она из истории или инструмента. В исходной заметке примера есть только день недели. Даже правдоподобное число не становится подтверждённым фактом.
Для проверки без сети заранее подготовьте модель, отключите внешние инструменты и повторите тот же вход при отключённом соединении. Успешный ответ покажет работоспособность этого конкретного пути без подключения. Он не описывает все остальные режимы приложения и не проверяет правила хранения данных в облачной модели.
При подключении своего сервера укажите в карточке его владельца и адрес. Сервер на другой машине не равен локальному вычислению на вашем компьютере, даже если он принадлежит вашей организации. Карта маршрута должна показывать фактическое место обработки; одного названия Jan в заголовке беседы для этого недостаточно.
Частые вопросы
Что такое Jan AI и для чего он нужен?
Это настольное приложение для чата с моделями. В нашем упражнении оно используется для извлечения карточки встречи без добавления даты и ссылки.
Jan AI app работает на Intel Mac?
В сохранённом официальном обновлении за октябрь 2026 указано прекращение поддержки Intel Mac с v0.8.5 для локального движка. Перед установкой сверьте текущую совместимость своей версии.
Чем локальная модель отличается от облачной в Jan?
Для нашего входа запишите место обработки в карточке маршрута. Локальная и облачная модель должны получить один исходник; состояние инструментов и фактический ответ фиксируются отдельно.
Куда уходят мои данные при использовании Jan?
Облачный провайдер получает переданный ему запрос; его состав зависит от выбранного контекста и настроек клиента. При локальной модели отдельно проверьте внешние инструменты. Серверные логи не являются полным аудитом исходящих соединений.
Как подключить Jan к собственному серверу моделей?
Документация проекта описывает добавление кастомного провайдера в Settings > Model Providers. Укажите Base URL вида http://[host]:[port]/v1 и заполните поле API key. Документация Hugging Face показывает этот путь для transformers serve: после добавления провайдера нажмите Refresh в разделе Models. Локальный API server Jan при этом требует локальную модель для старта.