Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Костанае

Курс для компаний с несколькими площадками: центральный офис, элеваторы, заводы, филиалы. Показываем, как развернуть единый сервер моделей и дать доступ площадкам по защищённым каналам: контейнеры, vLLM, Ollama, Open WebUI, RAG, мониторинг, обновления и приёмка. Для агросектора, машиностроения, горнорудных предприятий и торговли региона.

Много площадок

Один сервер и защищённый доступ для филиалов

Формат

Дистанционно или выезд на запуск

Что входит в курс для DevOps и администраторов:

Центральный сервер и площадки

Архитектура, при которой одна система обслуживает офис, элеваторы, заводы и склады через защищённые каналы.

Расчёт GPU и хранилища

Как оценить память видеокарт, ёмкость дисков и сетевую пропускную способность для весов моделей и индексов документов.

Контейнеры и оркестрация

Упаковка серверов моделей, интерфейса и баз в контейнеры, фиксация версий и воспроизводимое развёртывание.

vLLM как общий сервис

Обработка параллельных запросов от нескольких площадок, лимиты по группам, приоритеты и совместимый API.

Ollama для узлов и испытаний

Лёгкий запуск на периферийных машинах и в тестовых контурах, отличия от серверного режима.

llama.cpp на слабых узлах

Малые модели на процессорах в удалённых подразделениях, где нет видеокарт и стабильного канала.

Выбор моделей и квантизация

Qwen, Llama, Mistral, DeepSeek: проверка на договорах, накладных и технических текстах, подбор сжатия.

Open WebUI для филиалов

Группы по площадкам и службам, шаблоны инструкций, ограничение набора моделей и квоты.

RAG по документам хозяйств и цехов

Индексы договоров, актов, технологических карт, регламентов; метаданные по площадкам и проверка выдачи.

VPN, прокси и сегментация

Защищённые каналы между площадками, обратный прокси, шифрование, правила для рабочих мест и серверов.

Мониторинг и оповещения

Метрики загрузки GPU, памяти, задержек и доступности по площадкам, оповещения дежурному инженеру.

Резервы, обновления, приёмка

Копии весов и индексов, график обновлений с откатом, акт пусконаладки и регламент эксплуатации.

ПРОБЛЕМА!

Площадок много, а единой системы ИИ нет

Крупные компании Костанайской области устроены как набор площадок: офис в городе, хозяйства, элеваторы, заводы, торговые точки. Каждый отдел ищет собственный способ использовать нейросети, и документы расходятся по чужим сервисам. Контролировать это невозможно, а запретить уже нельзя.

Единая локальная система решает вопрос, но ставит новые вопросы: как обеспечить доступ с площадок, что делать при слабом канале, как обновлять и следить за состоянием. На эти вопросы отвечает инженерная подготовка, а не разговоры об искусственном интеллекте вообще.

Где проекты спотыкаются в распределённых компаниях:

Нестабильные каналы связи

На удалённых площадках связь пропадает; без продуманной схемы доступа сервис выглядит неработоспособным, хотя сервер исправен.

Разные требования площадок

У элеватора, завода и офиса разные документы и роли; общая настройка без групп приводит к путанице и избыточным правам.

Отсутствие мониторинга

О сбое узнают от сотрудников с площадки, а не от системы, и на диагностику уходит время сезона, когда оно особенно дорого.

НАШЕ РЕШЕНИЕ!

Единый сервис и обученная команда эксплуатации

Мы проектируем и вместе с вашими инженерами собираем систему, в которой центральный сервер обслуживает все площадки, а доступ и права разделены по ролям. Все шаги выполняются на вашей инфраструктуре, затем фиксируются в схемах и инструкциях.

Курс не учит сотрудников пользоваться моделью: это задача отдельного обучения локальному ИИ для пользователей. Здесь вы получаете навыки развёртывания, мониторинга и сопровождения, которых хватит, чтобы вести систему без постоянной помощи подрядчика.

Схема под ваши площадки

Определяем, что размещать в центре, что на периферии и как обеспечить работу при перебоях канала.

Контейнерная сборка

Все компоненты упакованы так, что развернуть копию на новой площадке или после аварии можно по инструкции.

Наблюдаемость

Метрики и оповещения настроены так, что дежурный видит проблему раньше пользователей.

Разрозненные сервисы или единая платформа

Для компаний с несколькими площадками важно, будет ли у них один управляемый сервис или набор личных подписок.

Личные аккаунты в облаке (каждый сам по себе)

Хаос и риски

Сотрудники пользуются разными сервисами, и никто не знает, какие документы ушли и кому.

Проблемы

Нет единых правил: каждая площадка решает по-своему
Невозможно проверить: нет журналов и учёта обращений
Зависимость от канала: при потере связи сервис недоступен полностью

Последствия

Утечки
Разнобой
Расходы на подписки
Нет аудита

Единая локальная платформа (после курса Sales Generator)

Контроль и порядок

Один сервер моделей и один интерфейс, которыми управляет ваша команда. Права и квоты назначаются по площадкам.

Что вы получаете

Единые правила: роли и группы для всех подразделений
Журналы и мониторинг: видно загрузку и обращения
План на случай сбоя: копии и восстановление описаны и проверены

Преимущества

Единые правила
Наблюдаемость
Управляемость
Независимость

Почему Sales Generator подходит распределённым компаниям

Мы учим мыслить архитектурой: что в центре, что на площадках, как следить за состоянием и как восстанавливаться.

0%
Работа на вашей инфраструктуре
0
Этапов от обследования до акта
0
Сервера моделей в программе
0
Блока: платформа, модели, сервис, эксплуатация

Опыт многоплощадочной схемы

Разбираем распределение ролей между центром и площадками, обмен через защищённые каналы и работу при ограниченной связи.

Упор на воспроизводимость

Контейнеры, фиксация версий, скрипты установки: сборку можно повторить на новой площадке без ручной подгонки.

Мониторинг как часть проекта

Вместе настраиваем метрики и оповещения, чтобы дежурный инженер знал о проблеме до звонка с площадки.

Данные в Казахстане

Развёртывание на вашем оборудовании или в выбранном вами дата-центре в РК; код и доступы остаются у заказчика.

Документы для бухгалтерии

Договор с ТОО и ИП, NDA до начала, ЭСФ и АВР по этапам, оплата в тенге.

Поддержка после запуска

Подсказываем при расширении мощности, подключении новых площадок и смене версий моделей.

Хотите единый ИИ-сервис для всех площадок?

Опишите, сколько у вас площадок и какие документы обрабатываются. Предложим схему и программу обучения для вашей команды.

Программа по инженерному запуску ИИ

Четыре блока, ориентированные на распределённую инфраструктуру. Для Костаная даём больше практики по каналам связи и сезонной нагрузке.

Архитектура и железо

  • Схема центр и площадки Что размещать централизованно и как обслуживать периферию.
  • Расчёт GPU и хранилища Память, диски, пропускная способность сети.
  • Linux, драйверы, CUDA Подготовка и фиксация версий.

Контейнеры и модели

  • Контейнерная упаковка Образы, тома, сети, повторное развёртывание.
  • vLLM и Ollama Общий сервис и лёгкие узлы.
  • llama.cpp Малые модели на процессорах для периферии.
  • Выбор и квантизация Подбор по вашим документам и памяти.

Сервис для площадок

  • Open WebUI Группы по площадкам, квоты, шаблоны инструкций.
  • RAG с метаданными Индексы по подразделениям и проверка поиска.
  • Интеграции 1С, почта и учётные системы через API.

Сеть и эксплуатация

  • VPN, прокси, TLS Защищённый доступ для площадок и мобильных сотрудников.
  • Мониторинг и оповещения Метрики по площадкам, дежурные уведомления.
  • Копии, обновления, откат График, проверка восстановления, регламент.

Как строится внедрение с обучением

Пять шагов от обследования площадок до акта приёмки: на каждом вы видите, что уже работает и что осталось.

01

Карта площадок

Выясняем, где находятся подразделения, как устроена связь, какие документы будут в системе и сколько пользователей рассчитываем обслуживать.

02

Архитектура и договорённости

Согласуем схему, состав оборудования и график занятий. Подписываем договор и NDA, при необходимости готовим спецификацию для закупки.

03

Сборка центрального узла

Вместе с вашими инженерами ставим сервер моделей, интерфейс, базу документов и подключаем первую площадку через защищённый канал.

04

Подключение и испытания

Добавляем остальные площадки, проверяем поведение при потере связи, проводим нагрузочные тесты и отрабатываем сценарии отказа.

05

Приёмка и регламент

Передаём схемы, инструкции и график обновлений, оформляем акт пусконаладки, выдаём сертификаты, закрываем ЭСФ и АВР.

Опыт запуска локального ИИ

Мы учим выстраивать систему, а не только запускать программу

Для распределённой компании мало поднять модель на одном сервере. Нужно продумать каналы, роли, наблюдение и повторяемость, поэтому мы строим курс вокруг архитектуры, а упражнения выполняем на том, что реально есть у вашей команды.

Костанай — зерновая житница и центр машиностроения: автосборка и сельхозтехника, а рядом железорудные комбинаты Рудного и Лисаковска. Здесь много сезонной нагрузки, документов по хозяйствам, технических описаний и переписки с поставщиками. В упражнениях используем похожие материалы.

Если сотрудникам нужно научиться ставить задачи готовой модели, подойдёт наше обучение локальному ИИ для пользователей. Здесь же мы готовим тех, кто запускает и сопровождает систему.

Ключевые компетенции

  • Архитектура многоплощадочного ИИ Центральные и периферийные узлы, защищённые каналы, квоты и поведение при потере связи.
  • Контейнерная эксплуатация Образы, версии, развёртывание копий, откат и проверка после обновлений.
  • Поиск по документам хозяйств и цехов Индексы с метаданными, проверка выдачи и ссылки на источники.

Форматы

Онлайн-практикум по этапам

Инженеры выполняют шаги на тестовом стенде, а мы подключаемся к сессиям, проверяем результат и отвечаем на вопросы.

Онлайн

Запуск с выездом

По договорённости приезжаем на сборку центрального узла и приёмку, проводим занятие с командой на месте.

На месте

Кому нужен курс по запуску ИИ

Компаниям Костанайской области с несколькими площадками, собственным IT и необходимостью держать документы внутри контура.

Агрохолдингам и хозяйствам

Единый чат по договорам аренды, отчётам хозяйств и агрономическим заключениям для офиса и полевых подразделений.

Элеваторам и зерновым компаниям

Справочная по приёмке, хранению, лабораторным анализам и перевозкам с доступом для площадок.

Машиностроителям и автосборке

Поиск по технологическим картам, стандартам и ремонтной документации на внутреннем сервере.

Горнорудным предприятиям

Ассистент для технических служб по регламентам, паспортам оборудования и актам, размещённый в защищённом сегменте.

Торговым и логистическим компаниям

Разбор накладных и писем поставщиков, подбор позиций и черновики ответов клиентам.

DevOps и инженерам платформ

Контейнерное развёртывание, мониторинг, обновления и откат для общего ИИ-сервиса.

Системным администраторам

Установка сервера, интерфейса, настройка прав и копий с готовыми конфигурациями для повторения.

Руководителям IT

Оценка ресурсов и рисков многоплощадочного проекта, критерии приёмки и план развития.

Сценарии многоплощадочного запуска

Типовые задачи для агросектора, промышленности и торговли: это модели проектов для отработки на курсе, а не истории конкретных клиентов.

Агро
Сельское хозяйство
Единый чат для офиса и хозяйств Инженеры собирают центральный сервер, подключают филиалы по защищённым каналам и делают общий индекс договоров аренды и отчётов.
Эффект:
Руководители получают единую справку по документам, файлы не уходят во внешние сервисы.
Зерно
Элеваторы
Справочная для лаборатории и приёмки Настройка индекса по методикам, стандартам качества и инструкциям, доступ с рабочих мест лаборатории.
Эффект:
Лаборанты находят нужные требования быстрее, а документы остаются на предприятии.
Завод
Машиностроение
Поиск по технологическим картам Развёртывание модели и базы на сервере предприятия, права по цехам, журналы обращений для службы безопасности.
Эффект:
Технологи быстрее находят нужные карты, чертёжные описания остаются внутри компании.
Руда
Горнорудная отрасль
Ассистент технических служб Поднимается система в защищённом сегменте: регламенты, паспорта оборудования и акты осмотров доступны через чат.
Эффект:
Справка по регламентам не требует внешнего доступа, а аудит запросов доступен ИБ.
Торговля
Оптовая торговля
Разбор накладных и писем Подключение модели к почте и 1С через API: извлечение реквизитов из писем, подготовка черновиков заявок.
Эффект:
Рутинные операции сокращаются, коммерческие условия остаются в компании.
DevOps
Эксплуатация
Мониторинг распределённого сервиса Команда настраивает метрики, оповещения и сценарии отказа для центрального узла и периферии, проверяет откат версии.
Эффект:
О сбое узнают от системы, а не от пользователей, и восстановление идёт по инструкции.

Преподаватели с опытом эксплуатации

Курс ведут практики, которые отвечают за работающие системы и знают цену простоя в сезон.

Команда Sales Generator — установка и пусконаладка локального ИИ в Костанае

От схемы до дежурства

Специалисты Sales Generator разворачивают серверы моделей, настраивают мониторинг и разбирают инциденты. На занятиях вы увидите, как выглядят метрики перед сбоем, как читать журналы и как быстро вернуть сервис в работу.

Контейнеры vLLM Ollama Open WebUI RAGМониторингVPN

Что мы гарантируем

Работаем по договору, фиксируем объём и критерии результата и сохраняем конфиденциальность всех данных.

Оформление по закону

Договор с ТОО и ИП, счёт в тенге, затем ЭСФ и АВР после закрытия каждого этапа.

  • Договор и счёт
  • ЭСФ и АВР

Тайна сведений

NDA до обследования площадок. Мы не выносим документы и конфигурации с вашей инфраструктуры.

  • NDA до старта
  • Данные остаются у вас

Приёмка по критериям

Критерии записаны заранее: сервис, доступ площадок, мониторинг, копии. Акт подписывается после проверки.

  • Критерии в программе
  • Акт пусконаладки

100%

Данные на вашей инфраструктуре

NDA

До начала работ

Монитор

Оповещения о сбоях

Акт

Приёмка запуска

Запуск локального ИИ в Костанае и области

Работаем дистанционно и выезжаем на важные этапы по договорённости. Выберите город, чтобы увидеть условия для вашей площадки.

Единый ИИ для всех площадок

Поможем IT-команде в Костанае развернуть и принять собственную систему для нескольких подразделений.

Вопросы о курсе по пусконаладке ИИ

15 ответов: для кого курс, как организовать доступ площадок, что с оборудованием и какие документы вы получите.

Пользовательское обучение показывает, как общаться с готовой моделью. Наш курс — для инженеров: они проектируют схему, устанавливают серверы моделей, подключают площадки, настраивают мониторинг и копии. Для крупных компаний мы нередко проводим оба курса последовательно.
Через защищённые каналы между площадками и центром, обратный прокси с шифрованием и вход по корпоративным учётным записям. Мы разбираем, как организовать доступ так, чтобы сервис оставался доступным и безопасным.
Для таких случаев предлагаем размещать на месте небольшую модель через llama.cpp или Ollama, а сложные запросы направлять в центральный узел. Мы показываем, как настроить очередь и поведение при потере связи.
Сервер с GPU необходимой памяти, достаточно места для весов моделей и индексов, стабильное питание и охлаждение. Конкретную конфигурацию мы определяем расчётом по числу пользователей и размеру выбранных моделей.
Они позволяют зафиксировать версии, быстро развернуть копию на новой площадке и откатить обновление при неудаче. В курсе вы упакуете компоненты системы и отработаете перенос на другую машину.
vLLM для общего сервиса, Ollama для лёгких узлов и испытаний, llama.cpp для процессоров и слабого железа. Мы покажем, когда выбрать каждый и как между ними переключаться.
Вы подготавливаете договоры, акты, отчёты и регламенты, добавляете метаданные по площадкам и индексируете их. Затем собираем набор контрольных вопросов, проверяем выдачу и настраиваем параметры поиска.
Настраиваем метрики загрузки GPU, памяти, диска и задержек, а также оповещения дежурному инженеру. Показываем, какие значения тревожные и как реагировать на типовые сбои.
Да, через API можно передавать модели данные для справок, извлечения реквизитов и подготовки черновиков. Объём интеграции определяется по задачам и записывается в проекте.
Сначала на тестовом стенде, затем по графику на рабочем узле, с проверкой работоспособности и готовым планом отката. График и порядок вы получите в регламенте.
Основная работа дистанционная, на сборку центрального узла, испытания и приёмку выезжаем по договорённости. Возможны поездки в Рудный, Лисаковск, Житикару, Аркалык, Тобыл. Даты согласуем заранее.
Да, занятия проходят на русском или казахском. Команды и документация общие, пояснения подстраиваем под группу.
На вашем оборудовании или в дата-центре на территории Казахстана по вашему выбору. Мы подписываем NDA, не копируем документы на свои устройства и не используем внешние нейросети.
Схему архитектуры, перечень компонентов и версий, инструкцию администратора, регламент обновлений и копирования, акт пусконаладки. Участники получают сертификаты, бухгалтерия — договор, ЭСФ и АВР.
Она зависит от числа участников, количества площадок, объёма работ и формата. Называем её после обследования и фиксируем в договоре. Оплата в тенге, закрывающие документы предоставляем.