Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Жезказгане

Крупные предприятия области Улытау объединяют десятки подразделений в разных городах: рудники, обогатительные фабрики, плавильные и энергетические объекты. Учим инженеров строить локальный ИИ-сервис, который растёт вместе с нагрузкой: несколько GPU-серверов, vLLM, Open WebUI с единым входом, RAG по документации, мониторинг и приёмка.

Рост без переделок

Сервис наращивается узлами, а не заменой

Формат

Группа онлайн или выезд на запуск

Получить план курса для IT-службы Связаться в WhatsApp

Структура подготовки инженеров:

Архитектура с запасом на рост

Как заложить возможность добавлять узлы, не перестраивая систему, и где проходят границы одного сервера.

Подбор и сборка GPU-узлов

Выбор видеокарт, процессоров, памяти и сети между узлами для распределения нагрузки.

Система, драйверы, CUDA

Единый образ установки для всех узлов, фиксация версий и безопасные обновления.

vLLM на нескольких картах

Распределение модели между видеокартами, настройка памяти и очередей для большой группы пользователей.

Балансировка нагрузки

Общая точка входа для нескольких серверов моделей, проверка работоспособности и исключение неисправного узла.

Ollama и llama.cpp для малых задач

Когда отдельному подразделению достаточно лёгкого сервера, и как не усложнять систему.

Подбор моделей

Сравнение Llama, Qwen, Mistral и DeepSeek на инструкциях, отчётах и технической переписке.

Open WebUI и единый вход

Подключение к корпоративному каталогу пользователей, группы по предприятиям и рабочим службам.

RAG по документации холдинга

Индексация стандартов, технологических инструкций, отчётов и паспортов с ссылками на источник.

Нагрузочные испытания

Имитация одновременной работы нескольких предприятий, замеры и расчёт запаса мощности.

Мониторинг и оповещения

Единая панель по узлам, учёт использования видеопамяти и температуры, оповещения дежурным.

Резерв, регламент, приёмка

Копии конфигурации и базы, план восстановления, акт и инструкции для нескольких площадок.

ПРОБЛЕМА!

Пилот на одном сервере, а пользователей сотни на десятке площадок

Жезказган — центр области Улытау и медной промышленности: добыча и плавка меди, собственная энергетика, горный университет. Крупные предприятия региона состоят из множества подразделений, у каждого свои документы и свои сотрудники. Когда сервис нужен всем, пилот на одном сервере быстро перестаёт справляться.

Курс «Обучение локальному ИИ» помогает пользователям работать с готовой системой. Мы же готовим тех, кто создаёт и расширяет такую систему: инженеров, которые разбираются в нескольких узлах, балансировке и единой авторизации.

С какими трудностями сталкиваются IT-службы:

Один сервер как узкое место

При росте числа пользователей время ответа растёт, а остановка единственного сервера лишает ИИ-сервиса всех подразделений.

Разные учётные записи

Для каждого предприятия приходится заводить отдельных пользователей, и служба безопасности теряет единый контроль доступа.

Рост без плана

Серверы добавляют по мере необходимости, без общей схемы, и через год сложно понять, какой узел за что отвечает.

НАШЕ РЕШЕНИЕ!

Обучение, которое учит строить растущий сервис

Мы показываем, как проектировать систему сразу с учётом роста: общий вход, несколько серверов моделей, балансировка и мониторинг. Инженеры вашей компании собирают такой стенд своими руками на реальном оборудовании.

По завершении у вас рабочий кластер минимум из двух узлов, единая авторизация, панель мониторинга и план наращивания мощности. Любой новый узел добавляется по инструкции, которую вы пишете сами.

Общая точка входа

Пользователи работают с одним адресом, а система сама распределяет запросы между серверами моделей.

Единая учётная запись

Подключаем сервис к корпоративному каталогу, чтобы права выдавались и отзывались централизованно.

Понятный путь расширения

Составляем инструкцию добавления узла и проверяем её на практике, чтобы рост не требовал внешней помощи.

Один мощный сервер или масштабируемая схема

Как выглядит локальный ИИ для холдинга с несколькими предприятиями и какой подход выдерживает рост числа пользователей и документов.

Один большой сервер (всё в одной точке)

Просто, но с пределом

Хорошо работает для одной группы. С ростом числа пользователей упирается в видеопамять, а любая остановка выключает сервис для всех.

Что происходит со временем

Растёт очередь: ответы идут дольше в рабочие часы
Нет резерва: обслуживание требует остановки сервиса
Замена целиком: для роста нужен новый сервер вместо добавления узла

Риски

Очереди
Простой
Дорогая замена
Жёсткий предел
Результат: Годится для начала, но не для развития до уровня холдинга.

Несколько узлов с балансировкой (схема из курса Sales Generator)

Растёт вместе с задачами

Запросы распределяются между узлами, неисправный узел исключается, новый добавляется без остановки сервиса.

Что вы получаете

Распределение нагрузки: ответы без очередей в часы пик
Обслуживание по очереди: узлы обновляются по одному
Добавление узла: рост мощности по инструкции

Преимущества

Масштабируемость
Доступность
Единый вход
Контроль затрат
Результат: Основа, которая служит предприятию годами и расширяется постепенно.

В чём сила Sales Generator

Мы умеем объяснять сложные вещи просто и проектируем решения, которые инженеры предприятия смогут развивать без нас.

0%
Данных остаётся в корпоративной сети
0
Узла минимум в учебном кластере
0
Тем практики
0
Этапов от архитектуры до приёмки

Проектирование с запасом

Определяем, какую нагрузку нужно выдержать сегодня и какой запас заложить на рост числа подразделений.

Практика с несколькими узлами

Курс строится на реальном стенде из нескольких серверов, а не на схемах, которые невозможно проверить.

Единый вход и политика доступа

Учим подключать сервис к каталогу пользователей и согласовывать права со службой безопасности.

Проверка на документации предприятия

Сравниваем модели на ваших стандартах, отчётах и инструкциях, а не на абстрактных тестах.

Договор и закрывающие документы

Работаем с ТОО и ИП, выставляем ЭСФ и АВР, оплата в тенге. NDA подписываем заранее.

Сопровождение расширения

Когда вы будете добавлять узлы или подразделения, можно получить консультацию по схеме.

Нужен ИИ-сервис для всего холдинга, а не для одной группы?

Расскажите о структуре предприятия и числе пользователей, и мы предложим архитектуру и программу курса для инженеров.

Программа по созданию кластера

Четыре блока, от проектирования до эксплуатации нескольких узлов. Для Жезказгана усилены темы единого входа, балансировки и работы с документацией холдинга.

Проектирование

  • Оценка нагрузки Число пользователей, пики, размер моделей и запас на рост.
  • Схема кластера Узлы, сеть, хранилище документов и точки отказа.
  • Спецификация Состав оборудования и порядок поэтапной закупки.

Узлы и модели

  • Единый образ узла Linux, NVIDIA, CUDA и контейнеры в одинаковой конфигурации.
  • vLLM и мультиGPU Распределение модели между картами и настройка очередей.
  • Модели и сжатие Выбор Llama, Qwen, Mistral, DeepSeek и квантизация под узлы.
  • Балансировка Общий вход, проверка состояния и исключение узла из работы.

Сервис для подразделений

  • Open WebUI и каталог Единый вход, группы и права по предприятиям.
  • RAG для холдинга Индексация документов по подразделениям с разграничением доступа.
  • Рабочие шаблоны Общие инструкции и сценарии для служб.

Эксплуатация

  • Мониторинг кластера Панель метрик, оповещения и анализ использования.
  • Обновления по очереди Поочерёдное обслуживание узлов без остановки сервиса.
  • Копии и регламент Резервирование, восстановление, приёмка и инструкции.

Этапы создания сервиса

Пять шагов, каждый из которых заканчивается проверяемым результатом: схемой, работающим узлом или подписанным актом.

01

Структура и нагрузка

Выясняем, какие подразделения подключаются, сколько пользователей и документов, какой каталог используется для входа.

02

Архитектура и договор

Предлагаем схему кластера и этапы закупки, подписываем договор и NDA, формируем группу инженеров.

03

Первые два узла

Группа ставит систему и драйверы, запускает серверы моделей, настраивает балансировку и веб-интерфейс с единым входом.

04

Документы и испытания

Индексируем документацию подразделений, настраиваем разграничение, проводим нагрузочные испытания и отключение узла.

05

Передача и расширение

Вручаем схему, инструкции и план добавления узлов, подписываем акт, выдаём сертификаты, закрываем ЭСФ и АВР.

Экспертиза в масштабировании ИИ

Строить сразу правильно дешевле, чем переделывать

Переделка системы, к которой уже привыкли сотни сотрудников, всегда болезненна. Поэтому мы закладываем в архитектуру единый вход, раздельные рабочие пространства и возможность добавлять узлы с самого начала, даже если сначала используется один сервер.

Жезказган — центр области Улытау и медной промышленности: добыча и плавка меди, собственная энергетика, горный университет. Предприятия региона имеют сложную структуру и большие объёмы технической документации.

Поэтому практика курса опирается на документы такого типа: стандарты, технологические инструкции, отчёты, паспорта и письма. Мы проверяем, как система справляется с большим объёмом и несколькими группами пользователей.

Технические компетенции

  • Многоузловые установки Образы узлов, балансировка, обновления по очереди и работа при отказе одного сервера.
  • Единая авторизация Подключение к корпоративному каталогу, роли и политика доступа по подразделениям.
  • RAG на больших массивах Индексация объёмных архивов, управление версиями документов и проверка качества выдачи.

Форматы подготовки

Групповой практикум

Несколько инженеров собирают стенд из серверов предприятия по общему плану, наставник контролирует шаги и разбирает ошибки.

Группа

Запуск с выездом

Приезжаем на этапы монтажа, первого запуска и приёмки, остальные занятия проходят дистанционно по расписанию.

Выезд

Кому нужен курс по кластеру ИИ

Организациям Жезказгана и области Улытау, у которых много подразделений и пользователей: медная и горная промышленность, энергетика, производство и вузы.

Горнодобывающим и металлургическим холдингам

Единый сервис для рудников, фабрик и цехов с общей базой стандартов и раздельными правами.

Энергетическим компаниям региона

Поиск по регламентам и актам для станций и подстанций в закрытой сети.

Производственным предприятиям

Справочник по паспортам оборудования, ремонтным картам и нормативам для служб главного инженера.

Горному университету и колледжам

Многопользовательская лаборатория для студентов и преподавателей с лимитами и журналами.

Системным администраторам холдинга

Практика построения кластера, балансировки и мониторинга.

Инженерам информационной безопасности

Единый вход, роли и аудит для сервиса, которым пользуются разные предприятия.

DevOps-командам

Автоматизация развёртывания узлов, обновлений и проверки состояния.

Руководителям IT

Оценка затрат на оборудование, поэтапного расширения и необходимой численности команды сопровождения.

Учебные сценарии для больших организаций

Ситуации, на которых тренируются слушатели из Жезказгана. Это модельные задачи для практики, а не рассказы о проектах конкретных клиентов.

Кластер
Корпоративный IT
Сборка кластера из двух узлов Группа устанавливает одинаковый образ на два сервера, запускает модели, настраивает общий вход и проверяет распределение запросов.
Что осваивает команда:
Команда видит, как нагрузка делится между узлами, и умеет добавлять третий по тем же шагам.
Отказ
Надёжность
Отключение узла под нагрузкой Намеренно останавливаем один сервер при работе тестовых пользователей и наблюдаем за поведением системы и оповещениями.
Что осваивает команда:
Инженеры убеждаются, что сервис продолжает отвечать, и фиксируют порядок восстановления.
Доступ
Информационная безопасность
Единый вход через каталог Подключаем веб-интерфейс к корпоративному каталогу, создаём группы по предприятиям и проверяем отзыв прав при увольнении.
Что осваивает команда:
Служба ИБ управляет доступом из одного места, а лишние учётные записи не накапливаются.
Горное дело
Добыча и обогащение
Общая база стандартов предприятия Индексируем стандарты, технологические инструкции и отчёты, учимся обновлять версии без потери ссылок.
Что осваивает команда:
Инженеры разных площадок пользуются одной актуальной базой, ссылки ведут на нужную редакцию документа.
Вуз
Образование
Многопользовательская лаборатория Создаём среду для группы студентов с лимитами использования и журналами, не затрагивающую рабочий сервис.
Что осваивает команда:
Студенты тренируются на реальном стенде, а рабочие данные холдинга остаются отдельно.
Мониторинг
Эксплуатация
Панель состояния кластера Собираем метрики по видеопамяти, температуре и очереди запросов, настраиваем оповещения и еженедельный отчёт.
Что осваивает команда:
Дежурный видит состояние всех узлов в одном месте, а руководство получает данные для планирования закупок.

Инженеры, которые учат масштабировать

Наставники с опытом многоузловых установок и практики работы с большим числом пользователей.

Инженеры Sales Generator — курс по созданию кластера локального ИИ в Жезказгане

Практика на нескольких серверах

В Sales Generator занятия ведут специалисты, которые собирали ИИ-кластеры из нескольких серверов, настраивали балансировку и единый вход. Они объяснят, почему некоторые решения работают в пилоте, но ломаются при росте.

Многоузловые схемы vLLM Балансировка Open WebUI RAGЕдиный входМониторинг

Что мы гарантируем

Работаем официально, соблюдаем конфиденциальность и фиксируем критерии результата заранее.

Прозрачное оформление

Договор с юридическим лицом в Казахстане, оплата в тенге, закрывающие документы для бухгалтерии.

  • Договор и счёт
  • ЭСФ и АВР

Сохранность сведений

Информацию о сети, каталоге пользователей и документах используем только для целей курса, NDA подписываем заранее.

  • NDA до работ
  • Доступы выдаёте вы

Испытания по перечню

Нагрузочный тест и отключение узла входят в перечень приёмки и проходят вместе с вашими инженерами.

  • Перечень в договоре
  • Совместные испытания

100%

Данные в вашей сети

NDA

До начала работ

Акт

Приёмка по перечню

ЭСФ

Пакет документов

Создание кластера ИИ в Жезказгане и области

Работаем с предприятиями Жезказгана онлайн и с выездом по договорённости. Выберите город, чтобы увидеть детали.

Крупные города (онлайн и выезд)

Города и посёлки области Улытау

Курс по масштабированию

Обучаем IT-службы Жезказгана строить локальный ИИ-сервис, который растёт вместе с предприятием.

Вопросы о кластере локального ИИ

15 ответов: архитектура, единый вход, оборудование, безопасность, формат занятий и документы.

Обучение пользователей объясняет, как задавать вопросы готовой системе. Наш курс про то, как её построить: спроектировать несколько узлов, настроить балансировку, подключить единый вход, организовать мониторинг и регламент. Обычно им занимаются системные администраторы, DevOps-инженеры и специалисты по безопасности.
Если число пользователей и документов растёт, а остановка сервиса недопустима, одного сервера мало. Он остаётся единственной точкой отказа, и его мощность ограничена. Мы измеряем вашу нагрузку и показываем, где проходит граница, после которой имеет смысл добавлять узлы.
Пользователи обращаются к одному адресу, а специальный компонент распределяет запросы между доступными узлами и проверяет их состояние. Если узел недоступен, он временно исключается. На курсе мы настраиваем такую схему и проверяем её отключением узла под нагрузкой.
Веб-интерфейс поддерживает подключение к корпоративным каталогам и системам единого входа, мы показываем настройку на практике. Конкретный вариант зависит от вашей инфраструктуры, поэтому на первой встрече уточняем, как у вас устроена авторизация.
Минимум два сервера или мощные рабочие станции с видеокартами NVIDIA, объединённые сетью, на Linux. Если такого оборудования пока нет, мы составим поэтапную спецификацию, и занятия начнутся после поставки первых узлов.
Открытые модели Llama, Qwen, Mistral и DeepSeek, а также их сжатые версии. Мы проверяем лицензии и сравниваем качество на ваших документах, а затем определяем, какую модель запускать на каждом узле и как распределять её по картам.
Для каждого подразделения создаётся отдельная коллекция документов и рабочее пространство, права назначаются через группы. Общие стандарты индексируются в общую коллекцию. Мы проверяем на практике, что сотрудник получает только то, к чему допущен.
Узлы обновляются по очереди: один выводится из работы, обновляется и проверяется, затем возвращается в кластер. Остальные в это время обслуживают запросы. Мы отрабатываем эту процедуру на стенде и фиксируем её в регламенте.
Настраиваем сбор метрик по загрузке видеокарт, памяти, температуре и очереди запросов, панель для дежурных и оповещения. По накопленным данным можно планировать закупку новых узлов, а не делать это по факту сбоя.
Основной формат онлайн, он удобен для группы инженеров на предприятии. Очные занятия мы проводим в Алматы и Астане, в Жезказгане возможен выезд на этапы монтажа, первого запуска и приёмки по договорённости.
Работающий кластер, схему архитектуры, перечень версий и настроек, инструкции по добавлению узлов, обновлению и восстановлению, регламент эксплуатации и акт приёмки. Участники получают сертификаты.
Заключаем договор с ТОО или ИП, до начала работ подписываем NDA. Оплата в тенге, после завершения выдаём ЭСФ и АВР. Программа адаптируется под структуру и задачи вашего предприятия.
Нет, если вы этого не хотите. Основная схема: действия выполняют ваши инженеры, мы консультируем и проверяем. При необходимости временный доступ выдаётся на ваших условиях и закрывается после занятия.
Да. Мы помогаем создать отдельное пространство с лимитами и журналами для университета или колледжа, чтобы студенты практиковались на настоящем оборудовании и не затрагивали рабочие системы предприятия.
Можно вернуться за консультацией по расширению кластера, смене модели или подключению новых подразделений. Формат поддержки согласуем в договоре. Цель курса в том, чтобы ваша команда развивала систему самостоятельно.