Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Темиртау

Практический курс для инженеров, которые будут сами поднимать и сопровождать нейросеть внутри предприятия: выбор сервера и GPU, драйверы и CUDA, Ollama, vLLM, llama.cpp, Open WebUI, RAG по документам, доступы, журналы и мониторинг. Подходит для IT-служб металлургии, химии, энергетики и ремонтных производств Темиртау.

Для инженеров

Вы собираете систему сами, мы ведём по шагам

Формат

Онлайн или выезд на площадку

Что освоит ваш IT-отдел:

Сервер и GPU под нагрузку

Как посчитать видеопамять под выбранную модель и число одновременных пользователей и не переплатить за лишние карты.

Драйверы, CUDA, контейнеры

Чистая установка стека NVIDIA на Linux, проверка видеокарты в Docker и разбор типовых сбоев после обновления ядра.

Ollama на рабочем сервере

Быстрый старт модели, хранение весов, автозапуск через systemd и ограничение доступа по сети.

vLLM для многих пользователей

Пакетная обработка запросов, настройка памяти под контекст и подбор параметров запуска под ваше железо.

llama.cpp и квантизация

Форматы GGUF, 4- и 8-битные сборки, замеры качества и скорости на ваших рабочих текстах.

Выбор открытой модели

Llama, Qwen, Mistral, DeepSeek: проверка лицензий, сравнение на задачах производства и отбор кандидатов.

Open WebUI для персонала

Единый вход, группы, общие шаблоны запросов и разделение доступа между цехами и службами.

RAG по технической документации

Индексация паспортов оборудования, инструкций и регламентов, ответы со ссылкой на страницу источника.

Сетевой периметр

Размещение сервера в отдельном сегменте, правила межсетевого экрана и изоляция от технологической сети.

Журналы и аудит запросов

Что писать в логи, как хранить их и как показать службе ИБ, кто и когда обращался к модели.

Нагрузочные испытания

Имитация одновременной работы десятков сотрудников, поиск узких мест и фиксация пределов системы.

Эксплуатационный регламент

Резервные копии, обновления моделей, откат и инструкция дежурному инженеру на случай сбоя.

ПРОБЛЕМА!

Есть сервер и желание, но нет уверенности, как запустить

В IT-службах крупных предприятий Темиртау о собственной нейросети говорят давно, но дальше разговоров дело идёт медленно. Инженеры читают разрозненные инструкции, пробуют модель на ноутбуке, а на промышленном сервере сталкиваются с несовместимыми драйверами, нехваткой видеопамяти и вопросами службы ИБ.

Эта страница не про обучение пользователей. Для сотрудников, которые просто задают вопросы модели, есть отдельная услуга «Обучение локальному ИИ». Здесь мы учим тех, кто отвечает за работу системы: ставит, настраивает, защищает и поддерживает.

Без системного подхода IT-отдел упирается в:

Модель, которая не помещается

Выбрана большая модель, а видеопамяти хватает только на малую часть контекста. Деньги на железо потрачены, результата нет.

Контур без правил

Сервер поднят, но непонятно, кто имеет доступ, что попадает в журналы и как отделить его от технологической сети предприятия.

Система живёт, пока жив один энтузиаст

Всё держится на одном инженере. Он уходит в отпуск или меняет работу, и обновить или починить сервис некому.

НАШЕ РЕШЕНИЕ!

Курс, после которого ИИ-сервер работает и обслуживается вашими силами

Мы проводим инженеров через весь путь: от расчёта железа до приёмки и регламента. Каждый шаг выполняется на реальном сервере, поэтому по окончании курса у вас не конспект, а работающая установка и документация к ней.

Параллельно разбираем, как эксплуатировать систему после нас: мониторинг, резервирование, обновление моделей. Знания остаются в IT-отделе, а не уходят вместе с подрядчиком.

Пошаговая установка на ваших данных

Ставим драйверы, сервер моделей и веб-интерфейс на выделенную машину, пока инженеры повторяют каждую команду у себя.

Периметр, согласованный с ИБ

Вместе со службой безопасности описываем сегменты сети, роли и журналы, чтобы запуск не упёрся в запрет.

Пакет для передачи эксплуатации

Схема системы, инструкции по обновлению, откату и восстановлению. Любой инженер подхватывает работу.

Самообучение по форумам против курса с пусконаладкой

Как разные пути запуска локального ИИ выглядят для промышленного IT-отдела: по срокам ошибок, рискам и результату.

Своими силами (форумы, видео, пробы и ошибки)

Дёшево, но непредсказуемо

Подходит, чтобы попробовать модель на ноутбуке. В боевой среде предприятия цена каждой ошибки выше: простой сервера, переделка сети, разбирательства с ИБ.

Типичные трудности

Несовместимые версии: драйвер, CUDA и библиотеки не стыкуются между собой
Нет оценки нагрузки: система тормозит, когда подключаются первые реальные пользователи
Нет документации: через полгода никто не помнит, как всё настроено

Риски

Простои
Переделки
Конфликт с ИБ
Зависимость от одного

Курс Sales Generator (обучение на вашей установке)

Предсказуемо и по плану

Вы проходите путь с инженером-наставником, фиксируете решения в документах и принимаете систему по заранее оговорённым критериям.

Что вы получаете

Проверенная сборка: совместимый набор драйверов, сервера и интерфейса
Замеры под нагрузкой: известный предел числа пользователей и скорости
Документы эксплуатации: схемы, регламенты и инструкции дежурным

Преимущества

Рабочий сервис
Согласован с ИБ
Знания в команде
Приёмка по критериям

Чем полезен Sales Generator инженерам предприятия

Мы практики внедрения локальных моделей, а не лекторы по теории. Курс собран из ситуаций, с которыми сталкиваются при запуске на реальном производстве.

0%
Система остаётся в вашем контуре
0
Этапов от аудита до приёмки
0
Блока: железо, модели, доступ, эксплуатация
0
Варианта: онлайн, очно, выезд

Работа на вашем сервере

Практику проводим на машине предприятия или на нашем стенде, чтобы навыки сразу переносились в рабочую среду.

Понимание промышленной ИБ

Учитываем разделение офисной и технологической сети, закрытые сегменты и требования служб безопасности.

Расчёт без переплаты

Помогаем рассчитать видеопамять и количество карт под реальную нагрузку и составить спецификацию для закупки.

Модели под документы цехов

Проверяем, как кандидаты работают с вашими техническими текстами на русском и казахском языках.

Официальные документы

Договор с ТОО или ИП, ЭСФ и АВР, оплата в тенге. NDA подписываем до просмотра ваших материалов.

Связь после курса

Если после запуска возникает вопрос по обновлению или сбою, инженеры могут обратиться к нам за консультацией.

Хотите, чтобы нейросеть заработала в вашем контуре?

Оставьте заявку: разберём ваше оборудование, сеть и задачи, после чего предложим программу курса для IT-отдела.

Модули курса по установке ИИ

Четыре блока от выбора железа до эксплуатации. Для Темиртау делаем акцент на закрытых сегментах, документации оборудования и отказоустойчивости.

Железо и платформа

  • Подбор сервера и GPU Расчёт видеопамяти, охлаждения и питания под выбранные модели.
  • Linux, драйверы и CUDA Установка стека NVIDIA, проверка карты и работа в контейнерах.
  • Подготовка машины Диски под веса моделей, сетевые интерфейсы и параметры безопасности.

Модели и серверы

  • Ollama, vLLM, llama.cpp Когда какой сервер выбирать и как настроить каждый из них.
  • Выбор и квантизация Сравнение Llama, Qwen, Mistral, DeepSeek и подбор сборки под железо.
  • Эмбеддинги и поиск Модели для поиска по документам и подготовка текстов к индексации.

Сервисы для сотрудников

  • Open WebUI Развёртывание, группы, вход пользователей и общие шаблоны.
  • RAG по документам Индексация паспортов, инструкций и регламентов с цитированием.

Защита и эксплуатация

  • Периметр и доступы Сегментация сети, роли, журналы и согласование с ИБ.
  • Мониторинг и обновления Метрики загрузки, оповещения, плановое обновление и откат.
  • Резерв и приёмка Копии конфигурации и баз, испытания, акт приёмки и регламент.

Как проходит пусконаладка с обучением

Пять шагов, на каждом из которых у вас появляется проверяемый результат: схема, работающий сервис или подписанный документ.

01

Разбор площадки

Выясняем, какое оборудование уже есть, как устроена сеть, кто пользователи и какие данные нельзя выпускать из сегмента.

02

Проект и закупка

Рассчитываем конфигурацию, готовим спецификацию и схему размещения, подписываем договор и NDA.

03

Совместная установка

Инженеры предприятия под нашим руководством ставят драйверы, сервер моделей, веб-интерфейс и базу для поиска.

04

Испытания и тонкая настройка

Запускаем нагрузочные проверки, подбираем параметры, подключаем журналы и мониторинг, проверяем доступы.

05

Приёмка и передача

Подписываем акт, передаём документацию и регламент эксплуатации, выдаём сертификаты, закрываем ЭСФ и АВР.

Опыт запуска локальных моделей на производстве

Учим не командам из инструкции, а ответственности за сервис

Промышленный IT-отдел отличается от офисного: здесь нельзя «просто попробовать» на боевой машине. Поэтому курс строится вокруг проверок до изменений, откатов и записей о каждом шаге.

Темиртау — город металлургов с мощной энергетикой, химическими и ремонтными производствами. Инженеры таких предприятий работают с технической документацией, паспортами оборудования и нормативами, и именно на этих материалах строится практика по поиску и ответам модели.

Мы показываем, как выстроить систему так, чтобы с ней могла работать служба ИБ, а не только энтузиасты: разделение ролей, журналы, обновления по расписанию.

Технические направления

  • Серверы моделей Ollama, vLLM и llama.cpp: выбор подхода, параметры запуска, автозапуск и контроль состояния.
  • RAG и работа с документами Разбор файлов, векторное хранилище, обновление индекса и проверка точности ответов.
  • Сеть и безопасность Сегменты, правила доступа, журналы и порядок реагирования на подозрительные обращения.

Форматы курса

Онлайн-сопровождение запуска

Инженеры сами работают на своём сервере, а мы подключаемся по согласованному каналу, проверяем шаги и отвечаем на вопросы.

Онлайн

Выезд на площадку

Работаем с командой на месте: монтаж, установка, испытания и приёмка проходят вживую по договорённости.

На месте

Кому нужен курс по пусконаладке

Службам Темиртау и Карагандинской области, которым предстоит самим запускать и вести локальную нейросеть: металлургия, химия, энергетика, ремонтные и сервисные предприятия.

IT-службам металлургических предприятий

Запуск модели для поиска по технической документации и внутренним стандартам без выхода за пределы сети.

Системным администраторам

Практика установки Linux-сервера с GPU, настройки контейнеров, автозапуска и резервных копий.

Инженерам информационной безопасности

Проектирование периметра, ролей и журналов для сервиса, который работает с внутренними документами.

Химическим и перерабатывающим производствам

Развёртывание ассистента для лабораторных журналов, паспортов безопасности и инструкций.

Энергетикам и теплоснабжающим организациям

Автономная установка для регламентов, актов осмотра и документации по оборудованию в закрытом контуре.

Ремонтным и сервисным предприятиям

Сборка ассистента по каталогам запчастей и ремонтным картам для механиков и снабженцев.

DevOps и интеграторам

Автоматизация развёртывания, обновлений и мониторинга ИИ-сервиса как части общей инфраструктуры.

Руководителям IT-подразделений

Понимание объёма работ, нагрузки на команду и критериев приёмки перед выделением бюджета на железо.

Типовые сценарии пусконаладки на предприятии

Задачи, вокруг которых мы выстраиваем практику с IT-специалистами Темиртау. Это учебные сценарии, а не рассказы о конкретных клиентах.

Металлургия
Горно-металлургический комплекс
Поиск по паспортам оборудования Инженеры поднимают сервер моделей и индексируют технические паспорта, схемы и руководства по эксплуатации агрегатов.
Что получает команда:
Механики находят нужный пункт инструкции за минуты, а документы не покидают закрытый сегмент.
Химия
Химические производства
Ассистент по паспортам безопасности Команда настраивает модель и базу знаний по паспортам безопасности и технологическим картам, проверяет точность ответов.
Что получает команда:
Специалисты быстро сверяют требования, а данные остаются на сервере предприятия.
Энергетика
Энергетика и теплоснабжение
Автономный контур для регламентов Развёртываем систему без доступа к интернету, переносим веса моделей через проверенный носитель и обновляем их по процедуре.
Что получает команда:
Дежурный персонал работает с регламентами в изолированной сети, а обновления проходят под контролем ИБ.
ИБ
Информационная безопасность
Аудит запросов и ролей Настраиваем журналы Open WebUI и сервера, роли по подразделениям и выгрузку записей для проверки службой безопасности.
Что получает команда:
Служба ИБ видит, кто и когда обращался к модели, и может подтвердить соблюдение политики.
Ремонт
Ремонтные и сервисные предприятия
Справочник запчастей и ремонтных карт Обучаем сотрудников индексировать каталоги и ремонтные карты и проверять, что модель не придумывает артикулы.
Что получает команда:
Снабженцы и мастера быстрее подбирают аналоги и операции, а ошибки в ответах отлавливаются на тестах.
Эксплуатация
Корпоративный IT
Мониторинг и плановые обновления Настраиваем метрики загрузки, оповещения о нехватке памяти и порядок обновления моделей с откатом.
Что получает команда:
Дежурный инженер видит состояние сервиса и знает, что делать при сбое, без вызова разработчика.

Инженеры, которые ведут запуск

Курс проводят специалисты, которые сами разворачивают локальные модели и отвечают за их работу.

Инженеры Sales Generator — установка и пусконаладка локального ИИ в Темиртау

Учим на настоящей установке

В Sales Generator курс по пусконаладке ведут инженеры, регулярно запускающие открытые модели на серверах заказчиков. Мы показываем реальные логи, ошибки и способы их исправления, а не только удачные сценарии.

GPU и CUDA Ollama и vLLM llama.cpp Open WebUI RAGМониторинг

Что мы гарантируем

Работаем по договору, защищаем ваши материалы и отвечаем за то, чтобы курс закончился работающей системой и документами.

Прозрачные условия

Договор с ТОО или ИП, оплата в тенге, закрывающие документы для бухгалтерии без задержек.

  • Договор и счёт
  • ЭСФ и АВР

Тайна вашей инфраструктуры

Схемы сети, адреса серверов и внутренние документы мы видим только по NDA и не копируем к себе.

  • NDA до старта
  • Код и доступы у вас

Приёмка по критериям

До начала курса фиксируем, что именно должно работать, и проверяем это на вашем сервере вместе с вами.

  • Критерии в договоре
  • Акт приёмки

100%

Данные в вашем контуре

NDA

Перед началом работ

Акт

Приёмка установки

ЭСФ

Полный пакет документов

Пусконаладка локального ИИ в Темиртау и области

Проводим курс для предприятий Темиртау онлайн и с выездом по договорённости. Выберите город, чтобы увидеть условия для вашего региона.

Курс для инженеров

Учим IT-отдел запускать и обслуживать локальную нейросеть на сервере предприятия в Темиртау.

Частые вопросы об установке локального ИИ

15 ответов для инженеров: оборудование, безопасность, формат курса и отличие от обучения пользователей.

Там учат сотрудников пользоваться готовой моделью: писать запросы, работать с документами, соблюдать правила. Здесь учат инженеров, которые систему создают и ведут: подбирать сервер, ставить драйверы и сервер моделей, настраивать веб-интерфейс и поиск по документам, закрывать доступы и сопровождать установку. Часто компании берут обе услуги: сначала запуск, затем обучение персонала.
Для системных администраторов, DevOps-инженеров, специалистов по информационной безопасности и руководителей IT-подразделений. Желательно уверенное знание Linux, сети и базовое понимание контейнеров. Опыт работы с нейросетями не обязателен, мы начинаем с основ.
Понадобится сервер или рабочая станция с видеокартой NVIDIA, Linux и доступ по сети. Конкретную конфигурацию мы определяем на разборе площадки: она зависит от выбранной модели и числа пользователей. Если оборудования ещё нет, поможем составить спецификацию для закупки.
Да. Веса моделей и образы контейнеров скачиваются отдельно и переносятся на сервер по согласованной процедуре. Мы показываем, как организовать такую доставку обновлений и как проверить целостность файлов, чтобы изолированный сегмент оставался изолированным.
Сервер с моделью мы рекомендуем ставить в отдельный сегмент с чёткими правилами межсетевого экрана. Доступ из технологической сети обычно не нужен или ограничивается минимальным набором. Схему вы согласуете со своей службой ИБ, мы помогаем её подготовить.
Ollama проще в установке и хорошо подходит для небольшой группы пользователей и пилотов. vLLM эффективнее, когда к модели одновременно обращаются многие сотрудники, но требует более тщательной настройки памяти. На курсе мы запускаем оба варианта на вашем железе и сравниваем результаты по скорости и стабильности.
Открытые модели Llama, Qwen, Mistral и DeepSeek, а также их квантованные сборки. Мы проверяем условия лицензий, сравниваем качество на ваших технических текстах и выбираем тот вариант, который помещается в имеющуюся видеопамять.
Документы разбиваются на фрагменты, превращаются в векторное представление и записываются в базу на вашем сервере. На курсе мы настраиваем разбор PDF и сканов, обновление индекса при появлении новых версий и проверку того, что ответ ссылается на реальный источник.
Настраиваем вход сотрудников, группы по подразделениям и ведение журналов запросов в соответствии с политикой вашей службы ИБ. Показываем, как хранить записи, ограничивать срок хранения и выгружать их для проверки.
Проводим нагрузочные испытания: имитируем одновременную работу нужного числа пользователей и измеряем скорость ответа. По результатам фиксируем границу, после которой нужна дополнительная карта или другая настройка, и вносим её в документы.
Работающая установка, схема сети и размещения, перечень версий и настроек, инструкции по обновлению, откату и резервному копированию, а также регламент для дежурного инженера. Всё оформляется актом приёмки.
Да. Инженеры работают на своём оборудовании, а мы подключаемся по согласованному каналу связи, ведём по шагам и проверяем результат. Очно обучение проводим в Алматы и Астане, в Темиртау возможен выезд по договорённости на ключевые этапы.
Заключаем договор с ТОО или ИП, до начала работ подписываем NDA. Оплата в тенге, по итогам выдаём ЭСФ и АВР. Программа адаптируется под задачи вашей компании, по окончании выдаётся сертификат.
Нет, если вы этого не хотите. Основной формат: ваши инженеры сами вводят команды, а мы ведём их по шагам. Если нужна помощь при сложной настройке, доступ предоставляется временно, по вашим правилам и с отзывом после завершения.
Инженеры могут вернуться к нам с конкретным вопросом: по обновлению модели, смене сервера или расширению базы знаний. Формат поддержки оговаривается в договоре. Основная цель курса в том, чтобы вы справлялись сами.