Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Павлодаре

Технический курс для тех, кто будет поднимать и эксплуатировать нейросеть внутри предприятия: выбор сервера и GPU, драйверы, Ollama, vLLM, llama.cpp, веб-интерфейс, RAG, журналы и приёмка. Для промышленных, энергетических и торговых компаний Павлодара, где ИБ не разрешает выпускать документы в облако.

Для инженеров

Учим ставить, настраивать и сопровождать систему

Формат

Онлайн или выезд по договорённости

Из чего состоит технический курс:

Сервер и GPU под задачу

Как посчитать память видеокарт, пропускную способность и охлаждение, чтобы модель не упиралась в железо при реальной нагрузке отделов.

Драйверы и CUDA

Подготовка Linux, установка драйверов NVIDIA и CUDA, проверка видимости карт в контейнерах и типовые причины сбоев после обновлений.

Ollama для быстрого старта

Установка службы, хранение моделей, настройка адресов и автозапуска; когда Ollama хватает, а когда пора переходить на другой сервер.

vLLM для нагрузки

Серверная часть для десятков одновременных запросов: параметры памяти, очередь запросов, API, совместимый с привычными клиентами.

llama.cpp на скромном железе

Запуск на процессоре и небольших картах, форматы GGUF, частичная выгрузка слоёв на GPU и компромисс между скоростью и качеством.

Выбор и квантизация моделей

Llama, Qwen, Mistral, DeepSeek: как сравнить на ваших текстах и подобрать степень сжатия, при которой ответы остаются пригодными.

Open WebUI для сотрудников

Единый чат в браузере: учётные записи, группы, общие настройки, выдача разных моделей разным подразделениям.

RAG по документам предприятия

Нарезка регламентов и технических паспортов, векторная база, проверка полноты поиска и ответы со ссылкой на файл.

Доступы и сетевой периметр

Размещение в отдельном сегменте, правила межсетевого экрана, обратный прокси, TLS и вход через корпоративный каталог.

Журналы и мониторинг

Сбор логов запросов, метрики загрузки GPU и памяти, оповещения о сбоях и разбор типовых инцидентов эксплуатации.

Нагрузочное тестирование

Сценарии одновременной работы нескольких отделов, замер задержки первого токена и подбор лимитов до запуска в эксплуатацию.

Резервирование и приёмка

Копии моделей и индексов, план восстановления, акт пусконаладки и пакет документации для передачи в эксплуатацию.

ПРОБЛЕМА!

ИИ нужен, а ставить его некому?

На крупных площадках Павлодара руководство уже решило, что рабочие документы нельзя отправлять в чужие сервисы. Но дальше начинается инженерная часть: какой нужен сервер, как довести драйверы, как открыть доступ сотрудникам и не создать дыру в периметре. Готовых специалистов под эту задачу в штате обычно нет.

Чужие инструкции из интернета устаревают за несколько месяцев, а сбой модели в рабочее время превращается в заявку в IT-отдел. Нужен не рассказ про нейросети, а практика установки и сопровождения на оборудовании вашего предприятия.

Что обычно ломается при самостоятельном запуске:

Неверно подобранное железо

Закупают карту по цене, а не по объёму памяти; модель не помещается, и приходится сильно сжимать её, теряя качество ответов.

Открытые порты без контроля

Сервер модели оставляют без аутентификации в общей сети цеха или офиса, и любой подключённый компьютер получает доступ к документам.

Система без эксплуатации

Нет мониторинга, резервных копий и плана обновлений: после первого сбоя драйвера сервис стоит, а виноватого нет.

НАШЕ РЕШЕНИЕ!

Курс, который заканчивается работающей системой

Мы проводим инженеров вашего предприятия по всей цепочке: от выбора сервера до акта приёмки. Всё делается на вашей площадке или в тестовом контуре, который затем переносится в рабочий.

Эта программа не про то, как сотрудникам писать запросы: для пользователей у нас есть отдельное обучение локальному ИИ. Здесь вы учитесь поднять систему сами, а потом отвечать за неё.

Железо и софт по расчёту

Вместе считаем нагрузку, выбираем сервер и стек и фиксируем конфигурацию, которую можно закупать и повторять.

Защищённый контур

Сегмент сети, учётные записи, журналы и правила доступа настраиваются в ходе курса, а не после первого замечания службы ИБ.

Документы для эксплуатации

Вы получаете схему, инструкции администратора и регламент обновлений, по которым систему сможет вести другой сотрудник.

Самостоятельный запуск и курс с пусконаладкой

Сравниваем два пути: инженер разбирается сам по разрозненным руководствам или проходит практический курс на вашем оборудовании.

Своими силами по руководствам (видео и статьи)

Долго и с рисками

Подходит для эксперимента на одном компьютере, но плохо переносится на рабочий сервер предприятия с требованиями ИБ.

Что мешает

Обрывочные знания: каждый шаг описан в своём источнике, целостной схемы нет
Нет проверки результата: работает ли система под нагрузкой, станет ясно только в бою
Безопасность на потом: доступы и журналы добавляют уже после запуска

Последствия

Простои
Дыры в доступе
Зависимость от одного человека
Нет документации

Курс с пусконаладкой (Sales Generator)

Системно и с приёмкой

Инженеры проходят весь путь на вашем сервере, а итогом становится работающий сервис, акт и регламент.

Что вы получаете

Единая схема: от выбора GPU до резервных копий в одной логике
Проверка нагрузкой: тесты до того, как к системе подключатся отделы
Безопасность с первого шага: периметр, роли и журналы заложены в проект

Преимущества

Рабочий сервис
Документы
Передача знаний
Поддержка

Чем полезен Sales Generator IT-отделу

Мы не читаем лекции о будущем ИИ. Мы показываем, какие команды вводить, что проверять и как сдавать систему в эксплуатацию.

0%
Практика на реальной установке
0
Этапов от аудита до приёмки
0
Сервера моделей в программе
0
Языка обучения: русский и казахский

Лаборатория, а не слайды

Каждый блок заканчивается рабочим результатом: запущенная модель, открытый чат, построенный индекс или настроенный мониторинг.

Расчёт под ваш объект

Подбираем сервер под число пользователей и выбранные модели, даём спецификацию для закупки и пояснения для службы снабжения.

Взгляд инженера ИБ

Разбираем сегментацию, права, журналы и хранение данных так, чтобы их можно было показать на проверке и объяснить смежным службам.

Сервер в РК по выбору

Работаем на вашем оборудовании или в выбранном вами дата-центре на территории Казахстана; код и доступы остаются у заказчика.

Официальные документы

Договор с ТОО и ИП, подписание NDA до начала, ЭСФ и АВР после закрытия этапа. Оплата в тенге.

Помощь после запуска

Отвечаем на вопросы по обновлению моделей, замене железа и добавлению новых источников документов уже после обучения.

Нужно поднять нейросеть внутри предприятия?

Оставьте заявку: обсудим вашу площадку, ограничения ИБ и подготовим программу для инженеров, которые будут вести систему.

Модули курса по установке ИИ

Четыре блока в логике реального проекта. Для Павлодара усиливаем практику, связанную с промышленными площадками и закрытыми сегментами сети.

Платформа и железо

  • Расчёт сервера и GPU Память, число карт, питание, охлаждение и место в стойке под выбранные модели.
  • Linux, драйверы, CUDA Подготовка системы, проверка карт и контейнерного окружения.
  • Диагностика после сбоев Что смотреть, если карта пропала после обновления ядра или драйвера.

Серверы моделей

  • Ollama, vLLM, llama.cpp Три подхода к запуску, их границы и перенос между ними.
  • Выбор и квантизация Сравнение открытых моделей на ваших текстах и подбор сжатия.
  • Совместимый API Подключение внутренних приложений и клиентов к вашему серверу.

Сервис для сотрудников

  • Open WebUI и аналоги Установка, группы пользователей, общие инструкции и выдача моделей.
  • RAG по документам Индексация, поиск, проверка полноты и ссылки на источник.
  • Вход через каталог Подключение к корпоративной учётной записи вместо отдельных паролей.
  • Интеграции Связь с 1С, почтой и системой заявок через API.

Эксплуатация и приёмка

  • Сеть и права Сегмент, межсетевой экран, обратный прокси, TLS и роли.
  • Мониторинг и тесты Метрики, оповещения, нагрузочные сценарии и лимиты.
  • Резервы и регламент Копии, восстановление, график обновлений и пакет документов.

Как строится пусконаладка вместе с обучением

Пять этапов, на каждом из которых инженеры вашего предприятия делают работу руками, а мы проверяем и объясняем.

01

Обследование площадки

Изучаем имеющееся железо, сеть, требования ИБ и список документов, которые модель будет читать; фиксируем ограничения по выходу в интернет.

02

Проект и расчёт

Согласуем состав сервера, программного стека и схему размещения. Подписываем договор и NDA, при необходимости помогаем со спецификацией для закупки.

03

Сборка на практике

Вместе с вашими инженерами ставим систему, запускаем сервер моделей, веб-интерфейс и первую базу документов, объясняя каждое решение.

04

Испытания и защита

Прогоняем нагрузочные сценарии, проверяем права доступа и журналы, моделируем отказ и восстановление из резервной копии.

05

Приёмка и передача

Оформляем акт пусконаладки, передаём схемы и регламент эксплуатации, выдаём сертификаты участникам, закрываем ЭСФ и АВР.

Где нужна экспертиза в локальном ИИ

Мы учим вести систему, а не пользоваться ею

Курс рассчитан на людей, которым после обучения самим отвечать за сервис. Поэтому в программе нет абстрактных демонстраций: вы вводите команды, читаете журналы и решаете задачи, как на реальном дежурстве.

Павлодар — город крупных производств: алюминий, нефтепереработка, энергетика, агросектор Прииртышья. У таких предприятий отдельные сегменты сети, строгие правила доступа и много технической документации. Мы заранее обсуждаем, где модель можно разместить и как показать это службе ИБ.

От обычного обучения пользователей этот курс отличается глубиной: здесь речь о серверах, сети, мониторинге и восстановлении. Если вашим сотрудникам нужно научиться формулировать запросы, подойдёт наш курс по локальному ИИ для пользователей.

Что мы умеем и передаём

  • Инфраструктура для моделей Серверы с GPU, контейнеры, драйверы, хранение весов и обновление без остановки работы отделов.
  • Поиск по документам предприятия Индексы технических паспортов, инструкций и регламентов, проверка качества выдачи.
  • Безопасная эксплуатация Сетевой периметр, учётные записи, аудит запросов, резервирование и документация.

Форматы проведения

Онлайн-практикум

Инженеры повторяют шаги на своём тестовом сервере, мы подключаемся к сессии, смотрим ошибки и разбираем их вместе.

Онлайн

Пусконаладка на площадке

Выезд по договорённости: вместе устанавливаем и принимаем систему на оборудовании заказчика, часть сопровождения остаётся удалённой.

На месте

Кому нужен курс по установке локального ИИ

Организациям Павлодара и Павлодарской области, где есть собственные серверы, требования к периметру и инженеры, готовые взять систему на себя.

Заводам и металлургам

Поиск по технологическим картам, инструкциям по охране труда и ремонтной документации внутри закрытой сети предприятия.

Нефтепереработке и химии

Справочная система по регламентам, паспортам оборудования и актам, которая не выходит за пределы площадки.

Энергетическим компаниям

Ассистент для диспетчерских и ремонтных служб на серверах в защищённом сегменте, с журналами обращений.

Агрохолдингам

Работа с отчётами хозяйств, договорами поставки и агрономическими заключениями без отправки данных наружу.

Системным администраторам

Практика установки сервера моделей, Open WebUI и мониторинга с готовыми конфигурациями для повторения.

DevOps и инженерам платформ

Контейнеры, оркестрация, перенос из тестового контура в рабочий и сопровождение обновлений.

Специалистам по ИБ

Модель угроз для внутреннего ИИ, сегментация, права, журналы и аудит запросов.

Руководителям IT

Понимание состава работ, рисков и ресурсов, чтобы планировать внедрение и принимать результат.

Типовые сценарии пусконаладки

Задачи, с которыми обращаются предприятия вроде павлодарских: промышленность, энергетика, агросектор и торговля.

Завод
Промышленность
Справочная система для ремонтной службы Инженеры ставят сервер модели в сегменте предприятия и индексируют ремонтные карты и паспорта оборудования; механики получают ответ со ссылкой на нужный лист.
Эффект:
Поиск по технической документации становится быстрее, а сами файлы остаются в сети завода.
Энергия
Энергетика
Ассистент для диспетчерской группы Развёртывание в изолированном контуре: журналы смен, инструкции и регламенты переключений доступны через чат, а каждое обращение записывается.
Эффект:
Справка по инструкциям не требует выхода в интернет, а аудит запросов доступен службе ИБ.
Химия
Нефтехимия
Поиск по паспортам и протоколам Курс включает построение индекса по паспортам безопасности и протоколам испытаний, проверку качества выдачи и права доступа по подразделениям.
Эффект:
Специалисты находят нужные положения без ручного перебора, данные не покидают контур.
Агро
Агросектор
Внутренний чат для агрохолдинга Системный администратор поднимает Open WebUI с группами для агрономов, юристов и бухгалтерии и подключает отчёты хозяйств к базе знаний.
Эффект:
Руководители отделов работают с ИИ в одном месте, а доступы разделены по ролям.
Торговля
Торговля и дистрибуция
Модель для отдела закупок Настройка локальной модели и интеграции с 1С через API: сверка прайсов, разбор писем поставщиков и подготовка черновиков заявок.
Эффект:
Рутинная переписка с поставщиками уходит в черновики, условия контрагентов остаются у компании.
IT
IT-инфраструктура
Типовой стенд для филиалов Инженеры собирают воспроизводимую конфигурацию на контейнерах и скриптах, чтобы развернуть такой же узел на другой площадке без новых расчётов.
Эффект:
Установка в новом подразделении повторяется по схеме, а не заново изобретается.

Инженеры, которые поднимают системы

Курс ведут практики, которые сами ставят и сопровождают модели в компаниях Казахстана.

Команда Sales Generator — установка и пусконаладка локального ИИ в Павлодаре

Учим на том, что работает

Преподаватели Sales Generator ежедневно имеют дело с серверами моделей, векторными базами и журналами. Поэтому на занятиях вы увидите реальные ошибки, нестандартные случаи и способы их разбора, а не только красивый сценарий установки.

Ollama vLLM llama.cpp Open WebUI RAGCUDAМониторинг

Наши обязательства

Работаем официально, фиксируем содержание курса в договоре и отвечаем за то, что система реально запущена.

Договор и закрывающие документы

Работаем с ТОО и ИП, оплата в тенге, после этапов выдаём ЭСФ и АВР в сроки, согласованные в договоре.

  • Договор до старта
  • ЭСФ и АВР

Конфиденциальность

Подписываем NDA до осмотра площадки. Код, конфигурации и доступы остаются у вас, а размещение выбираете вы.

  • NDA
  • Доступы у заказчика

Приёмка по критериям

Заранее записываем, что должно работать: сервис, права, журналы, резервные копии. Передаём систему только после проверки по этому списку.

  • Критерии в программе
  • Акт пусконаладки

100%

Данные внутри вашего контура

NDA

До начала работ

Акт

Приёмка системы

Регламент

Для эксплуатации

Курс по установке ИИ в Павлодаре и области

Работаем с предприятиями Павлодарской области дистанционно, с выездом на ключевые этапы по договорённости. Выберите город, чтобы увидеть условия для вашего региона.

Локальный ИИ под присмотром ваших инженеров

Поможем установить, настроить и принять систему на оборудовании предприятия в Павлодаре.

Вопросы о курсе по локальному ИИ

15 ответов о программе для инженеров: оборудование, модели, безопасность, формат обучения и документы.

Обучение для пользователей показывает, как работать с готовой моделью: формулировать задачи, проверять ответы, соблюдать правила. Этот курс предназначен для тех, кто будет ставить и вести систему: сервер, драйверы, серверы моделей, сеть, журналы, резервные копии. Для Павлодара часто сочетаем оба курса: инженеры поднимают систему, потом обучаем пользователей.
Системным администраторам, DevOps-инженерам, специалистам по информационной безопасности и руководителям IT-отделов предприятий. Достаточно уверенной работы с Linux и базового знакомства с контейнерами. Глубокого знания машинного обучения не требуется.
Для учебного стенда хватит рабочей станции или сервера с видеокартой NVIDIA достаточной памяти. Точную конфигурацию определяем на этапе обследования исходя из числа пользователей и выбранных моделей. Если железа ещё нет, можно пройти первые блоки на нашем демо-стенде и подготовить спецификацию для закупки.
Ollama для быстрого старта, vLLM для нагрузки с множеством одновременных запросов и llama.cpp для скромного железа и процессорного запуска. Мы показываем, когда какой вариант уместен и как переходить с одного на другой, не переделывая интеграции.
Да, и многие павлодарские предприятия выбирают именно такой вариант. Мы разбираем размещение в отдельном сегменте, правила межсетевого экрана, получение обновлений через проверенный канал и работу без доступа в интернет.
Они остаются на вашем сервере. Индексация и поиск работают внутри вашей инфраструктуры, а перед началом мы подписываем NDA. Если нужен внешний дата-центр, его выбираете вы, и размещение возможно на территории Казахстана.
Да, веб-интерфейс можно подключить к корпоративному каталогу, чтобы сотрудники входили под своими учётными записями, а права зависели от групп. Это один из практических блоков курса.
Мы собираем набор контрольных вопросов по вашим файлам и смотрим, находит ли система нужные фрагменты и показывает ли источник. Если качество слабое, меняем способ нарезки, параметры поиска или модель. Такую проверку инженеры потом повторяют сами.
Обязательно. Мы моделируем одновременную работу нескольких отделов, измеряем задержку ответа и подбираем лимиты. Так вы заранее узнаете, сколько пользователей выдержит ваш сервер и когда потребуется расширение.
В программе есть отдельный блок: что копировать (модели, индексы, настройки), как проверять восстановление и как обновлять драйверы и модели без остановки работы. Итогом становится график обслуживания в регламенте.
Да, возможны русский и казахский. Технические термины и команды остаются общими, а материалы можно подготовить на нужном языке по согласованию.
Основной формат — дистанционный, с выездом на ключевые этапы по договорённости: пусконаладка, приёмка, групповое занятие. Можем выезжать и в города области: Экибастуз, Аксу, Майкаин, Щербакты, Иртышск. Даты выезда согласуем заранее.
Да. В курсе показываем, как подключать внутренние сервисы через API, чтобы модель помогала с письмами, заявками и справками. Объём интеграций определяем на этапе проекта.
Схему размещения, перечень настроек, инструкцию администратора, регламент обновлений и резервного копирования, а также акт пусконаладки. Участники получают сертификаты, бухгалтерия получает договор, ЭСФ и АВР.
Стоимость зависит от числа участников, формата и объёма работ на вашей площадке. Мы рассчитываем её после обследования и фиксируем в договоре. Оплата в тенге по счёту, закрывающие документы предоставляем.