Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Казахстане

Технический курс для тех, кто будет своими силами поднимать и сопровождать нейросеть внутри компании: выбор сервера и GPU, драйверы и CUDA, Ollama, vLLM и llama.cpp, Open WebUI, RAG по документам, доступы, мониторинг и приёмка. Для филиальных сетей от Мангистау до Восточного Казахстана.

Для инженеров

Сервер, GPU, модели, эксплуатация

Формат

Онлайн или очно по договорённости

Обсудить программу для IT-отдела Связаться в WhatsApp

Из чего состоит курс по развёртыванию локального ИИ:

Требования к серверу

Как оценить видеопамять, оперативную память, диски и сеть под выбранную модель и число одновременных пользователей.

Драйверы и CUDA

Установка драйверов NVIDIA, CUDA и контейнерного окружения, проверка карт и типовые ошибки при первом запуске.

Ollama на сервере

Установка как службы, хранение моделей, параметры запуска и доступ по сети для других компьютеров офиса.

vLLM для нагрузки

Серверный движок для многих пользователей сразу: очереди запросов, пакетная обработка и настройка памяти.

llama.cpp и GGUF

Запуск на скромном железе, выгрузка слоёв на процессор и видеокарту, работа с файлами квантизованных моделей.

Выбор открытой модели

Сравнение Llama, Qwen, Mistral и DeepSeek на ваших документах: качество, язык, лицензия и аппетит к ресурсам.

Квантизация

Что теряется при сжатии модели, как выбрать формат и как проверить, что качество ответов осталось приемлемым.

Веб-интерфейс для сотрудников

Open WebUI и аналоги: учётные записи, группы, общие промпты и подключение к вашему серверу моделей.

RAG по документам

Нарезка файлов, эмбеддинги, векторное хранилище и проверка того, что ответ ссылается на верный источник.

Доступы и журналы

Роли, единый вход, аудит запросов, разделение сетей и политика хранения логов в вашем периметре.

Мониторинг и обновления

Метрики GPU и сервиса, оповещения, порядок обновления моделей и откат, если новая версия подвела.

Приёмка и регламенты

Нагрузочные испытания, резервные копии, акт приёмки и эксплуатационная документация для передачи в сопровождение.

ПРОБЛЕМА!

Закупили сервер, а модель не запускается как надо?

Руководство решило, что нейросеть должна жить внутри компании, и IT-отдел получил задачу «поставить ИИ». В реальности это десяток несвязанных тем: железо, драйверы, серверы моделей, интерфейс, поиск по документам, безопасность. Каждая из них по отдельности понятна, вместе они складываются в проект, которого у отдела раньше не было.

Хуже всего, когда систему собрал внешний человек, а потом ушёл: никто не знает, как её обновлять и что делать при сбое. Наш курс передаёт именно инженерное знание, чтобы контур оставался рабочим и без подрядчика.

Типичные трудности IT-отделов:

Неверный расчёт железа

Карту купили, а модель нужного качества в неё не помещается или отвечает так медленно, что сотрудники возвращаются к облачным чатам.

Система без эксплуатации

Запустили в тесте и забыли: нет мониторинга, резервных копий и порядка обновления, любой сбой превращается в авральный ремонт.

Дыры в доступах

Интерфейс открыт всем в сети, журналов нет, а документы с разными грифами лежат в одной базе знаний.

НАШЕ РЕШЕНИЕ!

Инженерный курс: от пустого сервера до сдачи в эксплуатацию

Мы проходим весь путь на практике: ставим драйверы, разворачиваем серверы моделей, подключаем веб-интерфейс и базу знаний, настраиваем доступы и мониторинг. Слушатели повторяют каждый шаг на своём или нашем стенде.

В отличие от курса «Обучение локальному ИИ», который учит сотрудников пользоваться моделью, здесь разбираем как систему построить, проверить и содержать. Итог: схема, инструкции и команда, готовая отвечать за контур.

Рабочая установка

Серверы моделей, интерфейс и база знаний запущены и проверены под реальную нагрузку, а не показаны на слайдах.

Понятная эксплуатация

Мониторинг, обновления, резервирование и план действий при сбое записаны в регламенты вашей компании.

Управляемая безопасность

Роли, журналы и сетевая изоляция настроены так, чтобы служба ИБ могла принять систему.

Самостоятельное внедрение или подрядчик под ключ

Две стратегии получить собственный ИИ в компании и то, что остаётся у вас после запуска.

Только под ключ (без передачи знаний)

Быстро, но с зависимостью

Подрядчик ставит систему и уходит. Работает, пока ничего не меняется; при первой же новой задаче снова нужен внешний исполнитель.

Что бывает

Чужая архитектура: IT-отдел не знает, почему настройки выбраны именно так
Платные доработки: каждое изменение требует нового договора
Хрупкая эксплуатация: при обновлении некому проверить совместимость

Риски

Зависимость
Простои
Слепые зоны
Долгие правки
Результат: Система есть, но управляете ею не вы.

Обучение с пусконаладкой (курс Sales Generator)

Знания остаются у вас

Ваши инженеры сами проходят установку и настройку под руководством практиков и получают работающий контур вместе с пониманием, как он устроен.

Что вы получаете

Своя команда: инженеры способны обновлять, лечить и расширять систему
Документация: схемы, инструкции и регламент на русском языке
Гибкость: новые модели и сценарии добавляются без внешнего исполнителя

Преимущества

Самостоятельность
Прозрачность
Документы
Развитие
Результат: Контур, за который отвечает ваш IT-отдел.

Почему инженеры выбирают Sales Generator

Это не лекции по нейросетям. Мы работаем с серверами, консолью и конфигами, и каждый участник уходит с рабочей системой.

0
Сервера моделей в программе
0
Семейства открытых моделей
0
Шагов приёмки и пусконаладки
0%
Данных остаётся в вашем периметре

Практика в консоли

Участники работают в терминале и конфигурационных файлах, а не смотрят демонстрацию готового результата.

Железо под ваш бюджет

Разбираем варианты от рабочей станции до серверной стойки и учим считать, что реально нужно под ваши задачи.

Разбор ваших сбоев

Берём ошибки, которые уже случались у вашей команды, и проходим их причины и способы устранения.

Документы для ИБ

Готовим описание архитектуры, матрицу доступов и перечень журналов, которые запросит служба безопасности.

Работа с договором

Договор с ТОО или ИП, NDA, оплата в тенге, ЭСФ и АВР в полном комплекте.

Консультации после курса

Если после запуска возникнет сложный случай, команда может обратиться к преподавателям за разбором.

Хотите, чтобы ваш IT-отдел сам умел запускать и сопровождать ИИ?

Расскажите о парке серверов и задачах: подберём состав курса, формат и стенд для практики.

Модули курса по развёртыванию ИИ

Четыре блока от оборудования до эксплуатации. Состав подстраиваем под вашу инфраструктуру и уровень команды.

Железо и окружение

  • Подбор сервера Видеопамять, процессор, память, диски, охлаждение и питание под выбранную модель.
  • Драйверы и CUDA Установка, проверка карт, контейнеры с доступом к GPU.
  • Подготовка системы Linux-сервер, пользователи, сеть и хранилище для моделей.

Серверы моделей

  • Ollama Служба, каталог моделей, настройка доступа по сети.
  • vLLM Запуск для многих пользователей, управление памятью и очередью.
  • llama.cpp Лёгкий запуск, форматы GGUF, гибридная работа на CPU и GPU.
  • Выбор и квантизация Сравнение моделей и проверка качества после сжатия.

Сервисы для сотрудников

  • Open WebUI Учётные записи, группы, шаблоны запросов, подключение моделей.
  • RAG по документам Загрузка файлов, эмбеддинги, векторное хранилище, контроль источников.
  • Интеграции Обращение к модели из других систем через API.

Безопасность и эксплуатация

  • Доступы и журналы Роли, аудит запросов, сетевой периметр.
  • Нагрузка и мониторинг Испытания, метрики, оповещения.
  • Резерв и обновления Копии, откаты, порядок смены версий.
  • Приёмка Акт, документация, регламент эксплуатации.

Как проходит курс по пусконаладке

Пять этапов от согласования программы до передачи системы в эксплуатацию.

01

Знакомство с инфраструктурой

Узнаём, какое оборудование есть, какие требования у ИБ и кто будет сопровождать систему. Подписываем договор и NDA.

02

Согласование программы

Выбираем модули, модели и состав группы, договариваемся о формате: онлайн или очно в Алматы и Астане.

03

Практика на стенде

Слушатели ставят драйверы, серверы моделей и интерфейс на выделенном сервере, повторяя каждый шаг вместе с преподавателем.

04

Установка у заказчика

Переносим решение на ваш сервер, подключаем документы, настраиваем доступы, нагрузку и мониторинг.

05

Приёмка и передача

Проверяем сценарии, подписываем акт, передаём регламенты и сертификаты, закрываем ЭСФ и АВР.

Чему мы учим в инженерном курсе

Не «поставить программу», а владеть системой

Локальный ИИ состоит из многих слоёв, и сбой в любом из них выглядит одинаково: «чат не отвечает». Мы учим находить слой, в котором проблема, и устранять её без угадывания.

Компании Казахстана очень разные: у одних один сервер в офисе, у других сеть филиалов с разной связью. Программа учитывает, как устроена ваша инфраструктура, а не берёт одну схему для всех.

Мы не учим пользователей писать запросы: это задача соседнего курса «Обучение локальному ИИ». Здесь мы готовим людей, которые ставят, чинят и обновляют.

Области компетенций

  • Серверы моделей Ollama, vLLM, llama.cpp: выбор движка под нагрузку, настройка и эксплуатация.
  • Данные и поиск RAG, векторные хранилища, подготовка документов, проверка качества ответов.
  • Безопасность и надёжность Роли, журналы, сеть, мониторинг, резервные копии и обновления.

Форматы обучения

Группа для IT-отдела

Совместная практика на общем стенде: сисадмины, DevOps и инженеры ИБ проходят курс вместе, онлайн или очно.

Группа

Установка вместе с командой

Инженеры заказчика разворачивают систему на своём сервере, а преподаватель ведёт и проверяет работу на каждом этапе.

На вашем сервере

Кому нужен курс по установке локального ИИ

Специалистам и командам любого региона Казахстана, которым предстоит поднять нейросеть внутри компании.

Системным администраторам

Тем, кому поручили развернуть сервер с моделью и дать доступ коллегам, но опыта с GPU ещё не было.

DevOps и платформенным инженерам

Тем, кто строит контейнерную среду, пайплайны обновлений и мониторинг для сервисов на основе моделей.

Специалистам по ИБ

Тем, кто принимает систему и должен понимать, где хранятся запросы, кто видит журналы и как закрыт периметр.

IT-директорам

Руководителям, которые планируют проект и хотят заранее знать этапы, риски и нужные компетенции в команде.

Разработчикам внутренних систем

Тем, кто подключает модель к 1С, CRM и порталам через API и отвечает за качество ответов.

Инженерам предприятий

Специалистам заводов, рудников и энергетики, где ИИ должен работать в закрытой сети без выхода наружу.

Банкам и финансовым организациям

Командам, которым нужен ИИ внутри защищённого контура с аудитом каждого обращения.

Госорганам и подведомственным организациям

Администраторам ведомственных сетей, где использование внешних облачных сервисов ограничено.

Типовые задачи пусконаладки

Сценарии, с которыми обращаются IT-отделы компаний Казахстана. Это типовые постановки, а не перечень клиентов.

Офис
Корпоративный сегмент
Один сервер на весь отдел Инженеры подбирают карту, ставят Ollama и Open WebUI, заводят группы пользователей и подключают общую папку с регламентами.
Результат:
Сотрудники получают чат внутри сети, а администратор знает, как перезапускать и обновлять службу.
Нагрузка
Большая организация
Сервер для сотен обращений Команда запускает vLLM, настраивает очередь, измеряет задержки под нагрузкой и ставит оповещения на перегрузку.
Результат:
Время ответа предсказуемо в рабочие часы, а рост числа пользователей планируется заранее.
Закрытая сеть
Производство и энергетика
Контур без выхода в интернет Модели и пакеты доставляются через проверенный носитель, обновления проходят по регламенту, журналы остаются на месте.
Результат:
Система работает в изолированном сегменте, а процедура обновления понятна и воспроизводима.
Документы
Юридический отдел
База знаний по договорам Слушатели готовят документы, строят векторное хранилище и проверяют, что ответы ссылаются на правильные страницы файлов.
Результат:
Поиск по архиву договоров работает без передачи файлов наружу, источник каждого ответа виден.
Филиалы
Распределённая сеть
Доступ из регионов Инженеры настраивают единый вход, разграничение по подразделениям и защищённый доступ из филиалов к центральному серверу.
Результат:
Работники филиалов пользуются тем же чатом, а журнал показывает, откуда и кто обращался.
Резерв
IT-служба
Восстановление после сбоя Команда отрабатывает копирование моделей и базы знаний, проверяет восстановление на втором сервере и записывает порядок действий.
Результат:
При отказе оборудования у дежурного есть пошаговая инструкция, а не импровизация.

Преподаватели — практики по ИИ-инфраструктуре

Курс ведут инженеры, которые разворачивают открытые модели на серверах компаний.

Инженеры Sales Generator на курсе по установке и пусконаладке локального ИИ

Показываем работающую систему, а не презентацию

Преподаватели Sales Generator сами устанавливают и сопровождают локальные модели. Поэтому на занятиях вы видите живую консоль, реальные сообщения об ошибках и способы их устранить, а не выхолощенные примеры.

Linux и Docker GPU и CUDA Ollama и vLLM RAG Open WebUIМониторинг

Что мы закрепляем в договоре

Работаем официально, фиксируем объём практики и порядок приёмки.

Официальные документы

Договор с ТОО или ИП, счёт в тенге, ЭСФ и АВР в полном комплекте для бухгалтерии.

  • Оплата в тенге
  • Закрывающие документы

Конфиденциальность

NDA подписываем до знакомства с инфраструктурой. Конфигурации и схемы не покидают вашу компанию.

  • NDA до старта
  • Данные на вашем сервере

Проверяемый результат

Перечень сценариев, которые должны работать после курса, записан в программе и проверяется на приёмке.

  • Сценарии в программе
  • Акт приёмки

100%

Данных внутри периметра

NDA

До начала работ

Акт

Приёмка системы

РК+RU

Занятия на казахском или русском

Обучение пусконаладке ИИ по всему Казахстану

Работаем с компаниями республики онлайн, очные занятия проводим в Алматы и Астане, в остальных регионах приезжаем по договорённости.

Крупнейшие города (онлайн и по договорённости)

Другие города и населённые пункты

Свой ИИ-контур

Научим вашу команду поднимать, настраивать и сопровождать локальную нейросеть в любом регионе республики.

Вопросы об установке локального ИИ

16 ответов для администраторов и руководителей: оборудование, модели, безопасность, формат и документы.

Курс «Обучение локальному ИИ» учит сотрудников пользоваться готовой моделью: ставить задачи, проверять ответы, работать с документами. Этот курс для тех, кто систему строит и поддерживает: выбирает железо, ставит драйверы и серверы моделей, настраивает доступы, мониторинг и резервирование. Многие компании заказывают оба: инженеры получают контур, пользователи учатся работать в нём.
Для системных администраторов, DevOps, инженеров по информационной безопасности, руководителей IT и разработчиков внутренних систем. Нужны базовые навыки работы с Linux и командной строкой. Знание машинного обучения не требуется: мы объясняем всё необходимое для эксплуатации.
Можно использовать выделенный стенд у нас, ваш собственный сервер или рабочую станцию с видеокартой NVIDIA. Для обучения на малых моделях хватит компьютера с Apple Silicon. Перед стартом уточняем, что у вас есть, и рекомендуем конфигурацию без лишних покупок.
Ollama для простого и быстрого старта, vLLM для работы под нагрузкой с многими пользователями и llama.cpp для запуска на скромном железе и с файлами GGUF. Объясняем, когда какой движок уместнее, и учим переносить настройки между ними.
Открытые модели с лицензиями, разрешающими коммерческое использование: семейства Llama, Qwen, Mistral и DeepSeek. Выбор под вашу задачу делаем на ваших документах, сравнивая качество, скорость и требования к видеопамяти.
Это сжатие модели, при котором она занимает меньше видеопамяти и работает быстрее, а качество ответов немного снижается. Мы показываем, как выбрать формат под ваше железо и как проверить на ваших примерах, что результат остался пригодным.
Да, это отдельный модуль. Разбираем подготовку файлов, нарезку на фрагменты, эмбеддинги, векторное хранилище и проверку качества. Отдельно уделяем внимание разграничению: чтобы сотрудник получал ответы только по тем документам, к которым имеет доступ.
Мы настраиваем роли и группы пользователей, журналы обращений, сетевую изоляцию серверов и порядок хранения логов. Готовим описание архитектуры для службы ИБ. Какие именно требования применимы к вашей организации, определяет ваша служба безопасности, мы помогаем их реализовать технически.
Да. После установки модель, интерфейс и база знаний работают в закрытой сети. Для получения новых версий мы описываем процедуру доставки через проверенный носитель или внутренний канал, чтобы обновления проходили по вашему регламенту.
Очные занятия возможны в Алматы и Астане. Для других городов основной формат — онлайн, а встречи на ключевых этапах, например при установке на вашем сервере, согласуем отдельно. Практика на удалённом стенде ничем не хуже, если у участников есть стабильное соединение.
Да. Группа может собираться онлайн из разных городов, а практику по установке выполняют на центральном сервере или стенде. Отдельно разбираем вопросы доступа из филиалов: единый вход, разграничение по подразделениям и защищённые каналы.
Да. По итогам вы получаете описание архитектуры, пошаговые инструкции по установке и обновлению, схему резервирования и проект регламента эксплуатации. Документы можно передать в службу ИБ и использовать для приёмки системы внутри компании.
Занятия проводим на русском или казахском языке по вашему выбору. Сами инструменты и сообщения об ошибках на английском, поэтому разбираем и терминологию, чтобы команде было легко пользоваться документацией разработчиков.
Заключаем договор с ТОО или ИП, оплата в тенге. По итогам выставляем ЭСФ и подписываем АВР. Стоимость зависит от числа участников, формата и объёма практики, и мы фиксируем её после обсуждения задач.
Да, по итогам обучения участники получают сертификат Sales Generator. Это подтверждение прохождения программы нашей компанией, а не государственный документ.
Вы можете вернуться к преподавателям с конкретным случаем: ошибкой при обновлении, вопросом по настройке доступа или выбору новой модели. Объём сопровождения согласуем в договоре, чтобы вы заранее понимали, на что можно рассчитывать.