Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Семее

Курс для специалистов, которые отвечают за серверы в вузах, клиниках, мясной и молочной переработке и торговле. Разбираем сервер и GPU, Ollama, vLLM, llama.cpp, чат для сотрудников, поиск по документам, персональные и медицинские сведения внутри контура, журналы и приёмку.

Сведения под защитой

Документы и обращения остаются на сервере организации

Формат

Группа онлайн или практикум на месте

Чему научим IT-специалистов:

Выбор сервера под число пользователей

Связываем количество одновременных сессий, размер модели и видеопамять, чтобы спецификация закупки не оказалась ни избыточной, ни слабой.

Linux, драйверы, CUDA

Подготовка системы под видеокарты NVIDIA, проверка работы в контейнерах, закрепление версий, чтобы обновление не сломало сервис.

Ollama для пилота кафедры или отдела

Быстрый запуск моделей для испытаний, настройка автозапуска, адресов и ограничений доступа из локальной сети.

vLLM для общего сервиса

Серверный запуск с несколькими параллельными запросами, лимиты памяти и API, пригодный для интеграций.

llama.cpp и малые модели

Использование процессоров и недорогих карт для небольших задач, формат GGUF и компромиссы по скорости.

Модели и квантизация

Llama, Qwen, Mistral, DeepSeek: сравнение на русских и казахских текстах и выбор сжатия по доступной памяти.

Open WebUI для подразделений

Учётные записи и группы для кафедр, служб и отделов, наборы общих инструкций, ограничение списка моделей.

RAG по методическим и служебным документам

Индексация учебных планов, положений, приказов, внутренних инструкций и проверка того, что ответ ссылается на правильный источник.

Защита чувствительных сведений

Размещение в отдельном сегменте, права по ролям, шифрование соединений и правила работы с персональными данными.

Журналы и мониторинг

Запись обращений, метрики GPU и диска, оповещения о сбоях и разбор типичных причин остановки сервиса.

Нагрузка и лимиты

Проверка на сценариях начала семестра или утреннего потока заявок, подбор ограничений на запросы.

Копии, приёмка, документы

Резервирование весов и индексов, проверка восстановления, акт пусконаладки и регламент эксплуатации.

ПРОБЛЕМА!

Чувствительные данные нельзя отдавать наружу, а запустить свой ИИ сложно

В Семее работают университет и клиники, перерабатывающие предприятия, торговые компании. Везде накапливаются сведения, которые не должны попадать на сторонние площадки: списки студентов и пациентов, договоры, рецептуры, переписка с поставщиками. Облачные нейросети для таких материалов не подходят.

Своя система решает вопрос доступа, но требует знаний: от выбора сервера до журналов и восстановления. Обычно IT-служба небольшая, и разбираться по разрозненным статьям некогда. Нужен структурированный курс с практикой на вашем оборудовании, где каждый шаг объяснён и проверен.

Что мешает запустить систему своими силами:

Нет общей картины

Серверы моделей, интерфейсы и базы знаний описаны отдельно друг от друга; собрать из них рабочую цепочку без наставника сложно.

Неясно, как защитить сведения

Руководство требует гарантий, а у специалиста нет схемы, которую можно показать: где хранятся данные, кто имеет доступ, что пишется в журнал.

Нет проверки до запуска

Систему включают на весь коллектив без нагрузочного теста, и в первый напряжённый день она замедляется или останавливается.

НАШЕ РЕШЕНИЕ!

Практика, которая заканчивается готовым сервисом

Курс выстроен как проект: вы последовательно собираете сервер, запускаете модель, подключаете чат и документы, настраиваете защиту и сдаёте систему по акту. Работа идёт на вашем оборудовании или в тестовой копии, чтобы результат можно было сразу перенести.

В отличие от нашего обучения локальному ИИ для пользователей, здесь речь не о формулировании запросов, а о том, как создать и содержать систему, которой пользуются остальные.

Сервис под ваши подразделения

Настраиваем отдельные группы и наборы инструкций для кафедр, клиники или отделов, чтобы каждый видел только своё.

Защита встроена в проект

Права, шифрование, журналы и сегментация сети закладываются с первого занятия, а не после замечания проверяющих.

Опора на собственную команду

Специалисты вашей службы выполняют все шаги сами и забирают с собой инструкции для дальнейшей работы.

Облачный ассистент и собственная система

Организации с чувствительными сведениями выбирают, где обрабатывать документы: во внешнем сервисе или на своём сервере.

Облачный сервис (внешние нейросети)

Просто, но чужая территория

Не требует своего железа, зато предполагает передачу текстов за пределы организации и зависит от чужих условий.

Что смущает

Передача сведений: документы и обращения уходят на внешние серверы
Непрозрачное хранение: вы не знаете, где и сколько лежат ваши запросы
Нет доступа к внутренним базам: модель не знает ваших положений и регламентов

Риски

Утечка
Нарушение политик
Блокировка
Нет контроля

Собственная система (после курса Sales Generator)

Под контролем организации

Модель, база знаний и журналы находятся на вашем сервере, а команда знает, как их запускать и защищать.

Что вы получаете

Сведения на месте: обработка выполняется внутри организации
Разграничение по ролям: каждое подразделение видит свои материалы
Прозрачность: журналы показывают, кто и что спрашивал

Преимущества

Управляемый доступ
Своя база знаний
Независимость
Документация

Чем сильна программа Sales Generator

Мы делаем упор на инженерную часть и на защиту сведений: то, что чаще всего упускают в популярных обзорах.

0%
Практических заданий на реальной системе
0
Блока: платформа, модели, сервис, эксплуатация
0
Способа запуска моделей в курсе
0
Языка обучения: русский и казахский

Разбор под вашу структуру

Учитываем, как устроены подразделения: кафедры, отделения, цеха, торговые направления, и настраиваем группы и права под них.

Работа с чувствительными сведениями

Показываем, как отделять служебные материалы от общих и как строить правила доступа и журналы без лишней бюрократии.

Тесты на ваших примерах

Выбор модели и проверка поиска выполняем на ваших документах, чтобы решение опиралось на результат, а не на рекламные описания.

Данные только в РК

Все компоненты размещаются на оборудовании заказчика или в выбранном вами дата-центре на территории Казахстана.

Понятные закрывающие документы

Договор с ТОО и ИП, NDA до старта, ЭСФ и АВР по итогам этапов, оплата в тенге.

Консультации после запуска

Отвечаем на вопросы по обновлению, расширению базы документов и подключению новых подразделений.

Нужен собственный ИИ для вуза, клиники или предприятия?

Опишите задачи и имеющееся оборудование. Предложим программу и состав работ, которые подойдут вашей службе.

Что входит в программу по запуску ИИ

Четыре последовательных блока. Для Семея добавляем упражнения на служебных, методических и производственных документах.

Платформа

  • Расчёт и выбор сервера GPU, память, диск, питание, охлаждение.
  • Подготовка системы Linux, драйверы, CUDA, контейнеры.
  • Диагностика Проверка карт, типичные отказы и способы их быстро найти.

Серверы моделей

  • Ollama Быстрая установка и пилоты для отдельных групп.
  • vLLM Общий сервис с параллельными запросами.
  • llama.cpp и GGUF Скромное железо, запас, малые модели.
  • Выбор модели Сравнение и квантизация по вашим материалам.

Сервис и документы

  • Open WebUI Пользователи, группы, наборы инструкций.
  • RAG Индексы по приказам, положениям, учебным и служебным материалам.
  • Интеграции Связь с 1С и почтой через API.

Защита и эксплуатация

  • Права и сеть Сегментация, прокси, TLS, вход через каталог.
  • Журналы и мониторинг Метрики, оповещения, хранение записей.
  • Нагрузка и копии Тесты, лимиты, восстановление, регламент.

Как проходит курс с пусконаладкой

Пять этапов, на каждом из которых вы получаете измеримый результат и можете принять решение о следующем шаге.

01

Постановка задачи

Определяем подразделения и документы, которые войдут в систему, оцениваем число пользователей, фиксируем требования к защите сведений.

02

Согласование состава

Составляем описание сервера, ПО и размещения, подписываем договор и NDA. При необходимости помогаем подготовить заявку на закупку.

03

Установка вместе с командой

Подготавливаем систему, запускаем сервер моделей, интерфейс и первую базу документов. Каждый шаг выполняют ваши специалисты.

04

Проверка и защита

Тестируем нагрузкой, настраиваем роли и журналы, проверяем резервное копирование и порядок восстановления после отказа.

05

Приёмка и документы

Оформляем акт пусконаладки, передаём схему и регламент, выдаём сертификаты, закрываем ЭСФ и АВР, договариваемся о поддержке.

Опыт в запуске локальных моделей

Мы учим вести сервис, которому доверяют данные

Когда речь о студентах, пациентах или коммерческих условиях, важна не только скорость ответов. Поэтому в курсе равное внимание уделяется сервису и его защите: правилам доступа, журналам, копиям и тому, как объяснить эти меры руководству.

Семей — центр области Абай: мясная и молочная переработка, лёгкая промышленность, медицинский университет, региональная торговля. В таких организациях много внутренних регламентов, методических материалов и договоров, при этом сведения о людях требуют аккуратного обращения. Упражнения строим вокруг таких документов.

Если вам нужно, чтобы преподаватели, врачи или менеджеры умели ставить задачи модели, предложим отдельное обучение локальному ИИ для пользователей. Эта программа предназначена для тех, кто строит и поддерживает систему.

Основные направления

  • Серверы и среда для моделей GPU-серверы, контейнеры, драйверы, хранение весов и план обновлений с проверкой на тестовом стенде.
  • Поиск по документам организации Подготовка файлов, индексы по подразделениям, проверка выдачи и ссылки на источники.
  • Защита сведений и эксплуатация Сегменты, роли, журналы, резервные копии, регламент и действия при инциденте.

Форматы занятий

Групповой онлайн-практикум

Специалисты выполняют шаги на своём стенде, мы подключаемся, смотрим результат и разбираем ошибки вместе со всей группой.

Онлайн

Пусконаладка с выездом

По договорённости приезжаем на запуск и приёмку, проводим занятие для IT-службы на вашем оборудовании.

На месте

Кому подойдёт курс по запуску локального ИИ

Организациям Семея и области Абай, у которых есть сервер или планы его покупки и сотрудники, готовые взять систему на сопровождение.

Университетам и колледжам

Поиск по учебным планам, положениям и приказам, помощник методиста на сервере учебного заведения.

Клиникам и медицинским центрам

Справочная система по внутренним протоколам и инструкциям, работающая в защищённом сегменте без передачи сведений наружу.

Мясо- и молокоперерабатывающим предприятиям

Чат для технологов и качества по рецептурам, нормативам и протоколам проверок на внутреннем сервере.

Лёгкой промышленности

Работа с технологическими картами, заказами и перепиской с поставщиками без выхода документов в облако.

Торговым компаниям

Подбор аналогов по прайсам и черновики писем поставщикам с подключением к выгрузкам из 1С.

Системным администраторам

Пошаговая установка сервера моделей, интерфейса, мониторинга и копий с готовыми конфигурациями.

Специалистам по ИБ

Схемы размещения, права, журналы и аудит запросов для внутренней нейросети.

Руководителям IT и цифровизации

Оценка ресурсов и рисков, чтобы согласовать проект и проверить результат по понятным критериям.

Типичные рабочие сценарии

Задачи, которые удобно разобрать на курсе: вуз, медицина, переработка, торговля. Это описания сценариев, а не истории конкретных клиентов.

Вуз
Образование
Справочная для методического отдела Специалисты поднимают сервер модели и строят индекс по положениям, учебным планам и приказам; сотрудники получают ответ со ссылкой на пункт документа.
Эффект:
Поиск по внутренним нормам ускоряется, а списки и оценки студентов остаются в вузе.
Клиника
Здравоохранение
Поиск по внутренним протоколам Развёртывание чата в защищённом сегменте медицинской организации, подключение инструкций и приказов, разграничение доступа по отделениям.
Эффект:
Врачи и администраторы быстрее находят нужные положения, а сведения о пациентах не покидают контур.
Мясо
Мясная переработка
Вопросы технологов к базе рецептур Инженеры собирают базу технологических инструкций и санитарных требований и подключают к общему чату с группами по цехам.
Эффект:
Новые сотрудники быстрее вникают в регламенты, документы остаются на предприятии.
Молоко
Молочная переработка
Ассистент службы качества Настройка индекса по протоколам лаборатории и стандартам, проверка ответов и ссылок на исходные страницы.
Эффект:
Сверка требований занимает меньше времени, результаты анализов не выходят за пределы предприятия.
Торговля
Региональная торговля
Помощник отдела закупок Подключение локальной модели к выгрузкам прайсов, настройка шаблонов писем и сверки позиций.
Эффект:
Переписка с поставщиками уходит в черновики, коммерческие условия остаются в компании.
IT
IT-служба
Типовой узел для подразделений Команда фиксирует конфигурацию, записывает шаги установки и готовит скрипты для повторного развёртывания.
Эффект:
Новая установка выполняется по инструкции, а не вручную и по памяти.

Специалисты по практике

Курс ведут люди, которые сами ставят серверы моделей и сопровождают их в компаниях Казахстана.

Команда Sales Generator — установка и пусконаладка локального ИИ в Семее

Объясняем на живых примерах

Преподаватели Sales Generator не ограничиваются демонстрацией: они показывают реальные журналы, ошибки драйверов и нагрузочные тесты. Благодаря этому IT-специалисты узнают симптомы заранее и умеют быстро восстановить сервис.

Ollama vLLM llama.cpp Open WebUI RAGЖурналы

Что мы обеспечиваем

Работаем официально, бережно относимся к сведениям и отвечаем за то, чтобы к концу курса система действительно работала.

Договор и закрывающие документы

Заключаем договор с ТОО и ИП, оплата в тенге, после этапов выдаём ЭСФ и АВР.

  • Договор и счёт
  • ЭСФ и АВР

Конфиденциальность

NDA подписывается до доступа к вашей сети и документам. Мы не копируем материалы на свои устройства.

  • NDA до работ
  • Без копирования данных

Результат по списку

Критерии приёмки записаны заранее: сервис, роли, журналы, нагрузка, восстановление. Акт подписывается после проверки.

  • Критерии приёмки
  • Акт пусконаладки

100%

Сведения остаются у вас

NDA

До начала работ

Роли

Права по подразделениям

Акт

Приёмка по критериям

Курс по запуску ИИ в Семее и области Абай

Работаем дистанционно, а на важные этапы выезжаем по договорённости. Выберите город, чтобы посмотреть условия для вашего региона.

ИИ внутри вашей организации

Научим IT-службу в Семее установить, защитить и принять в эксплуатацию собственную нейросеть.

Вопросы о курсе по установке ИИ

15 ответов: для кого курс, что с оборудованием, как защищаются сведения и что вы получите по итогам.

Обучение пользователей показывает, как формулировать запросы и проверять ответы. Этот курс — для администраторов и инженеров: он о том, как выбрать и подготовить сервер, запустить модель, подключить чат и документы, настроить права, журналы и копии. Оба курса можно объединить в один проект.
Да. Мы настраиваем размещение так, чтобы сведения о студентах, сотрудниках и пациентах не покидали вашу сеть, и разбираем разграничение доступа по подразделениям. Какие именно данные допустимо загружать в систему, вы определяете вместе с юристами и службой безопасности организации.
Сервер или рабочая станция с видеокартой NVIDIA нужной памяти, достаточный объём диска и стабильное питание. Для пилота подходит одна карта. Точную спецификацию мы рассчитываем по числу пользователей и выбранным моделям.
Небольшие модели работают на процессоре через llama.cpp. Скорость и качество ограничены, но для пилота и узких задач этого может хватить. В курсе вы сами оцените результат и поймёте, когда необходима видеокарта.
Ollama для быстрых проверок, vLLM для общего сервиса и llama.cpp для скромного железа и запасных узлов. Мы показываем границы каждого решения и как переходить между ними с минимальными изменениями.
Многие открытые модели понимают казахский, но качество разное. Мы сравниваем несколько вариантов на ваших документах и выбираем подходящий. Если качества не хватает, честно показываем ограничения.
Размещением в отдельном сегменте, шифрованием соединений, разграничением прав по группам, журналами обращений и резервными копиями с контролем доступа. Всё это настраивается на занятиях и записывается в регламент.
Вы готовите папки с положениями, приказами, инструкциями и методическими материалами, а затем индексируете их в векторной базе. Мы показываем, как проверять качество поиска и что делать, если система путает похожие документы.
Да, через API можно подключать выгрузки для справок и черновиков писем. Объём интеграции определяется по задачам и согласуется со службой безопасности.
В программе есть нагрузочные сценарии, например одновременная работа нескольких кафедр или смены на производстве. Мы измеряем задержки ответа, настраиваем лимиты и фиксируем границы применимости сервера.
Основная работа идёт дистанционно, на запуск, приёмку и групповое занятие выезжаем по договорённости. Возможны поездки в Курчатов, Аягоз, Шар, Бородулиху, Урджар. Даты согласуем заранее.
Да, занятия проходят на русском или казахском. Команды и документация общие, пояснения и материалы адаптируем под группу.
Схему размещения, перечень настроек, инструкцию администратора, регламент обновлений и копирования, акт пусконаладки. Участники получают сертификаты, бухгалтерия — договор, ЭСФ и АВР.
На вашем оборудовании или в дата-центре на территории Казахстана по вашему выбору. Мы подписываем NDA, не переносим документы на свои устройства и не используем внешние нейросети.
Стоимость зависит от числа участников, формата и объёма работ на вашей инфраструктуре. Называем её после обследования и фиксируем в договоре. Оплата в тенге, закрывающие документы предоставляем.