Обучение установке и пусконаладке локального ИИ в Семее
Курс для специалистов, которые отвечают за серверы в вузах, клиниках, мясной и молочной переработке и торговле. Разбираем сервер и GPU, Ollama, vLLM, llama.cpp, чат для сотрудников, поиск по документам, персональные и медицинские сведения внутри контура, журналы и приёмку.
Сведения под защитой
Документы и обращения остаются на сервере организации
Формат
Группа онлайн или практикум на месте
Чему научим IT-специалистов:
ПРОБЛЕМА!
Чувствительные данные нельзя отдавать наружу, а запустить свой ИИ сложно
В Семее работают университет и клиники, перерабатывающие предприятия, торговые компании. Везде накапливаются сведения, которые не должны попадать на сторонние площадки: списки студентов и пациентов, договоры, рецептуры, переписка с поставщиками. Облачные нейросети для таких материалов не подходят.
Своя система решает вопрос доступа, но требует знаний: от выбора сервера до журналов и восстановления. Обычно IT-служба небольшая, и разбираться по разрозненным статьям некогда. Нужен структурированный курс с практикой на вашем оборудовании, где каждый шаг объяснён и проверен.
Что мешает запустить систему своими силами:
НАШЕ РЕШЕНИЕ!
Практика, которая заканчивается готовым сервисом
Курс выстроен как проект: вы последовательно собираете сервер, запускаете модель, подключаете чат и документы, настраиваете защиту и сдаёте систему по акту. Работа идёт на вашем оборудовании или в тестовой копии, чтобы результат можно было сразу перенести.
В отличие от нашего обучения локальному ИИ для пользователей, здесь речь не о формулировании запросов, а о том, как создать и содержать систему, которой пользуются остальные.
Облачный ассистент и собственная система
Организации с чувствительными сведениями выбирают, где обрабатывать документы: во внешнем сервисе или на своём сервере.
Облачный сервис (внешние нейросети)
Просто, но чужая территорияНе требует своего железа, зато предполагает передачу текстов за пределы организации и зависит от чужих условий.
Что смущает
Риски
Собственная система (после курса Sales Generator)
Под контролем организацииМодель, база знаний и журналы находятся на вашем сервере, а команда знает, как их запускать и защищать.
Что вы получаете
Преимущества
Чем сильна программа Sales Generator
Мы делаем упор на инженерную часть и на защиту сведений: то, что чаще всего упускают в популярных обзорах.
Нужен собственный ИИ для вуза, клиники или предприятия?
Опишите задачи и имеющееся оборудование. Предложим программу и состав работ, которые подойдут вашей службе.
Что входит в программу по запуску ИИ
Четыре последовательных блока. Для Семея добавляем упражнения на служебных, методических и производственных документах.
Платформа
-
Расчёт и выбор сервера GPU, память, диск, питание, охлаждение.
-
Подготовка системы Linux, драйверы, CUDA, контейнеры.
-
Диагностика Проверка карт, типичные отказы и способы их быстро найти.
Серверы моделей
-
Ollama Быстрая установка и пилоты для отдельных групп.
-
vLLM Общий сервис с параллельными запросами.
-
llama.cpp и GGUF Скромное железо, запас, малые модели.
-
Выбор модели Сравнение и квантизация по вашим материалам.
Сервис и документы
-
Open WebUI Пользователи, группы, наборы инструкций.
-
RAG Индексы по приказам, положениям, учебным и служебным материалам.
-
Интеграции Связь с 1С и почтой через API.
Защита и эксплуатация
-
Права и сеть Сегментация, прокси, TLS, вход через каталог.
-
Журналы и мониторинг Метрики, оповещения, хранение записей.
-
Нагрузка и копии Тесты, лимиты, восстановление, регламент.
Как проходит курс с пусконаладкой
Пять этапов, на каждом из которых вы получаете измеримый результат и можете принять решение о следующем шаге.
Постановка задачи
Определяем подразделения и документы, которые войдут в систему, оцениваем число пользователей, фиксируем требования к защите сведений.
Согласование состава
Составляем описание сервера, ПО и размещения, подписываем договор и NDA. При необходимости помогаем подготовить заявку на закупку.
Установка вместе с командой
Подготавливаем систему, запускаем сервер моделей, интерфейс и первую базу документов. Каждый шаг выполняют ваши специалисты.
Проверка и защита
Тестируем нагрузкой, настраиваем роли и журналы, проверяем резервное копирование и порядок восстановления после отказа.
Приёмка и документы
Оформляем акт пусконаладки, передаём схему и регламент, выдаём сертификаты, закрываем ЭСФ и АВР, договариваемся о поддержке.
Опыт в запуске локальных моделей
Мы учим вести сервис, которому доверяют данные
Когда речь о студентах, пациентах или коммерческих условиях, важна не только скорость ответов. Поэтому в курсе равное внимание уделяется сервису и его защите: правилам доступа, журналам, копиям и тому, как объяснить эти меры руководству.
Семей — центр области Абай: мясная и молочная переработка, лёгкая промышленность, медицинский университет, региональная торговля. В таких организациях много внутренних регламентов, методических материалов и договоров, при этом сведения о людях требуют аккуратного обращения. Упражнения строим вокруг таких документов.
Если вам нужно, чтобы преподаватели, врачи или менеджеры умели ставить задачи модели, предложим отдельное обучение локальному ИИ для пользователей. Эта программа предназначена для тех, кто строит и поддерживает систему.
Основные направления
-
Серверы и среда для моделей GPU-серверы, контейнеры, драйверы, хранение весов и план обновлений с проверкой на тестовом стенде.
-
Поиск по документам организации Подготовка файлов, индексы по подразделениям, проверка выдачи и ссылки на источники.
-
Защита сведений и эксплуатация Сегменты, роли, журналы, резервные копии, регламент и действия при инциденте.
Форматы занятий
Групповой онлайн-практикум
Специалисты выполняют шаги на своём стенде, мы подключаемся, смотрим результат и разбираем ошибки вместе со всей группой.
Пусконаладка с выездом
По договорённости приезжаем на запуск и приёмку, проводим занятие для IT-службы на вашем оборудовании.
Кому подойдёт курс по запуску локального ИИ
Организациям Семея и области Абай, у которых есть сервер или планы его покупки и сотрудники, готовые взять систему на сопровождение.
Типичные рабочие сценарии
Задачи, которые удобно разобрать на курсе: вуз, медицина, переработка, торговля. Это описания сценариев, а не истории конкретных клиентов.
Специалисты по практике
Курс ведут люди, которые сами ставят серверы моделей и сопровождают их в компаниях Казахстана.
Объясняем на живых примерах
Преподаватели Sales Generator не ограничиваются демонстрацией: они показывают реальные журналы, ошибки драйверов и нагрузочные тесты. Благодаря этому IT-специалисты узнают симптомы заранее и умеют быстро восстановить сервис.
Что мы обеспечиваем
Работаем официально, бережно относимся к сведениям и отвечаем за то, чтобы к концу курса система действительно работала.
Договор и закрывающие документы
Заключаем договор с ТОО и ИП, оплата в тенге, после этапов выдаём ЭСФ и АВР.
- Договор и счёт
- ЭСФ и АВР
Конфиденциальность
NDA подписывается до доступа к вашей сети и документам. Мы не копируем материалы на свои устройства.
- NDA до работ
- Без копирования данных
Результат по списку
Критерии приёмки записаны заранее: сервис, роли, журналы, нагрузка, восстановление. Акт подписывается после проверки.
- Критерии приёмки
- Акт пусконаладки
Курс по запуску ИИ в Семее и области Абай
Работаем дистанционно, а на важные этапы выезжаем по договорённости. Выберите город, чтобы посмотреть условия для вашего региона.
Города для онлайн-занятий и выезда
Другие города и посёлки области Абай
Обучение ИИ в Семее
Обучение нейросетям
Также в Семее
Вопросы о курсе по установке ИИ
15 ответов: для кого курс, что с оборудованием, как защищаются сведения и что вы получите по итогам.