Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Астане

Курс для администраторов и инженеров ИБ, которым нужно развернуть нейросеть в закрытом контуре и принять её у себя: сервер и GPU, серверы моделей, Open WebUI, RAG по внутренним документам, журналы, мониторинг и регламенты. Очные занятия в Астане, практика на стенде и на вашем оборудовании.

Закрытый контур

Без выхода за пределы сети

Занятия

Очно в Астане или онлайн

Программа для инженеров и специалистов ИБ Астаны:

Оборудование для закрытой сети

Подбор сервера и GPU для организаций, где внешний интернет недоступен, а закупка проходит по строгой процедуре.

Драйверы и CUDA без интернета

Установка из локального зеркала пакетов, проверка карт и сборка образов контейнеров для изолированной среды.

Ollama и llama.cpp

Быстрый запуск моделей для пилота в подразделении и размещение файлов весов во внутреннем хранилище.

vLLM для ведомства

Серверный движок для сотен сотрудников аппарата: пакетная обработка, лимиты на пользователя, управление памятью карт.

Модели для служебных текстов

Сравнение Llama, Qwen, Mistral и DeepSeek на русскоязычной и казахскоязычной переписке, проверка лицензий.

Квантизация и качество

Подбор уровня сжатия, при котором модель помещается в доступную видеопамять и остаётся аккуратной на юридических текстах.

Open WebUI с ролями

Корпоративный чат с разделением по департаментам, привязкой к каталогу учётных записей и общими шаблонами.

RAG по нормативной базе

Подготовка документов, векторное хранилище, фильтрация по грифу и подразделению, цитирование реквизитов источника.

Журналы и аудит

Какие события писать, где хранить и как обеспечить, чтобы служба ИБ могла восстановить картину по запросу.

Сетевой периметр

Сегментация, обратный прокси, шифрование внутри сети, закрытие лишних портов и контроль исходящих соединений.

Испытания и мониторинг

Нагрузочные сценарии для рабочего дня ведомства и панели состояния, на которые смотрит дежурный.

Приёмка и регламенты

Протокол испытаний, резервные копии, процедура обновления и эксплуатационные документы для комиссии.

ПРОБЛЕМА!

В закрытом контуре нельзя «просто скачать» и запустить

Организации Астаны, особенно в госсекторе и квазигоссекторе, работают с материалами, которые нельзя отправлять в облако. Но у закрытой сети свои особенности: нет прямого доступа к репозиториям, обновления проходят по процедуре, любое новое ПО согласуется с ИБ.

Типовые руководства из интернета предполагают свободный выход наружу и права администратора везде. В реальности установку нужно переосмыслить под ограничения контура, а инженеры должны уметь повторить её без подсказок из поисковика.

С чем сталкиваются IT-службы:

Нет доступа к зависимостям

Пакеты, образы и веса моделей приходится переносить вручную и проверять, а типовые инструкции этого не учитывают.

Долгое согласование с ИБ

Без схемы потоков данных, перечня портов и описания журналов система застревает на комиссии, и сроки сдвигаются.

Передача между подрядчиками

Систему поставил один исполнитель, обслуживать должен другой, а документации хватает только на первую установку.

НАШЕ РЕШЕНИЕ!

Курс по установке под ограничения контура

Мы строим программу вокруг реальной картины закрытой сети: учим работать с локальными зеркалами, переносить модели через проверенные носители, настраивать доступы и журналы так, как их ждёт служба безопасности организации.

В отличие от курса «Обучение локальному ИИ» для сотрудников-пользователей, здесь мы готовим тех, кто отвечает за платформу. К концу программы у вас есть пакет документов для комиссии и инженеры, которые понимают, что в нём написано.

Установка по процедуре

Пошаговая последовательность работы для сети без выхода наружу, включая проверку целостности переносимых файлов.

Пакет для комиссии

Схема потоков данных, список служб и портов, перечень журналов, описание ролей и порядок обновления.

Подготовленные кадры

Администраторы и специалисты ИБ умеют не только запускать, но и объяснять устройство системы на комиссии.

Облачный ассистент против закрытого контура

Как выглядит выбор для организации, которая работает со служебной информацией.

Внешний облачный сервис (доступ через интернет)

Удобно, но не для всего

Подходит для открытых материалов, но служебные документы и персональные сведения передавать туда не следует и зачастую нельзя.

Ограничения

Передача материалов вовне: запросы уходят за пределы сети организации
Сложное согласование: каждый сервис требует отдельной проверки ИБ
Нет контроля над версией: поведение модели меняется без вашего участия

Риски

Утечки
Блокировка
Несогласованность
Смена условий

Закрытый контур (строит и ведёт ваша служба)

Под контролем ИБ

Сервер в вашей сети, модели из проверенных источников, журналы и роли в рамках внутренней политики безопасности.

Что вы получаете

Изоляция: работа без выхода в интернет и с контролируемыми обновлениями
Прозрачность: можно показать комиссии, что и где хранится
Фиксированная версия: модель обновляется только по вашему решению

Преимущества

Изоляция
Аудит
Стабильность
Свои правила

Что отличает Sales Generator

Мы не продаём готовую коробку. Мы учим вашу службу самостоятельно построить и принять систему в рамках ваших правил.

0
Этапов приёмки и пусконаладки
0
Движка запуска моделей
0
Документов в пакете для комиссии
0%
Данных остаётся внутри сети

Опыт работы с изоляцией

Заранее разбираем, как переносить пакеты, образы и модели в сегмент без интернета и как проверять их целостность.

Очные занятия в Астане

Приезжаем на площадку, где можно работать в ваших условиях, и проводим установку вместе с вашей командой.

Совместная работа с ИБ

Специалисты по безопасности участвуют в программе наравне с администраторами, чтобы не было разрыва в понимании.

Документы для приёмки

Готовим основу для протоколов испытаний, схем и инструкций в форме, привычной вашей комиссии.

Оформление для бюджетных процедур

Договор с ТОО или ИП, NDA, оплата в тенге, ЭСФ и АВР. Состав документов обсуждаем заранее.

Двуязычные материалы

Инструкции и памятки готовим на русском, при необходимости адаптируем термины и на казахский язык.

Планируете закрытый ИИ-контур в вашей организации?

Расскажите, как устроена сеть и кто принимает систему. Предложим программу, стенд и состав документов для приёмки.

Программа пусконаладки в закрытой сети

Блоки выстроены по порядку работ. Для Астаны делаем упор на изоляцию, журналы и подготовку материалов для приёмки.

Подготовка среды

  • Оборудование и закупка Как описать требования к серверу и GPU для технического задания.
  • Локальные зеркала Репозитории пакетов и образов внутри сети.
  • Драйверы и CUDA Установка и проверка без доступа в интернет.

Запуск моделей

  • Ollama и llama.cpp Пилотные стенды и хранение весов во внутреннем хранилище.
  • vLLM Режим для большого числа пользователей, лимиты и очередь.
  • Выбор модели Тесты на служебных текстах, проверка лицензий.
  • Квантизация Баланс между качеством и объёмом видеопамяти.

Работа с документами

  • Open WebUI Роли, департаменты, привязка к каталогу учётных записей.
  • RAG с разграничением Фильтры по подразделению и категории документа.
  • Подготовка корпуса Очистка, нарезка, метаданные, обновление индекса.

Контроль и приёмка

  • Журналы и аудит События, хранение, выгрузка по запросу.
  • Периметр Сегменты, прокси, закрытые порты.
  • Испытания Нагрузка и мониторинг для рабочего дня.
  • Документы и регламенты Протоколы, схемы, порядок обновления, резервирование.

Этапы работы с вашей службой

Пять шагов от согласования требований до передачи системы в эксплуатацию.

01

Требования и ограничения

Узнаём, какой сегмент сети выделен, какие правила ИБ действуют, кто принимает систему. Подписываем договор и NDA.

02

План курса и стенда

Определяем, какие модули пройти, какие модели сравнить, где проводить занятия: в Астане очно или онлайн.

03

Учебная установка

Группа проходит весь путь на тестовом стенде: от драйверов до интерфейса с разграничением доступа и индексом документов.

04

Перенос в контур

Повторяем установку на сервере заказчика с учётом изоляции, вводим реальные документы, запускаем испытания.

05

Комиссия и передача

Передаём материалы для приёмки, помогаем подготовить протокол, подписываем АВР, выдаём сертификаты.

Наша экспертиза для организаций Астаны

Учим принимать систему, а не только запускать

В организациях Астаны установка почти всегда завершается комиссией. Если инженер не умеет объяснить, как устроена система, проект не принимается, поэтому мы с самого начала учим формулировать, документировать и защищать решения.

Астана — столица, где работают министерства, нацкомпании, квазигосударственные организации, финансовые структуры МФЦА и компании Astana Hub, а также крупные девелоперы. Различаются и сети, и требования, поэтому каждую программу мы согласуем отдельно.

Этот курс не учит работать с моделью как пользователь. Для этого есть программа «Обучение локальному ИИ»; чаще всего её проходят после того, как контур принят.

Что мы знаем лучше всего

  • Развёртывание без интернета Зеркала пакетов, перенос весов моделей, проверка целостности файлов.
  • Безопасность контура Роли, журналы, сегментация сети, подготовка документов для ИБ.
  • Доступ к знаниям RAG с разграничением по подразделениям и категориям документов.

Форматы курса

Очная группа в Астане

Инженеры и специалисты ИБ проходят занятия на площадке, где можно воспроизвести условия вашей сети.

Очно

Установка в организации

Преподаватель сопровождает вашу команду при вводе системы в закрытом сегменте, на каждом шаге проверяя результат.

На месте

Для кого этот курс установки

Организациям Астаны и региона (город Астана и Акмолинская область), где ИИ нужно держать в собственном контуре.

Госорганам и ведомствам

IT-службам, отвечающим за внутренние сети и вводящим новые сервисы по процедуре согласования.

Нацкомпаниям и квазигоссектору

Командам, которые строят общую платформу ИИ для нескольких департаментов с разным уровнем доступа.

Банкам и финансовым организациям МФЦА

Инженерам, настраивающим аудит и разграничение для работы с клиентскими материалами.

Девелоперам и строительным холдингам

IT-отделам, которые подключают модель к проектной и тендерной документации.

IT-компаниям и Astana Hub

Командам, строящим внутренние ассистенты и продуктовые сервисы на открытых моделях.

Вузам и научным центрам

Администраторам, поднимающим учебные и исследовательские стенды с общим доступом.

Специалистам по ИБ

Экспертам, которым предстоит принять ИИ-систему и сформулировать требования к её журналам.

Руководителям IT-подразделений

Тем, кто планирует проект, бюджет оборудования и компетенции в команде.

Типовые задачи закрытых внедрений

Сценарии, которые мы разбираем с инженерами организаций Астаны. Это постановки для практики, а не истории конкретных заказчиков.

Госсектор
Ведомство
Сервер без выхода в интернет Команда готовит зеркала пакетов, переносит веса моделей на защищённом носителе, проверяет контрольные суммы и запускает vLLM во внутренней подсети.
Результат:
Система работает в изолированном сегменте, а порядок переноса обновлений записан и воспроизводим.
Квазигоссектор
Холдинг
Общий ИИ-сервис на департаменты Инженеры настраивают Open WebUI с разделением по подразделениям, подключают каталог учётных записей и квоты на пользователя.
Результат:
Департаменты работают в одном сервисе, не видя данных друг друга, а нагрузка распределяется по правилам.
Финансы
МФЦА и банки
База знаний с аудитом Слушатели строят RAG по внутренним политикам, включают журналирование каждого обращения и настраивают выгрузку журнала для ИБ.
Результат:
На любой запрос можно восстановить, кто и что спрашивал, а ответы ссылаются на конкретные документы.
Стройка
Девелопмент
Поиск по проектной документации Команда готовит корпус чертежных пояснений и ведомостей, настраивает индекс и проверку актуальности версий документов.
Результат:
Инженеры получают ответ с указанием листа и раздела, а устаревшие версии не попадают в выдачу.
IT
Astana Hub
Внутренний ассистент для разработчиков Инженеры поднимают модель для кода и документации, подключают её к внутренней вики и ограничивают доступ к репозиториям.
Результат:
Разработчики получают подсказки без отправки исходников вовне, а доступ контролируется ролями.
Эксплуатация
Дежурная смена
Панель состояния и план реагирования IT-служба собирает метрики карт и сервиса, настраивает оповещения и пишет памятку для дежурного на случай отказа.
Результат:
Сбой виден сразу, а дежурный действует по инструкции и не ждёт автора решения.

Преподаватели — инженеры-практики

Курс ведут специалисты, которые сами разворачивают открытые модели в корпоративных сетях.

Курс Sales Generator по установке локального ИИ для IT-служб Астаны

Объясняем так, чтобы принял ИБ

Преподаватели Sales Generator умеют не только настраивать, но и описывать решения языком, который понимают комиссии и службы безопасности. Поэтому на занятиях мы обсуждаем и техническую часть, и то, как показать её заказчику внутри организации.

Linux и сети Docker GPU и CUDA vLLM RAGИБ и аудит

Что фиксируем в договоре

Работаем официально, соблюдаем конфиденциальность и описываем критерии приёмки заранее.

Закрывающие документы

Договор с ТОО или ИП, оплата в тенге, ЭСФ и АВР. Состав документов согласуем с вашей бухгалтерией заранее.

  • Счёт в тенге
  • ЭСФ и АВР

Конфиденциальность сетей

NDA до обсуждения схем. Адресация, настройки и конфигурации остаются только у вас и не публикуются.

  • NDA до старта
  • Данные у заказчика

Прозрачная приёмка

Список сценариев и проверок, которые будут подтверждены на испытаниях, указывается в программе.

  • Протокол испытаний
  • Документы для комиссии

100%

Внутри вашей сети

NDA

До знакомства со схемой

Акт

Приёмка системы

Очно

Занятия в Астане

Пусконаладка ИИ в Астане и области

Очные занятия проводим в Астане, остальной регион обслуживаем онлайн и с выездом по договорённости.

Закрытый ИИ-контур

Научим инженеров и ИБ Астаны ставить, проверять и принимать локальную нейросеть.

Вопросы об установке ИИ в закрытой сети

16 ответов для IT-служб и ИБ Астаны: изоляция, документы, модели и формат занятий.

Пользовательский курс учит ставить задачи модели и проверять ответы. Этот курс о том, как платформу построить и принять: оборудование, драйверы, движки, веб-интерфейс, RAG, доступы, журналы, испытания и документы. Обычно сначала проходят инженерный курс, а затем обучают сотрудников.
Да, мы проводим очные занятия в Астане для групп специалистов IT и ИБ. Теорию и разбор конфигов при желании переносим в онлайн, а установку на вашем сервере делаем на вашей площадке, если это допускают правила доступа.
Мы показываем порядок: загрузка пакетов, образов и весов моделей в безопасной зоне, проверка контрольных сумм, перенос на защищённом носителе, развёртывание локального зеркала и установка из него. Эту процедуру группа повторяет на практике.
Мы работаем в рамках требований вашей организации: разграничение доступа, журналирование, сегментация сети, порядок обновления. Какие нормативные требования действуют именно у вас, определяет ваша служба безопасности; мы помогаем реализовать их технически и описать решение.
Ollama для быстрого пилота, vLLM для работы многих пользователей одновременно и llama.cpp для скромного оборудования и файлов GGUF. Объясняем, когда какой уместен, и учим переходить между ними без потери настроек.
Мы не навязываем одну модель. Сравниваем несколько открытых вариантов из семейств Llama, Qwen, Mistral и DeepSeek на ваших деперсонализированных образцах и смотрим на качество, скорость и объём памяти. Лицензии проверяем отдельно.
В RAG мы храним метаданные: подразделение, категорию, уровень доступа. Интерфейс связывается с каталогом пользователей, и при поиске модель видит только то, что разрешено вопрошающему. Это отдельная практическая тема в программе.
Обычно фиксируют учётную запись, время, подразделение, сведения о запросе и обращении к документам, а также события администрирования. Состав и срок хранения вы определяете сами; мы показываем, как настроить запись и выгрузку.
Описание архитектуры и потоков данных, перечень служб и портов, матрица ролей, перечень журналов, порядок обновления и отката, схема резервирования и протокол испытаний. Формы подгоняем под принятые у вас образцы.
Можно использовать наш стенд, ваш тестовый сервер или рабочую станцию с видеокартой NVIDIA. Основной этап пусконаладки выполняем уже на боевом оборудовании в вашем контуре. Требования к машине согласуем заранее.
Мы показываем разделение по группам в веб-интерфейсе, отдельные базы знаний и квоты на пользователя. Можно построить один сервис для всей организации с независимыми областями данных.
Мы объясняем, как формулировать требования к видеопамяти, процессору, памяти, хранилищу и сети для закупки. Закупкой занимается ваша служба; при необходимости рекомендуем оборудование через партнёра с документами для юрлиц.
Да, по итогам обучения участники получают сертификат Sales Generator. Это подтверждение прохождения нашей программы, а не государственная аттестация.
Договор заключается с ТОО или ИП, оплата в тенге, мы выставляем ЭСФ и подписываем АВР. Стоимость определяется числом участников, форматом и объёмом практики и фиксируется после обсуждения.
Занятия проводим на русском или казахском языках по вашему желанию. Технические термины и интерфейсы в основном на английском, и мы вместе разбираем их, чтобы команде было удобно читать документацию.
У вас на руках будут схемы, инструкции и план реагирования, а инженеры получат навык диагностики. При нестандартной ситуации можно обратиться к преподавателям; объём такого сопровождения оговаривается в договоре.