Обучение установке и пусконаладке локального ИИ в Астане
Курс для администраторов и инженеров ИБ, которым нужно развернуть нейросеть в закрытом контуре и принять её у себя: сервер и GPU, серверы моделей, Open WebUI, RAG по внутренним документам, журналы, мониторинг и регламенты. Очные занятия в Астане, практика на стенде и на вашем оборудовании.
Закрытый контур
Без выхода за пределы сети
Занятия
Очно в Астане или онлайн
Программа для инженеров и специалистов ИБ Астаны:
ПРОБЛЕМА!
В закрытом контуре нельзя «просто скачать» и запустить
Организации Астаны, особенно в госсекторе и квазигоссекторе, работают с материалами, которые нельзя отправлять в облако. Но у закрытой сети свои особенности: нет прямого доступа к репозиториям, обновления проходят по процедуре, любое новое ПО согласуется с ИБ.
Типовые руководства из интернета предполагают свободный выход наружу и права администратора везде. В реальности установку нужно переосмыслить под ограничения контура, а инженеры должны уметь повторить её без подсказок из поисковика.
С чем сталкиваются IT-службы:
НАШЕ РЕШЕНИЕ!
Курс по установке под ограничения контура
Мы строим программу вокруг реальной картины закрытой сети: учим работать с локальными зеркалами, переносить модели через проверенные носители, настраивать доступы и журналы так, как их ждёт служба безопасности организации.
В отличие от курса «Обучение локальному ИИ» для сотрудников-пользователей, здесь мы готовим тех, кто отвечает за платформу. К концу программы у вас есть пакет документов для комиссии и инженеры, которые понимают, что в нём написано.
Облачный ассистент против закрытого контура
Как выглядит выбор для организации, которая работает со служебной информацией.
Внешний облачный сервис (доступ через интернет)
Удобно, но не для всегоПодходит для открытых материалов, но служебные документы и персональные сведения передавать туда не следует и зачастую нельзя.
Ограничения
Риски
Закрытый контур (строит и ведёт ваша служба)
Под контролем ИБСервер в вашей сети, модели из проверенных источников, журналы и роли в рамках внутренней политики безопасности.
Что вы получаете
Преимущества
Что отличает Sales Generator
Мы не продаём готовую коробку. Мы учим вашу службу самостоятельно построить и принять систему в рамках ваших правил.
Планируете закрытый ИИ-контур в вашей организации?
Расскажите, как устроена сеть и кто принимает систему. Предложим программу, стенд и состав документов для приёмки.
Программа пусконаладки в закрытой сети
Блоки выстроены по порядку работ. Для Астаны делаем упор на изоляцию, журналы и подготовку материалов для приёмки.
Подготовка среды
-
Оборудование и закупка Как описать требования к серверу и GPU для технического задания.
-
Локальные зеркала Репозитории пакетов и образов внутри сети.
-
Драйверы и CUDA Установка и проверка без доступа в интернет.
Запуск моделей
-
Ollama и llama.cpp Пилотные стенды и хранение весов во внутреннем хранилище.
-
vLLM Режим для большого числа пользователей, лимиты и очередь.
-
Выбор модели Тесты на служебных текстах, проверка лицензий.
-
Квантизация Баланс между качеством и объёмом видеопамяти.
Работа с документами
-
Open WebUI Роли, департаменты, привязка к каталогу учётных записей.
-
RAG с разграничением Фильтры по подразделению и категории документа.
-
Подготовка корпуса Очистка, нарезка, метаданные, обновление индекса.
Контроль и приёмка
-
Журналы и аудит События, хранение, выгрузка по запросу.
-
Периметр Сегменты, прокси, закрытые порты.
-
Испытания Нагрузка и мониторинг для рабочего дня.
-
Документы и регламенты Протоколы, схемы, порядок обновления, резервирование.
Этапы работы с вашей службой
Пять шагов от согласования требований до передачи системы в эксплуатацию.
Требования и ограничения
Узнаём, какой сегмент сети выделен, какие правила ИБ действуют, кто принимает систему. Подписываем договор и NDA.
План курса и стенда
Определяем, какие модули пройти, какие модели сравнить, где проводить занятия: в Астане очно или онлайн.
Учебная установка
Группа проходит весь путь на тестовом стенде: от драйверов до интерфейса с разграничением доступа и индексом документов.
Перенос в контур
Повторяем установку на сервере заказчика с учётом изоляции, вводим реальные документы, запускаем испытания.
Комиссия и передача
Передаём материалы для приёмки, помогаем подготовить протокол, подписываем АВР, выдаём сертификаты.
Наша экспертиза для организаций Астаны
Учим принимать систему, а не только запускать
В организациях Астаны установка почти всегда завершается комиссией. Если инженер не умеет объяснить, как устроена система, проект не принимается, поэтому мы с самого начала учим формулировать, документировать и защищать решения.
Астана — столица, где работают министерства, нацкомпании, квазигосударственные организации, финансовые структуры МФЦА и компании Astana Hub, а также крупные девелоперы. Различаются и сети, и требования, поэтому каждую программу мы согласуем отдельно.
Этот курс не учит работать с моделью как пользователь. Для этого есть программа «Обучение локальному ИИ»; чаще всего её проходят после того, как контур принят.
Что мы знаем лучше всего
-
Развёртывание без интернета Зеркала пакетов, перенос весов моделей, проверка целостности файлов.
-
Безопасность контура Роли, журналы, сегментация сети, подготовка документов для ИБ.
-
Доступ к знаниям RAG с разграничением по подразделениям и категориям документов.
Форматы курса
Очная группа в Астане
Инженеры и специалисты ИБ проходят занятия на площадке, где можно воспроизвести условия вашей сети.
Установка в организации
Преподаватель сопровождает вашу команду при вводе системы в закрытом сегменте, на каждом шаге проверяя результат.
Для кого этот курс установки
Организациям Астаны и региона (город Астана и Акмолинская область), где ИИ нужно держать в собственном контуре.
Типовые задачи закрытых внедрений
Сценарии, которые мы разбираем с инженерами организаций Астаны. Это постановки для практики, а не истории конкретных заказчиков.
Преподаватели — инженеры-практики
Курс ведут специалисты, которые сами разворачивают открытые модели в корпоративных сетях.
Объясняем так, чтобы принял ИБ
Преподаватели Sales Generator умеют не только настраивать, но и описывать решения языком, который понимают комиссии и службы безопасности. Поэтому на занятиях мы обсуждаем и техническую часть, и то, как показать её заказчику внутри организации.
Что фиксируем в договоре
Работаем официально, соблюдаем конфиденциальность и описываем критерии приёмки заранее.
Закрывающие документы
Договор с ТОО или ИП, оплата в тенге, ЭСФ и АВР. Состав документов согласуем с вашей бухгалтерией заранее.
- Счёт в тенге
- ЭСФ и АВР
Конфиденциальность сетей
NDA до обсуждения схем. Адресация, настройки и конфигурации остаются только у вас и не публикуются.
- NDA до старта
- Данные у заказчика
Прозрачная приёмка
Список сценариев и проверок, которые будут подтверждены на испытаниях, указывается в программе.
- Протокол испытаний
- Документы для комиссии
Пусконаладка ИИ в Астане и области
Очные занятия проводим в Астане, остальной регион обслуживаем онлайн и с выездом по договорённости.
Астана и ближайшие города (очно и онлайн)
Другие населённые пункты региона
Обучение ИИ в Астане
Обучение нейросетям
Также в Астане
Вопросы об установке ИИ в закрытой сети
16 ответов для IT-служб и ИБ Астаны: изоляция, документы, модели и формат занятий.