Навигация | Sales Generator

Обучение установке и пусконаладке локального ИИ в Таразе

Для компаний, где за всю инфраструктуру отвечают один-два человека. Показываем, как за разумный объём работ поднять нейросеть на собственном сервере: расчёт железа, Ollama или vLLM, чат для сотрудников, поиск по документам, права и резервные копии. Для химии, переработки, агросектора и торговли региона.

Для малых IT-команд

Курс без лишнего: только то, что нужно для запуска

Формат

Онлайн-практикум или приезд по договорённости

Что вы научитесь делать сами:

Оценка нужного железа

Как по числу пользователей и размеру модели понять, хватит ли имеющегося сервера, или достаточно добавить одну видеокарту.

Использование того, что есть

Запуск на существующих рабочих станциях и серверах, где нет дорогих GPU: что реально получится, а что нет.

Подготовка Linux и драйверов

Чистая установка системы, драйверы NVIDIA и CUDA, проверка карты и обновления без неожиданных поломок.

Ollama: первый рабочий сервис

Запуск службы, загрузка весов, автозапуск, доступ из локальной сети и защита от случайного подключения посторонних.

vLLM для общего доступа

Серверный режим для отдела: обработка нескольких запросов сразу, настройка памяти и совместимый API.

Открытые модели и сжатие

Qwen, Llama, Mistral, DeepSeek: проверка на задачах компании и выбор уровня квантизации под вашу видеопамять.

Чат для сотрудников

Open WebUI: создание учётных записей, групп, шаблонов запросов и разграничение доступа к моделям.

Поиск по договорам и инструкциям

Подготовка файлов, индексирование в векторной базе и проверка того, что ответ ссылается на правильный документ.

Безопасный доступ

Обратный прокси, шифрование соединения, ограничение по адресам и вход по корпоративным учётным записям.

Следим за здоровьем сервиса

Простой мониторинг загрузки карты, памяти и диска, оповещение при сбое и чтение журналов.

Проверка перед запуском

Нагрузочный прогон на реальных запросах, настройка лимитов и контрольный список перед выдачей доступа отделам.

Копии и передача дел

Что сохранять, как восстанавливать и как оформить инструкцию, чтобы систему мог вести другой сотрудник.

ПРОБЛЕМА!

Один сисадмин на всё, а ИИ ещё и ставить?

В компаниях Тараза IT-отдел нередко состоит из одного-двух человек: они обслуживают рабочие места, сеть, 1С и камеры. Когда руководство просит «поставить свой ИИ, чтобы не отправлять документы наружу», времени на самостоятельное изучение просто нет, а ошибка стоит дорого.

Видеоинструкции показывают чистую установку на ноутбуке, но молчат о правах, журналах, обновлениях и отказах. Нужна короткая рабочая схема, которую можно повторить на вашем сервере и передать преемнику.

Типичные затруднения небольших команд:

Непонятно, какой сервер покупать

Без расчёта выбирают то, что дороже или то, что есть на складе, и потом обнаруживают, что модель не влезает в память.

Нет времени разбираться в десятках инструментов

Серверов моделей, интерфейсов и векторных баз много; без опытного проводника легко выбрать несовместимую связку.

Нет плана на случай сбоя

Если после обновления перестал видеться GPU, а резервных копий нет, сервис остаётся недоступным, а руководство теряет доверие к проекту.

НАШЕ РЕШЕНИЕ!

Короткий путь от чистого сервера до рабочего сервиса

Мы собрали программу так, чтобы небольшая команда получила готовую схему и сама повторила её на своём оборудовании. Занятия идут на ваших машинах или в тестовой копии, а не на учебных стендах без связи с реальностью.

Курс не учит сотрудников составлять запросы к модели: это тема отдельного обучения локальному ИИ для пользователей. Здесь вы учитесь устанавливать, подключать, защищать и обслуживать.

Минимально достаточный стек

Берём проверенные инструменты и не усложняем: один сервер моделей, один веб-интерфейс, одна векторная база, понятная схема связей.

Опора на ваше железо

Сначала смотрим, что можно использовать, и докупаем только необходимое. Спецификацию для закупки готовим вместе.

Инструкция вместо зависимости

Каждый шаг записывается. Эти заметки превращаются в рабочую документацию, по которой систему сможет вести и новый специалист.

Облачная подписка или собственный сервер

Для компаний региона с небольшой IT-командой важно понять, что берёт на себя каждый вариант, прежде чем принимать решение.

Облачный ассистент (подписки для сотрудников)

Просто начать

Не нужен сервер и администратор, но документы уходят на сторонние площадки, а условия доступа вы не контролируете.

Ограничения

Нет контроля над данными: файлы обрабатываются за пределами компании
Рост расходов с числом людей: подписка нужна каждому сотруднику отдельно
Нет связи с учётными системами: ответ не опирается на вашу базу договоров

Риски

Утечка файлов
Зависимость от тарифов
Блокировка доступа
Нет аудита

Собственный сервер (после курса Sales Generator)

Под вашим управлением

Модель работает на оборудовании компании, а IT-специалисты знают, как её запускать, защищать и восстанавливать.

Что вы получаете

Документы остаются дома: обработка идёт на вашем сервере
Один сервис на всех: общий чат с разными правами для отделов
Понятный план обслуживания: копии, обновления и мониторинг описаны

Преимущества

Своя база знаний
Управляемый доступ
Предсказуемость
Независимость

Что даёт курс Sales Generator

Программа ориентирована на тех, у кого мало времени и нет дублёра. Мы убираем лишнее и оставляем работающий минимум.

0%
Практика на вашей инфраструктуре
0
Готовая схема вместо набора советов
0
Блока: платформа, модели, сервис, эксплуатация
0
Языка проведения: русский и казахский

Без лишней теории

Объясняем ровно столько, сколько нужно, чтобы понять причины и принять решение; остальное решается практическим заданием.

Удалённая поддержка во время работы

Если застряли на этапе установки, подключаемся к сессии, разбираем журнал и возвращаем вас к плану.

Совет по закупке

Помогаем сформулировать требования к серверу и сравнить предложения поставщиков, не навязывая конкретную марку.

Дружелюбно к бюджету

Показываем, какие задачи решаются на небольшом сервере, а какие требуют отдельной машины, чтобы вы не платили лишнего.

Понятные документы

Договор с ТОО или ИП, NDA до начала, ЭСФ и АВР по итогам, оплата в тенге через безналичный счёт.

Помощь после курса

Остаёмся на связи по вопросам обновления, подключения новых источников документов и расширения мощности.

Хотите запустить свой ИИ силами текущей команды?

Опишите вашу инфраструктуру и задачи: мы подскажем, с чего начать и какой формат обучения подойдёт именно вам.

Блоки программы по запуску локального ИИ

Структура повторяет реальный проект. Для организаций Тараза уделяем время работе с имеющимся оборудованием и аккуратной экономии ресурсов.

Основа и железо

  • Расчёт под число пользователей Связь размера модели, объёма видеопамяти и скорости ответа.
  • Работа на имеющихся машинах Что можно запустить без новых закупок и где предел.
  • Linux, драйверы, CUDA Подготовка среды, тесты карты, контейнеры.

Запуск моделей

  • Ollama и vLLM Установка, автозапуск, общий доступ, параметры памяти.
  • llama.cpp и GGUF Запуск на процессоре и слабых картах, квантизация.
  • Подбор открытых моделей Qwen, Llama, Mistral, DeepSeek на ваших примерах.

Сервис для компании

  • Open WebUI Пользователи, группы, шаблоны, разграничение моделей.
  • База документов Подготовка файлов, векторный поиск и контроль выдачи.
  • Связь с другими системами Подключение к 1С и почте через API.

Надёжность

  • Доступ и шифрование Прокси, TLS, ограничения по адресам, вход через каталог.
  • Мониторинг и журналы Метрики, оповещения, чтение логов при сбоях.
  • Копии и передача дел Резервирование, восстановление, инструкция для коллег.
  • Контрольная приёмка Нагрузочный тест и чек-лист перед запуском.

Этапы обучения и запуска на вашей площадке

Пять понятных шагов, после каждого из которых у вас остаётся результат: расчёт, стенд, сервис, проверка, документы.

01

Короткий разбор задачи

Выясняем, какие документы и отделы будут пользоваться системой, что за железо есть, какие ограничения по сети и безопасности.

02

Расчёт и договорённости

Определяем конфигурацию, формат занятий и состав группы. Заключаем договор и подписываем NDA, оформляем план закупки при необходимости.

03

Сборка рабочего стенда

Устанавливаем драйверы, запускаем сервер моделей, подключаем чат и первую базу документов. Вы делаете шаги сами, мы подсказываем.

04

Проверка и закрепление

Проводим испытание нагрузкой, настраиваем доступы, мониторинг и копии, разбираем нештатные ситуации и способы быстрого восстановления.

05

Передача и сопровождение

Передаём инструкции и схему, выдаём сертификаты, закрываем ЭСФ и АВР, обсуждаем план обновлений и поддержку на следующий период.

Практический опыт в установке ИИ

Мы учим систему, а не отдельные кнопки

Администратору важно понимать, из чего состоит сервис и почему он ломается. Поэтому мы разбираем цепочку целиком: железо, драйвер, сервер модели, интерфейс, поиск, доступ, копии, и каждый узел вы проверяете руками.

Для Тараза характерен промышленно-аграрный профиль: фосфорная химия, сахарная и пищевая переработка, приграничная торговля. В таких компаниях много договоров, накладных, технологических карт и переписки с поставщиками, а IT-команда небольшая. Мы заранее подбираем примеры из этих документов.

Если вашим менеджерам и бухгалтерам нужно научиться ставить задачи модели, предложим отдельный курс по локальному ИИ для пользователей. На этой странице речь именно о запуске и обслуживании.

Что вы вынесете с курса

  • Рабочий сервер моделей Запущенный и настроенный сервис с проверенной скоростью, лимитами и автозапуском после перезагрузки.
  • Поиск по вашим документам Индекс на основе договоров, инструкций и справочников с проверкой качества ответов.
  • Пакет для эксплуатации Схема, инструкции, график обновлений и порядок восстановления после сбоя.

Как можно учиться

Дистанционные занятия

Вы повторяете шаги на своём сервере, мы наблюдаем за процессом, отвечаем на вопросы и проверяем промежуточные результаты.

Онлайн

Приезд к заказчику

По договорённости приезжаем на важные этапы: запуск, нагрузочные испытания, приёмка и обучение группы на месте.

На месте

Для кого актуален курс по запуску ИИ

Компании Тараза и Жамбылской области, у которых есть сервер или планы его закупки и специалист, готовый взять систему под ответственность.

Химическим предприятиям

Справочная система по паспортам веществ, технологическим картам и протоколам, работающая в сети предприятия.

Сахарным и пищевым заводам

Внутренний чат для технологов и снабжения, связанный с базой инструкций и документов поставщиков.

Агросектору региона

Работа с договорами аренды, отчётами хозяйств и заключениями агрономов на собственном сервере.

Оптовой торговле и рынкам

Подбор аналогов по прайсам, разбор писем поставщиков, черновики коммерческих предложений на внутренней модели.

Системным администраторам

Пошаговый запуск сервера, интерфейса и мониторинга с ориентиром на небольшие парки оборудования.

Универсальным IT-специалистам

Практика для тех, кто совмещает сеть, серверы и поддержку и хочет добавить ИИ без новых штатных единиц.

Специалистам по ИБ

Базовая защита сервиса, учётные записи, журналы, разделение доступа и основы аудита запросов.

Руководителям компаний

Оценка ресурсов и рисков проекта, чтобы поставить реалистичные задачи IT-отделу и принять результат.

Что обычно разворачивают на практике

Типовые проекты, которые удобно сделать в рамках курса: сценарии для промышленных, аграрных и торговых компаний.

Химия
Химическая промышленность
Справочник по паспортам и протоколам Администратор запускает сервер модели и строит индекс по паспортам, протоколам анализов и инструкциям лаборатории, а специалисты задают вопросы на обычном языке.
Эффект:
Поиск нужного документа занимает меньше времени, материалы остаются на сервере предприятия.
Переработка
Пищевая переработка
База знаний для технологов Инженер собирает базу технологических инструкций и санитарных требований и подключает её к общему чату с разграничением по цехам.
Эффект:
Новые сотрудники быстрее находят ответы, а регламенты остаются под контролем компании.
Агро
Сельское хозяйство
Чат по документам хозяйств Развёртывание Open WebUI с индексом договоров аренды и отчётов; отдельные группы для юристов, агрономов и бухгалтерии.
Эффект:
Руководители получают сводки по документам без отправки файлов в облачные сервисы.
Торговля
Оптовая торговля
Помощник отдела закупок Настройка связки модели с выгрузкой прайсов из 1С: сверка позиций, подбор аналогов, подготовка писем поставщикам.
Эффект:
Рутинные запросы уходят в черновики, условия контрагентов остаются внутри компании.
Логистика
Приграничная торговля
Разбор сопроводительных документов Инженер подключает локальную модель к папке с накладными и актами, чтобы вытаскивать реквизиты и сверять их с заявкой.
Эффект:
Ручная сверка сокращается, а коммерческие данные не покидают сервер.
IT
Малый IT-отдел
Типовой сервер для подразделений Курс завершается готовой воспроизводимой конфигурацией, которую можно развернуть для другого подразделения по записанной инструкции.
Эффект:
Следующий запуск делается по чек-листу и не требует повторного изучения.

Наставники для IT-команд

Практики, которые умеют объяснять просто и помнят, что у вас кроме ИИ есть и другие задачи.

Команда Sales Generator — курс по установке локального ИИ в Таразе

Объясняем на конкретных командах

Преподаватели Sales Generator работают с серверами моделей, интерфейсами и поиском по документам в компаниях Казахстана. Они знают, где обычно застревают люди с небольшим парком техники, и заранее готовят подсказки и проверочные команды.

Linux Ollama vLLM Open WebUI RAGКонтейнеры

На что вы можете рассчитывать

Условия фиксируются в договоре: что войдёт в курс, какой результат проверяем и какие документы получает бухгалтерия.

Официальное оформление

Заключаем договор с ТОО и ИП, выставляем счёт в тенге. По окончании этапов передаём ЭСФ и АВР.

  • Договор и счёт
  • ЭСФ и АВР

Защита сведений

NDA подписывается до знакомства с вашей сетью и документами. Пароли и конфигурации остаются у вас.

  • NDA до старта
  • Код и доступы у вас

Понятный результат

В программе записан список того, что должно работать к концу курса: сервис, чат, поиск, копии. Проверяем по нему.

  • Список критериев
  • Проверка запуска

100%

Данные остаются у вас

NDA

До начала работ

Чек-лист

Приёмка запуска

ЭСФ

Закрывающие документы

Запуск ИИ силами команды в Таразе и Жамбылской области

Работаем дистанционно, а на важные этапы приезжаем по договорённости. Выберите населённый пункт, чтобы посмотреть условия.

Локальный ИИ без лишней сложности

Научим вашу команду в Таразе поставить и вести собственную нейросеть на сервере компании.

Вопросы перед записью на курс по локальному ИИ

14 коротких ответов: кому подходит, что нужно из оборудования, как мы работаем и что вы получите.

Если вы хотите, чтобы документы не покидали вашу сеть, а система работала стабильно и без внешних подрядчиков, то да. Курс сделан с расчётом на команды, где IT-специалист один или два, поэтому в нём нет лишней теории и много готовых схем.
Пользовательский курс объясняет, как задавать модели вопросы и проверять ответы. Здесь вы осваиваете то, что делает администратор: подготовку сервера, запуск моделей, доступы, поиск по документам, мониторинг и резервные копии. Если нужны оба, мы объединяем их в один проект.
Это зависит от числа сотрудников и размера модели. Для небольшой группы хватает машины с одной видеокартой NVIDIA достаточной памяти, для крупного отдела нужна более мощная конфигурация. На первом занятии мы вместе считаем нагрузку, поэтому вы закупите ровно то, что требуется.
Небольшие модели можно запускать на процессоре с помощью llama.cpp. Скорость будет ниже, и сложные задачи ограничены, но для пилота и коротких ответов этого достаточно. Курс покажет, как оценить результат и когда имеет смысл добавить карту.
Желательно базовое владение командной строкой: переходы по каталогам, права, установка пакетов, чтение логов. Остальное мы разберём по шагам, включая контейнеры и работу с драйверами.
Разбираем закрытие портов, обратный прокси с шифрованием, ограничение по адресам и вход через корпоративные учётные записи. Эти настройки вы выполняете сами на своём стенде, а затем переносите в рабочий контур.
Вы подготавливаете папки с договорами, инструкциями и справочниками, индексируете их в векторной базе и проверяете, находит ли система нужные места. Мы показываем, как улучшать качество, если ответы получаются неточными.
Да, через API можно передавать модели данные для справок и черновиков. Объём интеграции определяем по задачам, а в курсе вы разбираете принцип подключения и безопасные ограничения.
В программе есть блок про диагностику: как проверить видимость карты, откатить драйвер, восстановить сервис из копии и найти причину по журналам. Мы также составляем порядок обновления, чтобы сбои были редкостью.
Да, занятия проходят на русском или казахском. Команды, названия настроек и документация остаются общими, а пояснения подстраиваем под группу.
Основная работа идёт дистанционно, на ключевые этапы выезжаем по договорённости: запуск, приёмка, групповое занятие. Готовы приехать и в районы области: Каратау, Шу, Жанатас, Мерке, Кордай. Даты согласуем заранее.
Схему размещения, список настроек, инструкцию администратора, порядок обновления и резервного копирования. Участники получают сертификаты, а бухгалтерия — договор, ЭСФ и АВР.
Работаем на вашем оборудовании или в выбранном вами дата-центре в Казахстане. До начала подписываем NDA, пароли и конфигурации остаются у заказчика, внешним сервисам мы файлы не передаём.
Стоимость зависит от числа участников, формата и объёма работ на вашей инфраструктуре. Мы называем её после короткого разбора задач и фиксируем в договоре. Оплата безналичная в тенге, закрывающие документы предоставляются.