Собственная инфраструктура для автономной работы с данными
«ПрофТех» развивает направление вычислительных мощностей как часть собственной технологической инфраструктуры. Первоначально серверные ресурсы создавались для задач, связанных с локальными ИИ-моделями, транскрибацией, обработкой данных и тестированием AI-сценариев.
Ключевая цель — обеспечить автономную работу цифровых решений без зависимости от внешних платформ, сторонних API и ограничений зарубежных сервисов. Такой подход позволяет сохранять контроль над данными, стабильностью работы и условиями эксплуатации инфраструктуры
Ключевая цель — обеспечить автономную работу цифровых решений без зависимости от внешних платформ, сторонних API и ограничений зарубежных сервисов. Такой подход позволяет сохранять контроль над данными, стабильностью работы и условиями эксплуатации инфраструктуры
Инференса больших языковых моделей
Обработки и анализа больших массивов данных
Транскрибации звонков и аудиозаписей
Запуска и тестирования локальных ИИ-моделей
Размещения внутренних корпоративных сервисов
Дообучения и настройки моделей под задачи компании
Резервного хранения и обработки данных
Автоматизации бизнес-процессов
Вычислительные мощности могут использоваться для:
Практическое применение
Преимущества локальной инфраструктуры
Данные обрабатываются на собственной инфраструктуре без лишних внешних обращений
Быстрая обработка запросов
Инфраструктура адаптируется под конкретные сценарии: от обработки документов до локальных ИИ-ассистентов и аналитических решений
Гибкость под задачи бизнеса
Сервисы не зависят от сторонних платформ, их ограничений, отключений или изменения условий доступа
Стабильная работа
Компания получает больше контроля над доступностью, нагрузкой, обновлениями и конфигурацией
Предсказуемость эксплуатации
Информация остается внутри системы и не передается сторонним сервисам
Контроль над данными
Серверная платформа для ресурсоёмких задач
Инфраструктура рассчитана на длительную стабильную эксплуатацию и выполнение задач, требующих высокой вычислительной мощности и надежности.
Такая архитектура позволяет:
- эффективно распределять вычислительную нагрузку
- обрабатывать большие массивы данных
- запускать параллельные вычислительные задачи
- обеспечивать высокую пропускную способность при работе с данными
- масштабировать ресурсы под требования конкретного проекта
Дополнительно инфраструктура расширена высокопроизводительным серверным узлом промышленного уровня:
- 2x процессора AMD EPYC 9355 (32 ядра / 64 потока каждый)
- суммарно 64 ядра и 128 потоков
- 512 ГБ оперативной памяти DDR5 ECC Registered
- NVMe-хранилище на базе 8 SSD по 3.84 ТБ (PCIe 4.0, U.3)
- серверная платформа с поддержкой высокоскоростных интерфейсов
- сетевой адаптер 100GbE (2x QSFP28)
В основе инфраструктуры используются серверные решения, рассчитанные на работу с ресурсоемкими вычислительными задачами, включая обработку данных, запуск AI-моделей и многопоточные вычисления.
Базовая конфигурация включает:
Базовая конфигурация включает:
- профессиональные графические ускорители Nvidia RTX 6000 (96 ГБ VRAM)
- процессор AMD Ryzen Threadripper PRO
- 512 ГБ оперативной памяти DDR5 ECC
- высокоскоростные NVMe-накопители
- серверную платформу с поддержкой 10GbE.
Разграничение прав доступа
Регулярные автоматические бэкапы
Централизованное хранилище данных
Резервное хранение критически важных данных
RAID-массив для защиты от отказа дисков
Для надежной работы с данными развернута отдельная система хранения и резервного копирования
Такой подход позволяет снизить риск потери информации и обеспечить управляемую работу с корпоративными данными
Инфраструктура включает:
Резервирование данных и централизованное хранение
Инфраструктура, рассчитанная на стабильную эксплуатацию
При создании серверной инфраструктуры особое внимание было уделено надежности, охлаждению, питанию и резервированию.
Для защиты оборудования используется источник бесперебойного питания, позволяющий снизить риски при скачках напряжения и корректно завершать работу системы при отключении электроэнергии.
Серверная зона оснащена сетевым оборудованием, выделенной линией интернета и резервным каналом связи. Это повышает устойчивость инфраструктуры и снижает зависимость от единичных точек отказа.
Дополнительно используются решения для мониторинга температуры, управления охлаждением и контроля состояния оборудования.
Для защиты оборудования используется источник бесперебойного питания, позволяющий снизить риски при скачках напряжения и корректно завершать работу системы при отключении электроэнергии.
Серверная зона оснащена сетевым оборудованием, выделенной линией интернета и резервным каналом связи. Это повышает устойчивость инфраструктуры и снижает зависимость от единичных точек отказа.
Дополнительно используются решения для мониторинга температуры, управления охлаждением и контроля состояния оборудования.
Обеспечиваем техническое сопровождение
Тестируем работу решения
Настраиваем инфраструктуру под сценарий использования
Подбираем подходящую конфигурацию
Определяем требования к вычислительной нагрузке
Анализируем задачу клиента
Как мы подбираем решение
1
2
3
4
5
6