MForum.ru
14.05.2025,
Компания утверждает, что это позволило ускорить запуск продуктов и сэкономить более 1 млрд рублей инвестиций в собственную инфраструктуру.
MTS AI - один из центров компетенций в области ИИ в России. Компания разрабатывает продукты и решения на базе генеративного ИИ, технологии обработки естественного языка и компьютерного зрения. Среди сервисов компании: AI-сервис речевой аналитики — WordPluse, платформа синтеза и распознавания речи на базе нейронных сетей и методов машинного обучения — Audiogram, сервис генерации и автодополнения кода для оптимизации процесса разработки — Kodify, а также голосовые и текстовые ассистенты для автоматизации коммуникации бизнеса с клиентами.
В основе практически всех сервисов компании лежат ML-модели. Они обучаются на данных, объемы которых могут достигать тысяч ТБ. Для ускорения обучения моделей компания применяет GPU. Закупка соответствующего оборудования требует серьезных инвестиций в инфраструктуру. MTS AI предпочла перенести обучение в облако. Теперь ML-платформа для обучения ключевых моделей компании развернута на виртуальной инфраструктуре. Уже обученные модели продолжают инференс в облаке, это, кстати, упрощает их обслуживание.
Для решения сложных задач, клиенты MTS AI могут использовать услуги компании, основанные на использовании LLM (больших языковых моделей). Это LLM для работы с текстами, а также поиска и анализа информации - Cotype и ее облегченная версия - Cotype Nano, on-premise сервис генерации и автодополнения кода для оптимизации процесса разработки - Kodify.
Обучение LLM еще более затратная и сложная задача, чем работа с ML-моделями. Если обучать и дообучать LLM на GPU потребительского уровня - на это уйдет много времени (и энергии). Для ускорения этого процесса в несколько десятков раз MTS AI использует суперкомпьютер МТС GROM.
Работу с моделями ИИ в облаке можно разделить на 3 этапа:
«Для работы с моделями искусственного интеллекта требуется большое количество различного оборудования. Чем больше моделей вы внедряете, тем оно разнообразнее. Для более простых моделей нужны более слабые карты, для более мощных — более производительные, для обучения LLM — суперкомпьютер, для инференса может применяться ещё один вид GPU. При работе с моделями on-prem все эти мощности пришлось бы закупать самостоятельно либо работать со всеми моделями на одном виде GPU, что привело бы к значительному увеличению инвестиционных затрат или нерациональному использованию инфраструктуры. Переезд в облако позволяет нам использовать ровно тот объём вычислительных ресурсов, который необходим и не тратить огромные суммы на закупку серверов. Лишь для того, чтобы закупить оборудование для обучения LLM, нам пришлось бы проинвестировать в инфраструктуру более миллиарда рублей. А благодаря использованию мощностей MWS мы можем перераспределить инвестиции на новые проекты. Кроме того, облачная модель потребления позволяет нам ускорять запуск новых продуктов, так как отпадает необходимость ждать поставки оборудования», — отметил директор по LLM-продуктам MTS AI Сергей Пономаренко.
--
За новостями телекома и IT удобно следить в телеграм-канале abloud62. Региональные новости и анонсы пресс-релизов вы найдете в канале abloudRealTime, также подключайтесь к каналу Бойко про телеком ВКонтакте
теги: МТС MWS искусственный интеллект
--
Публикации по теме:
05.06. [Новости компаний] Микроэлектроника: Чипы Nvidia демонстрируют успехи в обучении крупнейших AI / MForum.ru
03.06. [Новости компаний] Искусственный интеллект: МТС в 2024 году потратила 1 млрд рублей на дообучение опенсорсных LLM / MForum.ru
15.05. [Новинки] Компоненты: MediaTek Dimensity 9400e представлен официально / MForum.ru
06.05. [Новости компаний] ЦОД: MWS сообщает об аттестации ЦОД Авантаж в Лыткарино по высшему уровню защиты персональных данных / MForum.ru
06.05. [Новости компаний] Искусственный интеллект: В Билайн готовят решения для инференса ИИ-моделей / MForum.ru
22.10. [Новинки] Анонсы: Realme GT8 представлен официально / MForum.ru
22.10. [Новинки] Анонсы: Realme GT8 Pro – смартфон со сменным обрамлением камер и топовыми характеристиками / MForum.ru
21.10. [Новинки] Анонсы: В Китае представлен планшет iQOO Pad 5e / MForum.ru
21.10. [Новинки] Анонсы: Флагманский смартфон iQOO 15 с Snapdragon 8 Elite Gen 5 представлен официально / MForum.ru
20.10. [Новинки] Анонсы: Планшет Oppo Pad 5 и смарт-часы Watch S представлены официально / MForum.ru
20.10. [Новинки] Анонсы: Представлены Oppo Find X9 и X9 Pro на базе чипсета Dimensity 9500 / MForum.ru
20.10. [Новинки] Анонсы: Складной смартфон Huawei Nova Flip S представлен официально / MForum.ru
17.10. [Новинки] Анонсы: Роскошный смартфон Vertu Agent Q можно будет купить только в одном магазине / MForum.ru
16.10. [Новинки] Анонсы: Honor официально представила Magic 8 и Magic 8 Pro / MForum.ru
16.10. [Новинки] Анонсы: Honor Watch 5 Pro представлены официально / MForum.ru
16.10. [Новинки] Анонсы: Honor MagicPad3 Pro 13.3 представлен официально / MForum.ru
16.10. [Новинки] Анонсы: «Новый» Moto G100 с аккумулятором 7000 мАч представлен официально / MForum.ru
15.10. [Новинки] Анонсы: Vivo TWS 5 – флагманские наушники с 11 мм динамиками и Hi-Fi версией / MForum.ru
15.10. [Новинки] Анонсы: Vivo Watch GT 2 с ярким дисплеем и eSIM представлены официально / MForum.ru
14.10. [Новинки] Анонсы: Планшет Vivo Pad 5e представлен официально / MForum.ru
14.10. [Новинки] Анонсы: Vivo X300 и X300 Pro с 200 Мп камерами представлены официально / MForum.ru
14.10. [Новинки] Анонсы: Характеристики Honor Magic 8 Pro раскрыты до анонса / MForum.ru
14.10. [Новинки] Слухи: Nothing работает над Phone (3a) Lite / MForum.ru
13.10. [Новинки] Анонсы: Suunto Vertical 2 – смарт-часы для активного отдыха / MForum.ru
13.10. [Новинки] Анонсы: Роскошный Samsung W26 представлен в Китае / MForum.ru