В отчете Nutanix говорится, что переход к масштабированию вариантов использования выявил ограничения в существующей ИТ-инфраструктуре.
Kwarkot через Getty Images
Погружение Аналитика:
- По данным опроса Vanson Bourne, проведенного среди 1500 специалистов по ИТ и проектированию платформ по заказу поставщика программного обеспечения Nutanix, предприятия переносят рабочие нагрузки на контейнерные решения, чтобы стимулировать внедрение генеративного ИИ.
- Почти 9 из 10 респондентов сообщили, что по крайней мере некоторые приложения их организаций контейнеризированы, а более половины используют контейнеры для всех приложений, говорится в отчете, опубликованном в среду.
- «Вероятно, 15% наших клиентов ЦОД в прошлом развертывали контейнеры», — сказал Ли Касвелл, старший вице-президент по маркетингу продуктов и решений в Nutanix. «Сейчас мы видим ранний признак волны контейнеризации, которая надвигается на локальные и гибридные облака».
Краткий обзор:
На пути к масштабированию генеративного ИИ нет недостатка в препятствиях. Поскольку предприятия сталкиваются с проблемами конфиденциальности данных, проблемами надежности моделей и неопределенной нормативной средой, ИТ-отделы пересматривают потребности инфраструктуры.
Более половины респондентов заявили, что их организациям необходимо увеличить инвестиции в ИТ для поддержки рабочих нагрузок и приложений генеративного ИИ. Интеграция рабочих нагрузок генеративного ИИ с существующей инфраструктурой стала самым большим препятствием для перемещения вариантов использования из разработки в производство, говорится в отчете.
«Организации достигли переломного момента с внедрением и развертыванием GenAI», — сказал Касвелл, указав на рост принятия контейнеров. Более двух третей респондентов — 7 из 10 — планируют контейнеризировать приложения генеративного ИИ.
Gartner наблюдает аналогичную динамику. Аналитическая фирма ожидает, что к 2027 году более трех четвертей развертываний ИИ будут использовать технологию контейнеров, по сравнению с текущими 50%.
Контейнеры и решения по оркестровке Kubernetes обеспечивают масштабируемость, надежность и адаптивность, необходимые для поддержки рабочих нагрузок ИИ, говорится в январском отчете Gartner. По данным фирмы, контейнеризация становится «стандартом де-факто» в этой области.
Хотя контейнеры выросли в публичном облаке, эта технология хорошо перешла в локальные среды и частные облачные хранилища. Переносимость рабочей нагрузки между экосистемами в сочетании с распространением больших языковых моделей являются двумя движущими силами сдвига.
«Генеративный ИИ по своей природе является гибридным облачным рабочим процессом», — сказал Касвелл. «Вы будете разрабатывать LLM в публичном облаке, развертывать их, настраивать и, возможно, переобучать их в вашем частном центре обработки данных, а затем делать вывод прямо на границе».