Qualcomm представила ИИ-продукт AI Hub для работы вне облака

[TechnoLab]

На выставке MWC 2024 Qualcomm анонсировала новый инструмент AI Hub. Продукт упрощает доступ к нейросетям разработчикам генеративного ИИ, которые все чаще переносят работу из облака на устройства.


AI Hub содержит библиотеку из более чем 75 генеративных ИИ-моделей. Пользователи могут легко загружать их в устройства на базе Qualcomm. В набор будут постоянно добавлять новые нейросети.

«Qualcomm AI Hub предоставляет разработчикам обширную библиотеку для быстрой и простой интеграции предварительно оптимизированных ИИ-моделей в свои приложения, что приводит к более быстрому, надежному и индивидуальному пользовательскому опыту», — сообщил старший вице-президент Qualcomm по технологическому планированию Дурга Маллади.

AI Hub содержит одни из самых популярных моделей в отрасли, среди которых:

• система автоматического распознавания речи Whisper от OpenAI;
• модель преобразования текста в изображение Stable DIffusion от Stability AI;
• чат-бот Llama от Meta.

Нейросети доработаны таким образом, чтобы максимально эффективно использовать все ядра, входящие в состав Qualcomm AI Engine. По словам компании, это позволяет повысить энергоэффективность, снизить нагрузку на память и увеличить скорость вычислений в четыре раза.


Работа ИИ-моделей непосредственно на устройстве повышает уровень конфиденциальности. Это особенно важно при создании моделей, использующих базы данных с непубличными данными.


Напомним, в ноябре 2022 года компания Qualcomm представила Snapdragon 8 Gen 2 с выделенным ИИ-чипом.