Amazon Bedrock добавила новую модель Mistral AI

[TechnoLab]

Платформа для создания генеративных ИИ-приложений Amazon Bedrock добавила большую языковую модель (LLM) Mistral Large.


Компания отметила, что чат-бот «идеально подходит» для решения комплексных и специализированных задач вроде генерации текста или кода.


Три модели Mistral, включая Mistral 7B и Mixtral 8x7B, теперь доступны клиентам во Франции, а также в Северной Вирджинии и Орегоне (США).

«Наша миссия — сделать передовой ИИ повсеместным, и для ее достижения мы хотим сотрудничать с ведущим мировым облачным провайдером», — сообщил генеральный директор французского стартапа Артур Менш.

Amazon раскрыла более детальную информацию о модели Mistral Large:

• чат-бот свободно владеет английским, французским, испанским, немецким и итальянским языками, с «тонким пониманием грамматики и культурных особенностей»;
• контекстное окно размером 32 000 токенов позволяет точно запоминать информацию из больших документов;
• есть возможность настраивать собственную политику модерирования.

ИИ-модель показывает высокие результаты в общепринятых бенчмарках и занимает второе место в мире среди общедоступных LLM.

Сравнение моделей по MMLU. Данные: Mistral.ai.

В рамках партнерства Mistral AI будет использовать чипы Amazon Trainium и Inferentia AI для следующих базовых моделей, которые он создаст и развернет на Bedrock.


Ранее Microsoft объявила о долгосрочном сотрудничестве с французской компанией.


Напомним, в марте Amazon сообщила об инвестициях $2,75 млрд в ИИ-стартап Anthropic, который начал использовать чипы корпорации и стал доступен на платформе Bedrock.