https://telegra.ph/file/af3bb3973d70865964bf9.jpgNvidia анонсирует свой самый мощный ИИ-чип и глобальный скачок в вычислительной мощности.
Blackwell B200 — Графический процессор содержит 208 миллиардов транзисторов (по сравнению с 80 миллиардами в H100/H200). Он обеспечивает 20 петафлопс производительности ИИ (у одного H100 было максимум 4 петафлопс вычислений ИИ) И последнее, но не менее важное: он будет оснащен 192 ГБ памяти HBM3e с пропускной способностью 8 ТБ/с.
По словам Nvidia, дополнительная вычислительная мощность позволит компаниям, занимающимся искусственным интеллектом, обучать более крупные и сложные модели.
Он также будет доступен в виде целого сервера под названием GB200 NVLink 2, объединяющего 72 графических процессора Blackwell и другие компоненты Nvidia, предназначенные для обучения моделей искусственного интеллекта.
Amazon, Google, Microsoft и Oracle будут продавать доступ к GB200 через облачные сервисы.
Nvidia заявила, что Amazon Web Services построит кластер серверов с 20 000 GB200.
Система может использовать модель с 27 триллионами параметров.
Это намного больше, чем даже у самых больших моделей, таких как GPT-4, которая, как сообщается, имеет 1,7 триллиона параметров.
Blackwell B200 — Графический процессор содержит 208 миллиардов транзисторов (по сравнению с 80 миллиардами в H100/H200). Он обеспечивает 20 петафлопс производительности ИИ (у одного H100 было максимум 4 петафлопс вычислений ИИ) И последнее, но не менее важное: он будет оснащен 192 ГБ памяти HBM3e с пропускной способностью 8 ТБ/с.
По словам Nvidia, дополнительная вычислительная мощность позволит компаниям, занимающимся искусственным интеллектом, обучать более крупные и сложные модели.
Он также будет доступен в виде целого сервера под названием GB200 NVLink 2, объединяющего 72 графических процессора Blackwell и другие компоненты Nvidia, предназначенные для обучения моделей искусственного интеллекта.Amazon, Google, Microsoft и Oracle будут продавать доступ к GB200 через облачные сервисы.
Nvidia заявила, что Amazon Web Services построит кластер серверов с 20 000 GB200.
Система может использовать модель с 27 триллионами параметров.
Это намного больше, чем даже у самых больших моделей, таких как GPT-4, которая, как сообщается, имеет 1,7 триллиона параметров.