Исследователи представили концепцию термодинамического компьютера — нового типа вычислительной архитектуры, которая в перспективе может радикально снизить энергозатраты систем искусственного интеллекта. Об этом пишет Quantum Insider.
Команда специалистов из компании Extropic и Массачусетского технологического института считает, что представленный ими подход способен сделать выполнение некоторых задач ИИ до 10 000 раз более энергоэффективным по сравнению с традиционными вычислениями.
Вместо борьбы с шумом — использование его в вычислениях
Современные процессоры, включая GPU, на которых обучаются и работают большие языковые модели, тратят значительные ресурсы на выполнение точных детерминированных вычислений. При этом физический шум и тепловые флуктуации считаются помехой, которую необходимо минимизировать.
Авторы работы предлагают противоположный подход. Вместо того чтобы подавлять случайные тепловые процессы, они предлагают использовать их как часть вычислений. Такой принцип получил название термодинамических вычислений (Thermodynamic Computing).
По словам исследователей, многие задачи искусственного интеллекта — например, поиск наиболее вероятного ответа или оптимального решения — по своей природе являются вероятностными. Поэтому вычислительная система, использующая случайные физические процессы, потенциально сможет выполнять их значительно эффективнее классических процессоров.
Решение одной из главных проблем ИИ
Интерес к подобным архитектурам связан с растущим энергопотреблением индустрии искусственного интеллекта. Крупнейшие технологические компании инвестируют миллиарды долларов в строительство дата-центров, а спрос на электроэнергию для обучения и работы современных моделей продолжает быстро расти.
Если предложенная архитектура окажется жизнеспособной, она сможет уменьшить не только энергозатраты, но и стоимость эксплуатации ИИ-инфраструктуры, снизив потребность в дорогостоящих вычислительных кластерах.
Аналитики назвали энергию ценнейшим ресурсом в мире
В США расположено 5426 дата-центров — больше, чем во всех других странах вместе взятых. В государстве строятся ЦОД на $40 млрд — рост на 400% с 2022 года.
forklog.com
До практического применения еще далеко
Пока речь идет о фундаментальном исследовании, а не о готовом процессоре. Авторы представили архитектуру и результаты моделирования, показывающие преимущества нового подхода для отдельных классов задач. До появления коммерческих чипов, построенных на принципах термодинамических вычислений, могут пройти годы.
Тем не менее работа отражает растущий интерес отрасли к альтернативным вычислительным архитектурам. По мере того как масштаб ИИ-моделей продолжает увеличиваться, все больше внимания уделяется не только их возможностям, но и стоимости вычислений. На этом фоне поиск способов радикально сократить энергопотребление становится одним из ключевых направлений исследований наряду с развитием квантовых и нейроморфных компьютеров.
Напомним, в мае Amazon реализовала новую архитектуру сетей дата-центров, которая ускоряет передачу данных, а также снижает энергопотребление.