Google AI Research представила новую ИИ-архитектуру «Titans», которая имитирует человеческий мозг.
Ключевой особенностью Titans является система памяти, позволяющая модели адаптироваться в реальном времени и запоминать необычные паттерны.
Titans использует три типа памяти: краткосрочную для непосредственных зависимостей, долговременную для хранения исторической информации, а также он может забывать неважные данные, сохраняя при этом то, что важно. — аналогично мозгу человека.
Это позволяет обрабатывать контексты длиной более 2 миллионов токенов.
Его долговременная память обучается и обновляется, обеспечивая более быструю и эффективную обработку.
Titans отлично справляется с такими задачами, как прогнозирование, анализ генома и обработка временных данных.
Он может обрабатывать гораздо большие объемы информации, чем GPT-4, анализируя эквивалент 25 книг одновременно.
Тестирование показало высокую производительность Titans в задачах обработки языка, особенно с длинными последовательностями, и Google намерен предоставить код для обучения и оценки этих моделей, открывая новые возможности для применения LLM в разных сферах.
================
👁 News | 👁 Software | 👁 Hardware
Ключевой особенностью Titans является система памяти, позволяющая модели адаптироваться в реальном времени и запоминать необычные паттерны.
Titans использует три типа памяти: краткосрочную для непосредственных зависимостей, долговременную для хранения исторической информации, а также он может забывать неважные данные, сохраняя при этом то, что важно. — аналогично мозгу человека.
Это позволяет обрабатывать контексты длиной более 2 миллионов токенов.
Его долговременная память обучается и обновляется, обеспечивая более быструю и эффективную обработку.
Titans отлично справляется с такими задачами, как прогнозирование, анализ генома и обработка временных данных.
Он может обрабатывать гораздо большие объемы информации, чем GPT-4, анализируя эквивалент 25 книг одновременно.
Тестирование показало высокую производительность Titans в задачах обработки языка, особенно с длинными последовательностями, и Google намерен предоставить код для обучения и оценки этих моделей, открывая новые возможности для применения LLM в разных сферах.
================
👁 News | 👁 Software | 👁 Hardware