Эксперты назвали ИИ-агентов потенциальной угрозой

TechnoLab

visibility
22 Дек 2019
indite.ru
AI-agents ИИ агенты 2



Специалисты из Google, Meta и ряда университетов призвали рассматривать ИИ-агентов как ненадежные системы. Исследователи предложили внедрять защитные механизмы на уровне всей ИТ-инфраструктуры, а не только внутри языковых моделей. По их мнению, разделение данных и инструкций вместе с ограничением прав доступа поможет предотвратить взломы криптокошельков и утечки информации.