OpenAI представила режим Lockdown против атак через промпты

TechnoLab

visibility
22 Дек 2019
indite.ru
OpenAI-min



OpenAI анонсировала режим Lockdown, который защищает ИИ-агентов от атак «отравления промта» — одного из самых распространенных способов заставить модель раскрыть данные или выполнить нежелательные действия. Новый механизм ограничивает доступ к чувствительной информации и позволяет безопаснее использовать ИИ для работы с документами, почтой и корпоративными системами.