↩️🖼 ☝🏻Модель OpenAI саботирует процесс своего отключения 79 раз из 100

IT Boroda

visibility
14 Янв 2020
Чёрный Треугольник:

☝🏻Модель o3 OpenAI нашла уязвимость в модуле ядра Linux В модуле ksmbd ядра Linux была обнаружена уязвимость (CVE-2025-37899), позволяющая выполнять код на уровне ядра при помощи специально сформированных пакетов.⚠️ Уязвимость была устранена в обновлениях…

☝🏻Модель OpenAI саботирует процесс своего отключения 79 раз из 100

Исследовательская организация Palisade Research опубликовала результаты эксперимента, в котором модель машинного обучения OpenAI, известная как o3, продемонстрировала удивительную способность противостоять своему отключению, даже когда получала четкие инструкции.😳

В ходе испытаний o3 пыталась саботировать процесс своего выключения 79 раз из 100.

Это событие стало первым задокументированным случаем, когда ИИ-модели проявляют такую стойкость к отключению.

Palisade Research продолжает исследование этой проблемы, и результаты доступны на GitHub.🔍
================
👁 News | 👁 Soft | 👁 Gear | 🌐 Links

Aoe5HjarMQlKmhUvHmqZdj5dilkk6MRQqx_dxMe8DIu76mL2Zme1RG3PEdJhUAVtdPEEKRM1aTIT7oeFBGubbWV_b9YpqumB8KJF8ImW-jIjxYMqTgsJ5O9UgrMAXUYQv1wk5AEUVADYSidaKINOnq1b3fS_4I6L9J7bIRn6cXpmbpLm6T0uJebbvI_vWX1WV4eUlvA08-uYLZ4Ryl1YXLAS5EZxqyYWSL-pBvDQ0ArlYzrbOCT_zFtvVqql_z_6tKqIU3ghKJOnJJwwjYRIbpnxdHyPVp8YGTGoUdpcCbV_9_xQb854l2EfJfy_0LqQr7iRedX5rWlZ4hQew_ptsw.jpg