Сотрудники OpenAI и Google DeepMind пердупреждают, что ИИ может уничтожить человечество
Бывшие и действующие сотрудники OpenAI и Google DeepMind подписали открытое письмо о рисках искусственного интеллекта. Также они призвали защитить их от возможного преследования со стороны компаний.
Риски варьируются от углубления неравенства до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества.
Они предлагают несколько путей решения проблем:
отказаться от соглашений, которые подавляют критику;
предложить сотрудникам поддающийся проверке анонимный процесс, позволяющий сообщать о проблемах ИИ;
поддерживать культуру открытой критики, чтобы общественность, советы директоров, регуляторы и другие вовремя узнавали о рисках коммерческих моделей ИИ;
избегать преследований сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками.
В общей сложности письмо подписало 13 человек, в том числе 7 бывших и 4 нынешних сотрудника OpenAI, 1 бывший и 1 текущий работник Google DeepMind.
Гендиректор и технический директор OpenAI утверждают об отсутствии проблем безопасности в ИИ-продуктах.
Бывшие и действующие сотрудники OpenAI и Google DeepMind подписали открытое письмо о рисках искусственного интеллекта. Также они призвали защитить их от возможного преследования со стороны компаний.
Риски варьируются от углубления неравенства до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества.
Они предлагают несколько путей решения проблем:
отказаться от соглашений, которые подавляют критику;предложить сотрудникам поддающийся проверке анонимный процесс, позволяющий сообщать о проблемах ИИ;поддерживать культуру открытой критики, чтобы общественность, советы директоров, регуляторы и другие вовремя узнавали о рисках коммерческих моделей ИИ;избегать преследований сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками.В общей сложности письмо подписало 13 человек, в том числе 7 бывших и 4 нынешних сотрудника OpenAI, 1 бывший и 1 текущий работник Google DeepMind.
Гендиректор и технический директор OpenAI утверждают об отсутствии проблем безопасности в ИИ-продуктах.