https://telegra.ph/file/33dd38794c015b469c992.jpgGPT-4 заставили играть в Doom
Ученые из Microsoft протестировали GPT-4, заставив его играть в Doom без предварительной подготовки.
Для этого они использовали интерфейс GPT-4V для компьютерного зрения ИИ и добавили Matplotlib и Python, чтобы сделать возможным ввод данных ИИ.
GPT-4, играющий в Doom, может открывать двери, сражаться с врагами и стрелять из оружия. Базовые функциональные возможности игрового процесса, включая навигацию по миру, есть практически все.
Однако, у ИИ нет чувства постоянства объекта — как только враг оказывается за кадром, ИИ вообще о нем больше не подозревает. Несмотря на то, что включены инструкции о том, что делать, если враг за кадром наносит урон, модель не может реагировать ни на что, выходящее за рамки ее узкой области действия.
Говоря об этических выводах своего исследования ученые отмечают: «Довольно тревожно, насколько легко написать код, позволяющий модели стрелять в кого-то, не подвергая сомнению инструкции»
GPT-4 без колебаний стрелял в объекты в форме людей.
Ученые из Microsoft протестировали GPT-4, заставив его играть в Doom без предварительной подготовки.
Для этого они использовали интерфейс GPT-4V для компьютерного зрения ИИ и добавили Matplotlib и Python, чтобы сделать возможным ввод данных ИИ.GPT-4, играющий в Doom, может открывать двери, сражаться с врагами и стрелять из оружия. Базовые функциональные возможности игрового процесса, включая навигацию по миру, есть практически все.
Однако, у ИИ нет чувства постоянства объекта — как только враг оказывается за кадром, ИИ вообще о нем больше не подозревает. Несмотря на то, что включены инструкции о том, что делать, если враг за кадром наносит урон, модель не может реагировать ни на что, выходящее за рамки ее узкой области действия.Говоря об этических выводах своего исследования ученые отмечают: «Довольно тревожно, насколько легко написать код, позволяющий модели стрелять в кого-то, не подвергая сомнению инструкции»
GPT-4 без колебаний стрелял в объекты в форме людей.
