Исследование выявило способность ИИ влиять на политические взгляды

[TechnoLab]

Широко используемые ИИ-системы могут изменить предпочтения избирателей в контролируемых условиях на 15%. Об этом говорится в исследовании Корнельского университета и Британского института безопасности искусственного интеллекта.

«Существует большая обеспокоенность общественности касательно потенциального применения технологии для политического убеждения и его возможного влияния на выборы и демократию. Мы информируем об этих опасениях, используя заранее зарегистрированные эксперименты для оценки способности крупных языковых моделей влиять на отношение избирателей», — отметили эксперты.

В исследовании приняли участие почти 6000 человек из США, Канады и Польши. Они оценивали политического кандидата, общались с чат-ботом, а затем снова давали оценку.


В американской части исследования приняли участие 2300 человек перед президентскими выборами 2024 года. Там ИИ оказывал усиливающее влияние, когда мнение собеседников совпадало.


Если чат-бот поддерживал кандидата, которого участник не поддерживал, происходили «более заметные сдвиги» — люди сильнее меняли отношение к политической фигуре.


Подобные результаты зафиксированы в Канаде и Польше.


Исследование показало, что сообщения, ориентированные на политику, оказывали больший эффект убеждения, чем основанные на личности.


Точность высказываний зависела от разговора. Чат-боты, поддерживающие кандидатов правого толка, делали более неточные заявления по сравнению с теми, кто выступал за левых.

«Эти выводы содержат неудобное предположение: политическое воздействие со стороны ИИ может использовать перекосы в том, что модели знают, для неравномерного распространения неточностей даже при прямых указаниях говорить правду», — отметили ученые.

Предвзятость ИИ​

В отдельном исследовании на Science эксперты пытались выяснить, почему вообще возникает эффект убеждения. В нем протестировали 19 языковых моделей на 76 977 взрослых в Великобритании по более чем 700 политическим вопросам.

«Существует широко распространенный страх, что разговорный искусственный интеллект вскоре сможет оказывать беспрецедентное влияние на человеческие убеждения», — написали авторы.

Они выяснили, что методы формирования промптов влияют на способность убеждать сильнее, чем размер модели. Запросы, побуждающие LLM вводить новую информацию, повышали убедительность, но снижали точность.

ИИ не нейтральный​

Аналитические центры заметили, что молодые консерваторы более охотно готовы передать ИИ полномочия по принятию важных государственных решений по сравнению с либералами.


Директор Центра по новым вопросам имени Гленна Хаскинса при институте Хартленд Дональд Кендал отметил, что избиратели часто неправильно оценивают нейтральность больших языковых моделей.

«Одна из вещей, которую я пытаюсь донесли до людей, — это развеять иллюзию о том, что искусственный интеллект беспристрастен. Он явно предвзят, в некоторых случаях в пассивной форме», — добавил он.

Эксперт заявил, что крупные корпорации Кремниевой долины, которые разрабатывают ИИ, «не стесняются влиять на то, какой контент распространяется на их платформах».


Напомним, смоделированное с применением ИИ-агентов заседание ФРС показало, что политическое давление разделило членов совета в ходе обсуждения процентных ставок.