За превышение скорости: что такое e/acc и как он мог повлиять на увольнение Сэма Альтмана

[TechnoLab]

Драма вокруг CEO OpenAI Сэма Альтмана породила множество версий касательно причин его неожиданного увольнения. Поводом стал пресс-релиз компании, в котором говорилось, что он «не всегда был откровенен с советом директоров». Но в чем именно?


По данным Reuters, незадолго до увольнения исследователи OpenAI предупредили совет директоров о большом открытии в области ИИ, которое «может угрожать человечеству». По мнению многих сотрудников, разработка может стать прорывом в создании общего искусственного интеллекта (AGI).


Спекуляции пролили свет на противоположные взгляды относительно развития искусственного интеллекта в сообществе. По сути, оно разделилось противоборствующие лагери: представителей эффективного акселерационизма и сторонников децелерации — «децелов». Алекс Вильгельм из TechCrunch также выделяет ИИ-думеров.

Скорость и обеспокоенность​

Взгляды акселерационистов, децелов и ИИ-думеров лежат в двух плоскостях:

• скорости ― насколько быстро развиваются технологии ИИ;
• обеспокоенности относительного того, что они могут развиваться слишком быстро; следовательно, нужно быть очень осторожными с тем, как люди используют и внедряют ИИ.

Отношение различных групп к скорости развития ИИ. Данные: TechCrunch.

e/acc и a16z​

Эффективный акселерационизм ― это идеология и движение, которые опираются на теорию акселерационизма, восходящую к трудам французских постструктуралистов Жиля Делеза и Феликса Гваттари. Сторонники этой концепции, как правило, относятся к крайним флангам условной системы политических координат. Так, акселерационистскую теорию с 1990-х годов активно продвигает британский философ Ник Ланд, для описания своих взглядов выбравший термин «неореакция».


В названии e/acc также можно считать отсылку к «эффективному альтруизму» (ЭА), популярность которого росла и падала вместе с бывшим генеральным директором FTX Сэмом Бэнкманом-Фридом. Идея ЭА заключается в том, чтобы «найти лучшие способы помочь другим и применить их на практике».


В недавно опубликованном «Манифесте технооптимиста» сооснователя венчурной компании a16z Марка Андриссена можно найти такое определение:

«Мы верим в aкселерационизм ― сознательное и целенаправленное стимулирование технологического развития для обеспечения выполнения Закона ускоряющейся отдачи. Чтобы спираль роста технокапитала продолжалась вечно».

Также в манифесте он указал следующее:

«У нас есть враги. Наши враги ― не плохие люди, а скорее плохие идеи. Наше современное общество на протяжении шести десятилетий подвергается массовой деморализации ― против технологий и против жизни ― под разными названиями: „экзистенциальный риск“, „устойчивость“, „ESG“, „цели устойчивого развития“, „социальная ответственность“, „капитализм стейкхолдеров“, „принцип предосторожности“, „доверие и безопасность“, „техноэтика“, „управление рисками“, „антирост“, „пределы роста“».

Эти выдержки помогают резюмировать основные идеи и ценности e/acc. Его сторонники выступают за сознательное продвижение общества вперед за счет агрессивных технологических инноваций, не сдерживаемых опасениями по поводу их возможных негативных эффектов.


Основной аргумент e/acc состоит в том, что новые технологии могут привести к радикальным социальным переменам, и долгосрочные выгоды от этого настолько велики, что потенциальные риски можно просто игнорировать.


В «Манифесте технооптимиста» также описываются децелы:

«Наш враг ― децелерация, антирост, депопуляция ― нигилистическое желание, столь модное среди нашей элиты: иметь меньше людей, меньше энергии, больше страданий и смерти».

Worldcoin — цифровая антиутопия, пустой хайп или инновация?

Журнал ForkLog рассмотрел основные особенности нашумевшего проекта Worldcoin, выяснив причины беспокойства регуляторов многих стран.

forklog.com

Децелы и думеры​

Децелы по-прежнему выступают за развитие искусственного интеллекта, просто они хотят быть более осторожными в этом вопросе. К ним можно отнести многих представителей мира технологий вроде сооснователя MIRI Элиезера Юдковского.


Также в начале 2023 года более сотни ученых, независимых исследователей и бизнесменов, включая Илона Маска и Стива Возняка, подписали открытое письмо с предложением приостановить на шесть месяцев обучение языковых моделей мощнее GPT-4:

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в заявлении.

ИИ-думеры считают, что человечество роет себе могилу с помощью новых технологий ИИ.

«Но поскольку на думеризме много денег не заработать (кроме написания хорошей фантастики), это скорее академическая позиция, чем позиция, которую занимают технологические компании. Насколько я могу судить, e/acc выигрывает в текущей дискуссии, в основном благодаря быстро развивающимся технологиям ИИ и тому факту, что огромная часть экономики хочет их использовать, чтобы экономить деньги и делать больше», ― утверждает Алекс Вильгельм из TechCrunch.

Таким образом, сегодня в спину сторонникам e/acc дует попутный ветер капитализма.

Выводы​

Можно предположить, что именно децелы попытались сместить Альтмана с его поста в OpenAI, что привело в ярость генерального директора Microsoft Сатью Наделлу. Его компания инвестировала $10 млрд в OpenAI, а Альтман вернулся на должность CEO с новым советом директоров.


Если его увольнение рассматривать как мятеж и попытку «создать безопасный ИИ или ничего не создавать», то она фактически провалилась.