Илон Маск предложил «очистить» базу знаний для ИИ. Эксперты предупредили о рисках

[TechnoLab]

ИИ-стартап xAI Илона Маска перепишет «все человеческие знания» для обучения новой версии чат-бота Grok.

We will use Grok 3.5 (maybe we should call it 4), which has advanced reasoning, to rewrite the entire corpus of human knowledge, adding missing information and deleting errors.

Then retrain on that.

Far too much garbage in any foundation model trained on uncorrected data.

— Elon Musk (@elonmusk) June 21, 2025

«Мы используем Grok 3.5 (возможно, стоит назвать его 4), который обладает расширенными возможностями, чтобы переписать весь корпус человеческих знаний, добавляя недостающую информацию и удаляя ошибки», — написал Маск.

Затем будет выполнено повторное обучение на новой информации. По мнению предпринимателя, сегодня используется «слишком много мусора в любой базовой модели, обученной на нескорректированных данных».


Миллиардер столкнулся с критикой из-за этого решения. ИИ-специлист Гэри Маркус сравнил план Маска с антиутопией.

Straight out of 1984.

You couldn’t get Grok to align with your own personal beliefs so you are going to rewrite history to make it conform to your views.

— Gary Marcus (@GaryMarcus) June 21, 2025

«Прямо из “1984”. Вы не смогли заставить Grok согласиться с вашими личными убеждениями, поэтому собираетесь переписать историю, чтобы она соответствовала вашим взглядам», — написал он.

Профессор логики и философии науки в Миланском университете Бернардино Сассоли де Бьянки назвал решение опасным.

«Это выходит далеко за рамки технологического риска и переходит в сферу эпистемического манипулирования. Когда могущественные миллиардеры считают историю податливой только потому, что результаты не совпадают с их убеждениями, мы имеем дело уже не с инновациями, а с контролем над повествованием. Переписывать учебные данные, чтобы они соответствовали идеологии, неправильно на всех мыслимых уровнях», — отметил эксперт.

Напомним, в мае из-за «несанкционированной модификации промпта» Grok затронул тему «геноцида белых» в Южной Африке без соответствующего запроса со стороны пользователя.

Галлюцинации — проблема развития ИИ

Галлюцинации у ИИ-моделей — случаи, когда нейросети уверенно предоставляют ложную или несоответствующую действительности информацию. Она звучит правдоподобно.

forklog.com