ИИ-стартап xAI Илона Маска запустил Grokipedia — основанную на базе искусственного интеллекта онлайн-энциклопедию, «ориентированную на правду».
Главная страница. Источник: Grokipedia.
На главной странице ресурса находится большая строка поиска, а сами статьи оформлены схожим с Wikipedia образом — есть заголовки, подзаголовки и ссылки на источники.
Копия Wikipedia?
Маск позиционирует Grokipedia как грандиозное улучшение по сравнению с Wikipedia, однако некоторые материалы копируют информацию ресурса. В конце ряда статей написано:
Его можно встретить на страницах описания MacBook Air, PlayStation 5 и Lincoln Mark VIII. Причем статьи почти полностью совпадают с версиями Wikipedia — слово в слово, строка за строкой.
Сравнение статей про PlayStation 5 на Grokipedia и Wikipedia. Источник: Grokipedia и Wikipedia.
Не все статьи Grokipedia скопированы с Wikipedia, некоторые существенно отличаются.
Правые или левые?
На Grokipedia искусственный интеллект Grok выполняет ведущую роль — определяет и модерирует контент на платформе. Wikipedia опирается на сообщество редакторов-добровольцев и автоматизированные инструменты.
Маск объяснил, что пользователи могут добавлять, изменять или предлагать удаление статей, однако окончательное решение будет принимать ИИ.
В статьях Grokipedia указывается, что платформа провела фактчекинг.
Галлюцинации — проблема развития ИИ
Галлюцинации у ИИ-моделей — случаи, когда нейросети уверенно предоставляют ложную или несоответствующую действительности информацию. Она звучит правдоподобно.
forklog.com
Пользователи начали замечать разный подход в формировании статей. Можно обратить внимание на различие между информацией о Джордже Флойде — афроамериканце, погибшем во время задержания во Флориде. На Grokipedia первый абзац акцентирует внимание на судимостях.
Статья о Флойде на Grokipedia. Источник: Grokipedia.
На Wikipedia сразу подчеркивается, что его убил «белый» полицейский.
Статья о Флойде на Wikipedia. Источник: Wikipedia.
Ранее Маск критиковал Wikipedia за левый уклон энциклопедии и пропаганду. Grokipedia в своей статье делает акцент на критике ресурса в отношении достоверности фактов и либерального направления в освещении политических деятелей.
Статья про Wikipedia на Grokipedia. Источник: Grokipedia.
На Wikipedia же Grokipedia позиционируется как платформа, которая может смещаться в сторону «крайне правых» взглядов Маска.
Описание Grokipedia на Wikipedia. Источник: Wikipedia.
Другой пример в разнице подходов — мнение о климатических изменениях. На Wikipedia говорится следующее:
На Grokipedia содержится следующая трактовка:
В тексте подчеркивается, что СМИ и организации вроде Greenpeace «способствуют усилению общественной тревоги» и участвуют в «координированных попытках представить проблему как экзистенциальную угрозу, влияя на общественные дискуссии и политику, не всегда опираясь на соразмерные эмпирические данные».
Маск формирует реальность?
В июне Маск заявил, что xAI перепишет «все человеческие знания» для обучения новой версии чат-бота Grok. По мнению предпринимателя, сегодня используется «слишком много мусора в любой базовой модели, обученной на нескорректированных данных».
Миллиардер столкнулся с критикой из-за этого решения. ИИ-специалист Гэри Маркус сравнил план с антиутопией.
Позже пользователи заметили, что Grok опирается на публикации предпринимателя в X. Это касается в том числе темы конфликта между Израилем и Палестиной, абортов и иммиграционного законодательства.
Наблюдения позволяют предположить, что чат-бота специально настроили учитывать политические взгляды Маска при ответах на спорные вопросы.
Напомним, в июле Grok попал в скандал из-за спорных высказываний.