Чат-бот Grok добавят в сеть Пентагона

[TechnoLab]

ИИ-бота Grok интегрируют с сетью Пентагона наряду с генеративным ИИ-движком Google. Об этом заявил министр обороны США Пит Хегсет, пишет New York Post.

«Скоро мы получим ведущие мировые ИИ-модели в каждой несекретной и секретной сети нашего ведомства», — заявил чиновник.

Хегсет сказал, что чат-бот начнет работу в Министерстве обороны в конце января. Он «предоставит все необходимые данные» из военных IT-систем, в том числе информацию из отдела разведки.


В своей речи политик подчеркнул необходимость оптимизации и ускорения технологических инноваций в вооруженных силах. По его словам, Пентагон располагает «проверенными в боях оперативными данными, полученными за два десятилетия военных и разведывательных операций».

«Искусственный интеллект хорош настолько, насколько хороши данные, которые он получает. Мы обеспечим их наличие», — добавил Хегсет.

Министр обороны заявил, что хочет видеть в Пентагоне «ответственные ИИ-системы». Он пообещал «прорубить заросший бюрократический лес и убрать мусор — желательно с помощью бензопилы».

«Мы должны обеспечить доминирование американского военного ИИ, чтобы ни один противник не мог использовать эту же технологию для угрозы нашей национальной безопасности или гражданам», — заявил глава Пентагона.

Несмотря на скандал​

Объявление сделано через несколько дней после того, как Grok попал в очередной скандал, на этот раз из-за применения инструмента для генерации сексуального контента.


Малайзия и Индонезия заблокировали доступ к чат-боту. Регуляторы ЕС, Великобритании, Бразилии и Индии требуют расследовать роль Grok в распространении дипфейков.


Британская организация Internet Watch Foundation отметила, что ее аналитики обнаружили «криминальные изображения» детей в возрасте от 11 до 13 лет, которые предположительно созданы с помощью чат-бота.


Ранее Grok неоднократно критиковали за распространение фейков и сомнительной информации.


В декабре чат-бот предоставлял недостоверные данные о массовой перестрелке на пляже Бонди в Австралии. В ответ на вопрос о видео, на котором случайный прохожий Ахмед аль-Ахмед боролся со стрелком, ИИ ответил следующее:

«Похоже, это старый вирусный ролик, на котором мужчина забирается на пальму на парковке, возможно, чтобы постричь ее. В результате ветка упала на поврежденный автомобиль. Поиск по различным источникам не дал подтвержденных сведений о месте, дате и травмах. Возможно, это инсценировка, подлинность не подтверждена».

В июле пользователи заметили, что нейросеть опирается на мнение Илона Маска при формировании ответов. Это коснулось в том числе темы конфликта между Израилем и Палестиной, абортов и иммиграционного законодательства.


Наблюдения позволяют предположить, что чат-бота специально настроили учитывать политические взгляды Маска при ответах на спорные вопросы.


Ранее миллиардер заявил, что его стартап перепишет «все человеческие знания» для обучения новой версии Grok, поскольку сегодня используется «слишком много мусора в любой базовой модели, настроенной на нескорректированных данных».


Впоследствие появилась Grokipedia — основанная на базе искусственного интеллекта онлайн-энциклопедия, «ориентированная на правду».


Напомним, в ноябре пользователи обратили внимание на предвзятость Grok 4.1. Новаяовая модель значительно переоценила способности Маска.