При использовании в контексте фильмов и мемов deepfakes иногда может быть источником развлечений.
Но они также вызывают растущее беспокойство. В век фальшивых новостей и дезинформации deepfakes-то есть созданные искусственным интеллектом, манипулируемые фотографии, видео или аудиофайлы — потенциально могут быть использованы для того, чтобы запутать и ввести в заблуждение людей.
Однако у Microsoft есть и другие идеи.
Во вторник компания объявила о двух новых технологиях, каждая из которых направлена на то, чтобы дать читателям необходимые инструменты для фильтрации того, что реально, а что нет.
Первый из них, Microsoft Video Authenticator, анализирует изображения и видео, чтобы дать "процентный шанс или оценку уверенности, что СМИ искусственно манипулируют", согласно блогу на официальном сайте Microsoft. Этот инструмент работает, обнаруживая смешанные элементы изображения, которые наши слабые человеческие глаза, возможно, не уловили, как тонкие выцветания, оттенки серого и границы.
Реальный против потенциально поддельного.
Вторая часть технологии, которая будет доступна как часть облачного сервиса Microsoft Azure, позволяет создателям добавлять "цифровые хэши и сертификаты" к изображениям или видео. Затем они живут в метаданных, когда средства массовой информации распространяются в интернете. Инструмент расширения браузера затем будет соответствовать этим хэшам, предоставляя читателям информацию о том, кто первоначально сделал контент, и был ли он изменен с тех пор.
Ну, не совсем так. Как признается Microsoft в своем блоге, технология deepfake постоянно становится все более и более сложной, а это означает, что ее инструмент искусственного интеллекта также должен быть обновлен. Возможность добавлять и обнаруживать хэши в медиа также полезна только в той мере, в какой это делает количество людей.
Но в борьбе за то, чтобы отделить факты от вымысла в интернете, это определенно кажется началом.
Стоит отметить, что Microsoft-не единственная компания, которая пытается найти решение проблемы deepfake. После запрета их еще в январе Facebook недавно обнародовал свои собственные усилия по обнаружению deepfakes, в то время как Twitter начал маркировать "манипулируемые и синтетические медиа", а Reddit развернул свой собственный запрет.