Швейцарские ученые разработали новый тип метаморфного вредоносного ПО
"Синтетический рак" представляет новый тип метаморфного вредоносного ПО, использующего большие языковые модели (LLMs) для переписывания собственного кода и целенаправленного распространения через социальную инженерию.
Червь отправляется по электронной почте, и после выполнения скачивает необходимые зависимости, потенциально причиняя вред, например, шифруя файлы пользователя.
С помощью LLM, таких как GPT-4, червь самовоспроизводится, переписывая свой исходный код, что позволяет ему избегать обнаружения на основе сигнатур.
Далее червь распространяется, сканируя Outlook (или любой другой почтовый агент) жертвы на предмет предыдущих электронных переписок, где LLM составляет убедительные сообщения с зараженным вложением, продолжая цикл инфекции.
Авторы подчеркивают потенциальную опасность неправильного использования своих находок и признают трудности в предотвращении распространения подобного червя, сложности в различении легитимного и вредоносного использования LLM.
Они также продемонстрировали рабочий прототип, который показывает потенциал червя, хотя он ограничен распространением между двумя хостами в контролируемых условиях.
Авторы призывают к повышению осведомленности и открытому академическому диалогу для улучшения идентификации и смягчения угроз в свете быстро развивающихся возможностей ИИ.
==============
@black_triangle_tg
"Синтетический рак" представляет новый тип метаморфного вредоносного ПО, использующего большие языковые модели (LLMs) для переписывания собственного кода и целенаправленного распространения через социальную инженерию.
Червь отправляется по электронной почте, и после выполнения скачивает необходимые зависимости, потенциально причиняя вред, например, шифруя файлы пользователя. С помощью LLM, таких как GPT-4, червь самовоспроизводится, переписывая свой исходный код, что позволяет ему избегать обнаружения на основе сигнатур. Далее червь распространяется, сканируя Outlook (или любой другой почтовый агент) жертвы на предмет предыдущих электронных переписок, где LLM составляет убедительные сообщения с зараженным вложением, продолжая цикл инфекции. Авторы подчеркивают потенциальную опасность неправильного использования своих находок и признают трудности в предотвращении распространения подобного червя, сложности в различении легитимного и вредоносного использования LLM.Они также продемонстрировали рабочий прототип, который показывает потенциал червя, хотя он ограничен распространением между двумя хостами в контролируемых условиях. Авторы призывают к повышению осведомленности и открытому академическому диалогу для улучшения идентификации и смягчения угроз в свете быстро развивающихся возможностей ИИ.
==============
@black_triangle_tg