Хакеры используют промпт-инъекции в вредоносном ПО для обхода анализа ИИ

Специалисты компании ESET выявили новую технику GuardBreaker, используемую хакерами для противодействия ИИ-инструментам анализа кода. Злоумышленники внедряют в малварь запросы о ядерном оружии, что заставляет языковые модели срабатывать по защитным протоколам и прекращать исследование вредоносного ПО.

Тексты и озвучка в Пегрегаторе создаются автоматически: нейросеть кратко пересказывает публичные материалы Telegram-каналов. Это не оригинальные публикации и не работа редакции — смысл может быть упрощён, а детали потеряны. Перед принятием решений открывайте первоисточник: ссылки на каналы есть у каждого материала.