Codec-Robust атаки на Audio LLMs
https://ift.tt/m1OHVwg
Попередні атаки на Audio Large Language Models (Audio LLMs) продемонстрували, що ретельно підібрані маніпуляції у вимірі сигналу можуть примусити цільові ворожі виходи. Як механізм захисту від таких атак вивчалася реальна компресія за допомогою кодека для попередньої обробки, щоб одночасно розпізнавати та усувати perturbations. Проте жодна існуюча атака не демонструвала стійкість до цих стискань. Ми представляємо CodecAttack, який оптимізує perturbation у безперервному латентному просторі нейронного аудіокодека, а не безпосередньо perturbing аудіосигнал. Ми показуємо, що канал компресії кодека, який відкидає waveform perturbations, передає perturbations, створені у власному латентному просторі. Щоб ще більше укріпити атаку на реальні канали стискання, ми застосовуємо багатобітровий прямий пропуск (straight-through) очікування через трансформацію (EoT) без модифікації цільової моделі. У трьох реалістичних сценаріях розгортання Audio LLM та трьох цільових моделях CodecAttack досягає середнього відсотка успіху атаки за підрядком цілі ASR 85.5% на Opus за помірних біт rate, тоді як базова модель waveform, навчена з ідентичним EoT посиленням, не перевищує 26% за будь-якого bitrate. Атака переноситься на утримувані кодеки, досягаючи до 100% ASR на MP3 та 84% на AAC-LC без перенавчання. Порівняльний аналіз по діапазонах частот показує, що латентне perturbation концентрується нижче 4 кГц, саме там кодеки виділяють найбільше бітів, тоді як базова модель waveform поширюється на вищі частоти, які кодеки відкидають. Ці результати демонструють, що втративне стискання не є надійним захистом від вороже налаштованого аудіо, і що атаки з урахуванням кодека становлять практичну загрозу для розгорнутих систем Audio LLM.
HI-FI News
via Artificial Intelligence https://ift.tt/jcPk0LI
May 21, 2026 at 05:23AM
May 21, 2026 at 05:23AM
Залишити відповідь
Щоб відправити коментар вам необхідно авторизуватись.