GRM: Урахований утилітарністю злом аудіо LLM за допомогою маскування відношення градієнтів у частотному домені
https://ift.tt/7YVPU8t
Моделі великої мови для аудіо (ALLLM) забезпечують багатий взаємодію між промовою та текстом, але водночас вводять уразливості з jailbreak у аудіо-модальності. Існуючі методи аудіожабрѐйку здебільшого оптимізують успішність злома, ігноруючи збереження корисності, зокрема якість транскрипції та продуктивність при відповідях на запитання. На практиці сильніші атаки часто мають ціну у зниженні корисності. Щоб вивчити ці взаємовідносини, ми повторно розглядаємо існуючі атаки, варіюючи їх покриття перешкод у частотній domені — від часткових смуг до повного покриття, і виявляємо, що ширше частотне покриття не завжди покращує ефективність злома, тоді як корисність постійно погіршується. Це натякає на те, що зосередження перешкод на підмножині смуг може дати кращий компроміс між атакою та корисністю порівняно з безрозсудним повним покриттям. Виходячи з цього висновку, ми пропонуємо GRM, рамку злома, що враховує корисність і є частотнозалежним відбірковим способом. Вона ранжує смуги Мел за їх внеском в атаку відносно чутливості до корисності,perturbes лише обраний підмножину смуг та навчає повторювану універсальну перешкоду під завданням збереження семантики. Експерименти на чотирьох представницьких ALLLM показують, що GRM досягає середнього рівня успіху зламу (JSR) 88.46%, одночасно забезпечуючи кращий компроміс атаки та корисності в порівнянні з репрезентативними базовими методами. Ці результати підкреслюють потенціал частотнозалежної перешкоди для кращого балансування між ефективністю атаки та збереженням корисності в аудіо-зломах. Попередження щодо вмісту: у цій роботі наведено шкідливі приклади запитів та небезпечні відповіді моделей.
HI-FI News
через штучний інтелект https://ift.tt/GdH0mLR
13 квітня 2026 року, 05:09 AM
April 13, 2026 at 05:09AM
Залишити відповідь
Щоб відправити коментар вам необхідно авторизуватись.