Ураження членства (Membership Inference Attacks) проти великих аудіо-мовних моделей
https://ift.tt/tnCK6ZP
Ми представляємо першу систематичну оцінку атаки на визначення приналежності (MIA) для великих аудіо-мовних моделей (LALMs). Оскільки аудіо кодує несемантичну інформацію, воно викликає серйозні зсуви розподілів у тренуванні та тестуванні й може призвести до помилкової ефективності MIA. Використовуючи багатомодальну сліпу базу, що ґрунтується на текстових, спектральних та просодичних ознаках, ми демонструємо, що загальні набори даних для мови мають практично ідеальну відокремлюваність тренування від тесту (AUC приблизно 1.0) навіть без інференсу моделі, та стандартні оцінки MIA сильно корелюють з цими сліпими акустичними артефактами (кореляція понад 0.7). Використовуючи цю сліпу базу, ми визначаємо, що набори даних з розподільчим відповідністю дозволяють надійну оцінку MIA без конфузів розподілу. Ми порівняли кілька методів MIA та провели експерименти з розділенням модальностей на цих наборах даних. Результати свідчать, що запам’ятовування LALM крос-модальне, з’являється лише через прив’язку вокальної ідентичності мовця до його тексту. Ці висновки встановлюють принципово стандарт для аудиту LALMs за межами помилкових кореляцій.
HI-FI News
через Штучний інтелект https://ift.tt/QUVfdDN
31 березня 2026 р. о 05:20.
March 31, 2026 at 05:20AM
Залишити відповідь
Щоб відправити коментар вам необхідно авторизуватись.