How well can VLMs rate audio descriptions: A multi-dimensional quantitative assessment framework

від

у

Наскільки добре візуально‑мовні моделі можуть оцінювати аудіоописи: багатовимірна кількісна рамкова система оцінювання

https://ift.tt/yU3MuSf

Цифрове відео є центральним елементом комунікації, освіти та розваг, але без аудіоопису (AD) сліпі та аудиторії з низьким зором позбавляються доступу. Хоча платформи краудсорсингу та візуально‑мовні моделі (VLMs) розширюють виробництво аудіоописів, якість рідко перевіряють систематично. Існуючі оцінки спираються на NLP‑метрики та настанови для коротких кліпів, залишаючи питання про те, що саме становить якість повнометражного контенту та як оцінювати її у масштабі. Щоб відповісти на ці питання, ми спершу розробили багатовимірну рамку оцінювання для безперервного повнометражного відео, засновану на професійних рекомендаціях і вдосконалену фахівцями з доступності. По‑друге, ми інтегрували цю рамку у всебічний методологічний процес, використовуючи теорію відповіді на елементи (IRT), щоб оцінити компетентність VLM та людських оцінювачів порівняно з експертно встановленою еталонною істинною відповіддю. Висновки свідчать, що хоча VLM можуть наближати оцінки до еталонних з високою узгодженістю, їхні міркування виявилися менш надійними та менш дієвими порівняно з міркуванням людей‑оцінювачів. Ці висновки демонструють потенціал гібридних систем оцінювання, які поєднують VLM із наглядом людей, відкриваючи шлях до масштабованого контролю якості аудіоописів.

HI-FI News

через штучний інтелект https://ift.tt/OKuJQ7k

3 лютого 2026 року о 05:42

February 3, 2026 at 05:42AM