AI Voice Cloning Scams Are Now Draining As Much As $635,000 From Their Victims After Just A 5-Second Audio Sample From A Loved One

Це було лише питання часу, настільки ж впевнено, як чергування дня й ночі. Кожна нова технологія історично відкривала нові шляхи для шахрайства, і ШІ виявляється особливо родючим ґрунтом для недоброчесних, що приносить тисячі доларів щомісяця через пряме шахрайство.

Шахрайські схеми з використанням ШІ настільки різноманітні, наскільки й прибуткові, дозволяючи ошуканцям заробляти тисячі доларів щомісяця

Здається, один користувач із Китаю заробляє до 100 000 юанів (~$15,000) щомісяця за допомогою інструментів створення музики за допомогою ШІ. Його modus operandi досить простий: завантажити зображення, яке визначає тему треку, вибрати жанр музики, додати вокал після вибору стилю співу, і вуаля — згенерований ШІ трек майже не відрізняється від справжнього. Останній крок полягає у завантаженні кілька хвилин цього творіння на музичну або коротковідеоплатформу для монетизації.

Зрозуміло, деякі з вас, хто засинає під час перегляду відео на YouTube, дедалі частіше звертаються до ШІ-генерованого контенту, який триває години, поєднуючи спокійний, заспокійливий голос із дещо цікавою темою, розглядаючи матеріал з сумнівною точністю. Нещодавно я натрапив на відео, які описують, як мешканці середньовічного замку пережили типовий зимовий вечір, повну 1 000-річну історію школи Хогвартс з чаклярства та магії та багато відео про міфологію Володаря перснів.

Хоча ці випадки гейміфікації ШІ можуть бути відносно безпечними за шкодності для нашого майбутнього покоління, люди також використовують застосунки ШІ з більш зловмисними цілями.

Наприклад, владні структури у Китаї попереджають людей про новий вектор шахрайства, який може клонувати голос ваших друзів та родичів за всього п’ятисекундним аудіозразком їхніх голосів. Склоновані голоси потім використовуються для вимагання грошей, і деякі жертви були обдурені на суму до 4,3 мільйона юанів (~$635,000).

Ці випадки демонструють темний бік розвиненого ШІ, який тепер, здається, не лише забирає ваші робочі місця, але й ваш накопичений капітал, озброєний зухвалими, дедалі більш досконалими хакерськими методами. До того ж із зростанням популярності окулярів на базі ШІ, AirPods та спеціальних підзаконних підвісків ШІ ці вектори будуть ставати все більш повсюдними.

У світі, де ми більше не можемо довіряти своїм сенсорним органам, чи встане ШІ на захист від власних атак, замкнувши нас у майже досконалий ланцюг причинно-наслідкових зв’язків?

Про автора: Письмо — моя одна безсумнівна пристрасть. За останні шість років він написав понад 2 200 статей на фінансові та технологічні теми, охоплюючи майже мільйон слів. І він є членом команди Wcctech мобільних пристроїв з 2025 року. Як випускник Торонтоського університету, програми Rotman Commerce, я приношу нюанс, ґрунтовні знання та унікальну перспективу до кожної теми, яку висвітлюю. Коли я не пишу, я подорожую світом, досліджую приховані кондитерські та ресторани як майбутній дегустатор їжі.

Слідкуйте за Wccftech у Google, щоб отримувати більше нашого висвітлення новин у свої стрічки.