Кінець бюрократичної ери
https://ift.tt/vhMAI5B
Протягом кількох років читачі час від часу запитують мене про мою думку щодо нинішньої медіа- та інвестиційної лихоманки навколо так званого штучного інтелекту (AI). Перша річ, яку мені доводилося пояснювати у кожному з цих випадків, полягає в тому, що ярлик є неправильним; генеративні великі мовні моделі, щоб дати цим роздувним винахідам індустрії програмного забезпечення належну назву, безсумнівно штучні, але вони не інтелектуальні в жодному сенсі цього слова.
Генеративні LLM видають статистично ймовірні послідовності слів, пікселів або комп’ютерного коду. Це те, чим вони займаються, і це все, чим займаються. Вони відрізняються за складністю, але принципово не відрізняються від тими ж тішними програмами, які на вимогу згенерують торкову лексику або міждисциплінарні наукові праці. Впливова комп’ютерна наука Емілі Бендер у важеній роботі 2021 року назвала генеративні LLM “стохастичними папугами,” і це визначення точне; для тих, хто не розмовляє жаргоном, “стохастичний” означає “висвітлює випадковий вихід за статистичною закономірністю.” (Сподіваюся, нікому не потрібно пояснювати, що таке папуга.) У цих так званих АІ немає нікого вдома, просто програма, що виробляє послідовності, які імітують матеріал, на якому вони навчалися.
Це не є марно, далеко ні. Досить багато чого можна досягти, генеруючи статистично ймовірні, але непередбачувані послідовності слів або пікселів або комп’ютерного коду. Проте розрив між цим і очікуваннями, що були нав’язані явищу AI, настільки значний, як і реальні потенціали технології. Слухаючи промовців та справжніх віруючих у ажіотаж навколо AI, можна почути твердження, що LLMs з часом стануть свідомими, самосвідомими істотами, що за кілька місяців вони стануть набагато розумнішими за людей, і що коли це станеться, штучний інтелект поверне утопію, якщо не вирішить знищити нас усіх спочатку.
Насправді все це — порожня балачка. За винятком вузького спектра застосувань генеративні LLM демонструють вкрай слабкі результати. Гучні прогнози про величезні економічні прибутки для компаній, які їх впровадили, виявилися пустою балаканиною, а найкращі LLM на ринку все ще дуже погано справляються з реально новими завданнями — тим, на що людський інтелект легко адаптується. Недавне дослідження, одне з багатьох, показало, що LLM можуть обробляти менше 3% бізнес-завдань у реальному світі.
Ті самі проблеми стали відомими і у видавничій сфері. Один із моїх видавців нещодавно зауважив, що його фірма отримує чимало рукописів, написаних LLM. Вони миттєво розпізнаються як такі; це також непублікабельний смітник. (У видавця є яскравий відмовний лист із словами: “Ми публікуємо людей, а не роботів.”) Але гроші продовжують надходити в явище AI, що призводить до масштабної розбудови гігантських, дорогих, енерго- та водозалежних дата-центрів, необхідних для розгорнення LLM на масштаб.
Це справді видовищно, і багато коментаторів задаються питанням, чи ми не занурюємося в ще одну шалено спекулятивну пухлину на зразок тієї, що розірвалася так руйнівно у 1999 році. Порівняння вражаючі: бум інтернету, що вибухнув чверть століття тому, був запущений справді трансформаційною зміною в технології, але ця реальність була похована під величезною кількістю хайпу та каскадом помилкових інвестицій, які не враховували економіки. Неминуче бульбашка лопнула, тисячі компаній та мільйони інвесторів збанкрутіли, а хаотичні зусилля урядів із виправлення наслідків призвели до бульбашки та краху на ринку нерухомості у 2004–2009 роках.
Це все ще може статися. Проте я дійшов висновку, що зараз відбувається у розпалі AI може бути значно важливішим, ніж звичайний спекулятивний бум, що розділяє дурнів від їхніх грошей. Щоб зрозуміти, що, на мою думку, тут відбувається, потрібно поговорити про катаболічний колапс.
Давно знайомі читачі мого блогу знають це або хоча б чули про це. Ті, хто не має такого фону, хай знають: це тема статті, яку я написав у 2004 році, “Як падають цивілізації,” яку можна прочитати онлайн тут. За статтею стояли роки досліджень того, як цивілізації розплутуються. Незважаючи на звичні припущення, це не швидкий процес. Він розгортається протягом одного-трьох століть повторюваних кризових періодів, розділених паузами стабілізації та часткового відновлення. Питання, яке я хотів дослідити, — чому таке трапляється.
Відповідь насправді дуже проста. Цивілізації завжди будують більше речей, ніж можуть дозволити собі підтримувати. Під “річчю” я маю на увазі все, що економіст назве капіталом: будівлі, дороги, торговельні системи, соціальні мережі, навчальні заклади, транспортні технології, ідеології, що заохочують людей долучатися до системи, ви називаєте. Якщо це вироблено працею людей і має потребу в підтримці через витрати праці та ресурсів, це капітал — або, як мені подобається казати, річ. Різні цивілізації фіксують увагу на різних видах речей, але кожна цивілізація виробляє багато речей: зазвичай стільки, скільки дозволяє її ресурсна база.
Проблема, звісно, в тому, що як тільки щось збудовано, його треба підтримувати, що потребує праці та ресурсів. Тим часом завжди існує попит на нову речі, що також потребує праці та ресурсів. Рано чи пізно, залежно від того, наскільки велика ресурсна база вашої цивілізації, попит на працівників та ресурси піднімається настільки, що ви не можете підтримувати обидва напрямки одночасно. Саме тоді настає криза.
Я запозичив терміни з біології, щоб дати назви цим стадіям. У будь-якому живому організмі, включно з вами, процес вироблення нових тканин називається анаболізм. (Уявіть анаболічні стероїди, які нарощують м’язи.) Відповідний процес руйнування старих тканин називається катаболізмом. Криза, що настає, коли суспільство не має доступної праці та ресурсів для задоволення потреби у новому виробництві, та водночас має утримувати все існуюче, — це катаболічна криза. Як підказує термін, під час цієї кризи відбувається розбір або залишення багатьох старих речей, щоб звільнити працю та ресурси для інших використань.
Можна подумати, що цивілізації, як живі тіла, просто збалансовують катаболізм з анаболізмом і тримаються від криз. Такі суспільства є, але тип складних урбаністичних цивілізацій не надто вмілі в цьому. Зокрема, вони надійно використовують старі речі як інфраструктуру і будують на ній нові речі, а потім ще більше нових речей поверх того. Саме тому, наприклад, Нью-Йорк і досі залежить від водної системи, яка вже була застаріла ще у 1950 році. Також це причина того, чому США все ще розглядають Нью-Йорк як порт, ринок та населений центр, коли він розвалюється вже багато десятиліть, і витрати на підтримку набагато більші за те, що приносить користі нашому суспільству.
Звичайно, політика, ідеологія та інші людські фактори вливаються в гру й роблять її ще складнішою. Розумним було б у 1950-х роках у Нью-Йорку знести місто по одному району, вивезти руїни, замінити занедбану інфраструктуру, а потім відбудувати. Такі розмови справді були, але не дійшли до етапу обговорень через політичні та культурні причини. Натомість Нью-Йорк продовжить бути руйнівним, зношеним, надзвичайно дорогим безладом, доки його не покинуть, розпиляють метал та інші цінні ресурси та залишать довгостроково підвищуючись океанами за століття або два.
Це не нова історія. Рим був містом із величезними громадськими будівлями та двадцятиповерховими житловими блоками у 300 р. н. е.; у 600 р. н. е. Форум у центрі міста став козячим пасовищем, а житлові блоки — далекими спогадами. Інші великі міста минулого пішли тією ж дорогою з таких же причин: цивілізації, що їх будували, продовжували вкладати праці та ресурси у підтримку їх, доки не могли більше цього зробити.
Ймовірно, цивілізація може пройти через катаболічну кризу, не зруйнувавшись. Багато капіталу перетворюється на відходи, частина з нього залишаєтся, частина знімається з надання сировинних ресурсів для інших потреб. США пережили катаболічну кризу подібного роду у 1970–х та 1980–х роках, і зараз по країні ще можна знайти занедбані сліди старих фабрик та колишніх шляхів прольоту залізниць. Це було болючою трансформацією, яка зруйнувала багато життів, але нація пережила її. Для того, щоб перетворити катаболічну кризу на початковий раунд катаболічного колапсу — процесу, через який цивілізації падають, потрібні певні інші чинники.
Втім це не те, про що я хочу говорити тут. Тут ми говоримо про звичайний вид катаболічної кризи, коли стає неможливо далі покривати витрати на обслуговування непродуктивного капіталу, і тому багато з цього капіталу дозволяють зношуватися як відходи, щоб працю та ресурси могли бути перенаправлені на більш продуктивні використання. Так, я припускаю, що один із цих процесів наближається в США та по всьому Західному промисловому світу.
Є дуже вагомі причини думати так. Глобальна економіка, яка переносила величезні обсяги нечесно заробленого багатства США та його близького оточення союзників, розпадається на окремі економічні блоки; статус долара США як резервної валюти зменшується, хоча звичним чином це відбувається повільно, по трохи, не відразу. Інші фактори, які менш популярні для обговорення сьогодні, накладають різкі обмеження на доступну робочу силу та ресурси. Воно чекає на пізніший пост; зараз важливо, що має щось дати.
Ось де моя свідомо широке визначення “речі” — якщо бажаєте, капіталу — надзвичайно важливе. Річ може бути не лише матеріальним об’єктом, таким як офіси, комп’ютерні мережі, жовті липкі нотатки та інші перешкоди, що грають роль у сучасній бюрократії. Великих заробітних плат та пільг, виплачених бюрократам, також є частиною витрат. Так само вся система сучасної вищої освіти, яка залишила більшість своїх попередніх зобов’язань і стала фабрикою з виготовлення бюрократів. Також регуляторні тягарі, покладені урядовими бюрократами на більш продуктивні економічні діяльності, і витрати на корупцію та хабарі, які пронизують усі ці системи — від випадкового розкрадання майна компаній до багатомільйонних хабарів, що регулярно переходять через верхівку піраміди.
Що робить усі ці витрати ще більш ображливими, ніж вони були б зазвичай, так це те, що бюрократичні системи вносять дуже мало користі і створюють занадто багато перешкод для продуктивної економічної діяльності. Звісно, існує надто мало бюрократії, але США залишили це позаду приблизно в 1936 році й ніколи не озиралися назад. Моя покійна дружина, бухгалтерка більшу частину свого робочого життя, щодня приходила додому з історіями про абсурдні регуляції та важкі фінансові тягарі, які накладалися на малі бізнеси міськими, окружними, штатовими та федеральними урядами на їх облікові записи. У публікації тут двома роками тому я розповідав про леноцію, буквально “правління сутенерів,” де кожна діяльність обкладена зборами до краю міри через посередників з боку корпорацій та урядів, які не вносять нічого, але забирають дедалі більшу частку прибутку. Така стандартна стратегія бюрократій сьогодні.
Крім того, ці дні наші бюрократії не лише дорогі та обтяжливі, вони також вражаюче некомпетентні. Є причина, чому NASA доводиться наймати приватних підрядників для виведення людей на орбіту; попри значні бюджети, бюрократія, що колись залишала сліди на супу, не може розробити та зібрати працездатний космічний апарат за більш ніж чверть століття. Таке трапляється часто. Корпоративні та неприбуткові бюрократії не кращі; чи треба я згадую Голлівуд, який повністю втратив здатність знімати фільми, які глядачі могли б насолодитися?
Ніщо з цього не випадкове. Коли привілейовані класи стають зручними та розпаленими, вони завжди намагаються захистити своїх членів від наслідків їхніх дій. Саме тому ви чуєте стільки розмов про “провал у підвищенні”: як би добре ви не робили свою роботу, якщо належите до бюрократичного класу, вам не треба турбуватися про кар’єру. Навіть якщо ваша компанія зіштовхнеться з руйнуванням через вашу дурість, ви неодмінно знайдете вигідне місце десь інше. Недоліком, звісно, є те, що люди, яких таким чином захищено, ніколи не вчаться на власних помилках, а інститути, що їх захищають, урешті-решт замирають у безнадійній некомпетентності.
Зведіть всі ці фактори разом із потенціалом катаболічної кризи, і висновки очевидні. З усіх шляхів зменшення витрат на підтримку в сучасному суспільстві без завдання значної шкоди продуктивній економічній діяльності найефективнішим є розкрити уряд, корпоративні та неприбуткові бюрократії, звільнивши мільйони та мільярди доларів на рік, які вони коштують (і відповідні витрати праці та ресурсів), щоб їх можна було використати за справами з більшою продуктивністю, водночас розвантаживши економіку від численних дрібних правил та зборів, які сьогодні накладають бюрократії.
Єдине, що ускладнює цей завдання — це те, що влада дуже розпилена в сучасних промислових країнах, і значна її частина проживає саме в тій самій бюрократії, яку найбільше потрібно підрізати. Вказівно, що відносно скромні кроки адміністрації Трампа щодо зменшення розміру федеральної бюрократії та припинення розграбування федеральних коштів корумпованими політиками та неприбутковими організаціями викликали лють і загрозливі заклики до помсти з боку провідних членів бюрократичного класу. Реалізація порівняно скромних зменшень у корпоративному та неприбутковому світах, не кажучи вже про набагато ширші скорочення та закриття, які, ймовірно, знадобляться, була б політично дуже складною, якщо це не можна зробити так, щоб здавалося неминучим, безликим і похвальним.
Саме тут феномен AI входить у картину.
Наше суспільство зробило з віри у прогрес своїм замінником релігії. Якою б не була незадовільною річ, якщо ви зможете переконати людей, що це хвиля майбутнього, значна частина з них прийме це без заперечень. Якщо ви хочете приклад, порівняйте відверто погану якість звуку на телефоні, що відтворює стрімінгову музику, з яскравою чіткістю звуку у стерео старшого за півстоліття, що відтворює платівки. Перехід від платівок до компакт-дисків означав різке зниження якості звуку, перехід від компакт-дисків до стрімінгового аудіо на комп’ютерах був ще більшим, але лише кілька ексцентричних людей відмовилися від цих змін. Навіть зараз, коли платівки відроджуються, велика кількість людей все ще терпить плоский, дзюблячий звук з телефонних динаміків, тоді як дуже modest інвестиція дала б їм змогу насолоджуватися музикою значно більше. Чому? Тому що їх обдурили міфом прогресу.
Шум навколо AI, на мою думку, має на меті використати саме ту реакцію. Бізнес-медіа переповнене розповідями про те, скільки біло-носкоршених робочих місць зникнуть назавжди в найближчому майбутньому, коли LLM стануть на повну силу. Є певна сума шуму, без сумніву, але нічого порівнянного з тією руйнівною люттю та ненавистю, яку викликала ура Trump, відокремлювати незначні зменшення бюрократії федерального рівня. Більшість людей, які, ймовірно, постраждають, дивляться на історії, пов’язані з AI, як олені в світло фар на приближаючий вантажівку. Моя здогадка — це не випадковість.
Іронія полягає в тому, що зовсім не важливо, що LLM не можуть фактично виконати більшість завдань, які роблять люди. Значна частина роботи нинішніх бюрократів не потребує виконання взагалі, а ще більша частина може бути виконана досить добре машинами, які можуть генерувати статистично ймовірні послідовності слів, що імітують людську думку. Таку роботу, яка дійсно потрібна, можна тихо передати дешевшій праці людей, і, як відомо, це вже відбувається; гірка жарт у сьогоднішній комп’ютерній сцени говорить: AI насправді означає “Additional Indians,” бо кілька компаній зловили використання бойових цехів у Мумбаї та Калькуті для роботи, яку нібито передано LLM.
Якщо я маю рацію, у найближчі місяці та роки ми побачимо чимало тріумфальних матеріалів у мас-медіа, що стверджують: те чи інше відомство цієї або тієї урядової, корпоративної чи неприбуткової бюрократії замінене блискучим новим AI. Уряди на різних рівнях без сумніву зроблять різні формальні кроки на шляху перекваліфікації звільнених бюрократів, але ті з нас, хто пам’ятає, як поводилися з безробітними робітниками на заводах сорок років тому, краще знають, чого очікувати. Тим часом цілий світ бізнесу, що підтримував себе на наданні послуг засекорам у білу крісую, від пілатесу до баристів та далі, також буде шукати способи вижити.
Ті бюрократи, яких я знаю, хто має хоч якийсь підказок, уже переорієнтовуються на роботу, що виробляє реальні товари та послуги; вони готуються стати електриками, фермерами, власниками малого бізнесу та подібне. Занадто багато інших нічого не роблять, щоб готуватися до прийдешніх зрушень. Я закликаю всіх своїх читачів оцінити свою працю, пам’ятаючи, що якщо цю роботу може зробити стохастичний папуга, вони можуть не матиме роботи за п’ять років. Також закликаю їх переглянути свої навички та таланти, які можуть підійти для малого бізнесу. Як тільки лідяна важкість зайвої бюрократії буде знята, може з’явитися набагато більше місця для малого бізнесу, ніж було за всю пам’ять людства. Проте подивимося, як усе буде розвиватися.
HI-FI News
via Ecosophia
https://ift.tt/TeF2Okv
March 4, 2026 at 03:19PM
March 4, 2026 at 03:19PM
Залишити відповідь
Щоб відправити коментар вам необхідно авторизуватись.