Сліпа пляма ШІ: Машини не можуть відрізнити істину від шуму

Ми захоплюємося тим, наскільки розумними стали останні моделі ШІ — поки вони впевнено не подають нам абсолютно безглузду інформацію. Іронію важко не помітити: оскільки системи ШІ стають потужнішими, їхня здатність відрізняти факти від вигадки не обов'язково покращується. В деяких відношеннях це стає гірше.

Резюме

• Штучний інтелект відображає наші інформаційні недоліки. Моделі, такі як GPT-5, мають труднощі, оскільки навчальні дані забруднені вірусним, контентом, що сприяє залученню, який надає перевагу сенсаційності над точністю.
• Істина більше не є нульовою сумою. Багато “істин” існують разом, але сучасні платформи централізують інформаційний потік, створюючи ехо-камери та упередження, які живлять як людей, так і ШІ.
• Децентралізоване атрибутування виправляє цикл. Системи, пов'язані з репутацією та ідентичністю, що працюють на основі криптопримітивів, можуть винагороджувати точність, фільтрувати шум та навчати ШІ на перевірених, надійних даних.

Розгляньте власні висновки OpenAI: одна версія GPT-4 (, кодова назва “o3”), давала неправдиві відповіді приблизно в 33% випадків під час бенчмаркових тестів, відповідно до власної роботи компанії. Її менший наступник (“o4-mini”) виявився неадекватним майже в половині випадків. Найновіша модель, GPT-5, мала виправити це і дійсно стверджує, що дає неправдиві відповіді набагато рідше (~9%). Проте багато досвідчених користувачів вважають, що GPT-5 на практиці менш розумний—повільніший, більш вагомий і все ще часто помиляється (також свідчачи про те, що бенчмарки лише частково допомагають нам).

Фрустрація технічного директора Nillion, Джона Вудса, була очевидною, коли він сказав, що ChatGPT перетворився з «необхідного на сміття» після випуску GPT-5. Проте реальність така, що все більш просунуті моделі будуть все гірше відрізняти правду від шуму. Усі вони, а не лише GPT.

Чому більш просунута штучна інтелектуальна система може здаватися менш надійною, ніж її попередники? Одна з причин полягає в тому, що ці системи є лише такими ж хорошими, як їх навчальні дані, а дані, які ми надаємо штучному інтелекту, є фундаментально недосконалими. Сьогодні ці дані в основному походять з інформаційної парадигми, де залучення переважає над точністю, тоді як централізовані контролери посилюють шум над сигналом, щоб максимізувати прибутки. Тому наївно очікувати чесного штучного інтелекту без попереднього вирішення проблеми даних.

ШІ відображає наше колективне отруєння інформацією

Високоякісні навчальні дані зникають швидше, ніж ми їх створюємо. Існує рекурсивний цикл деградації: ШІ в основному засвоює дані з вебу; веб стає все більш забрудненим оманливими, невірогідними даними ШІ; синтетичні дані навчають наступне покоління моделей бути ще більш відірваними від реальності.

Більше ніж погані навчальні набори, це про фундаментальну архітектуру того, як ми організовуємо та перевіряємо інформацію в Інтернеті. Понад 65% населення світу проводить години в соціальних мережах, які створені для максимізації залучення. Таким чином, ми піддаємося, в безпрецедентних масштабах, алгоритмам, які випадково винагороджують дезінформацію.

Неправдиві історії викликають сильніші емоційні реакції, тому вони поширюються швидше, ніж виправляючі твердження. Таким чином, найбільш вірусний контент — тобто той, який найімовірніше буде використаний в навчальних процесах ШІ — систематично схиляється до сенсаційності, а не до точності.

Платформи також отримують прибуток від уваги, а не від істини. Творці даних винагороджуються за вірусність, а не за правдивість. Компанії ШІ оптимізують для задоволення користувачів та залучення, а не для фактичної точності. А «успіх» чат-ботів полягає в тому, щоб утримувати користувачів в тонусі з правдоподібними відповідями.

Тим не менше, криза даних/довіри ШІ насправді є продовженням постійного отруєння нашої колективної людської свідомості. Ми годуємо ШІ тим, що споживаємо самі. Системи ШІ не можуть відрізнити правду від шуму, тому що ми самі не можемо.

Істина, врешті-решт, є консенсусом. Той, хто контролює інформаційний потік, також контролює наративи, які ми колективно сприймаємо як «істину», після того, як вони повторюються достатню кількість разів. І зараз купа великих корпорацій тримає в руках істину, а не ми, як окремі особи. Це може змінитися. Це має статися.

Виникнення правдивого ШІ є грою з позитивною сумою

Як ми це виправимо? Як ми переналаштуємо нашу інформаційну екосистему — а отже, і ШІ — на правду? Це починається з переосмислення того, як правда створюється і підтримується в першу чергу.

У статус-кво ми часто сприймаємо істину як гру з нульовою сумою, вирішену тим, у кого найгучніший голос або найвища влада. Інформація ізольована та суворо контролюється; кожна платформа або установа просуває свою власну версію реальності. Штучний інтелект ( або людина ), застряглі в одній з цих ізоляцій, врешті-решт отримують вузький, упереджений світогляд. Ось як ми отримуємо ехо-камери, і ось як як люди, так і ШІ виявляються введеними в оману.

Але багато істин у житті не є бінарними, нульовими пропозиціями. Насправді, більшість значущих істин є позитивно-сумними — вони можуть співіснувати та доповнювати одна одну. Який «найкращий» ресторан у Нью-Йорку? Немає єдино правильної відповіді, і в цьому і є краса: істина залежить від вашого смаку, вашого бюджету, вашого настрою. Моя улюблена пісня, будучи джазовим класиком, не робить вашу улюблену поп-гіпотезу менш «істинною» для вас. Збільшення розуміння однієї людини не обов'язково означає втрату іншої. Наші точки зору можуть відрізнятися, не заперечуючи одна одну.

Ось чому перевірна атрибуція та репутаційні принципи є настільки критичними. Істина не може бути лише про зміст твердження — вона має бути про те, хто його робить, які в них стимули та як їхнє минуле підтверджує це. Якщо кожне твердження в Інтернеті супроводжувалося б чітким ланцюгом авторства та живим репутаційним балом, ми могли б фільтрувати шум, не передаючи контроль централізованим модераторам. Діяльність недобросовісного актора, що намагається поширити дезінформацію, призвела б до зниження їхньої репутації з кожним хибним твердженням. Розумний учасник з тривалою історією точності побачив би, як їхня репутація — і вплив — зростають.

Криптовалюта надає нам будівельні блоки для реалізації цього: децентралізовані ідентифікатори, токенізовані реєстри, механізми стейкінгу та структури стимулів, які перетворюють точність на економічне благо. Уявіть собі граф знань, де кожне твердження пов'язане з перевіреною особистістю, кожна перспектива має репутаційний бал, а кожне твердження про правду може бути оскаржене, підкріплене ставкою та розглянуте в відкритій системі. У цьому світі правда не передається з єдиної платформи — вона органічно виникає з мережі атрибутованих, репутаційно-вагових голосів.

Такий підхід змінює ландшафт стимулів. Замість того, щоб творці контенту переслідували вірусність на шкоду точності, вони б ставили свої репутації — а часто й буквальні токени — на достовірність своїх внесків. Замість того, щоб штучний інтелект навчався на анонімному непотребі, він би навчався на атрибутованих, зважених за репутацією даних, де правда і довіра вбудовані в саму суть інформації.

Тепер розгляньте ШІ в цьому контексті. Модель, навчена на такій графі репутації, споживала б набагато чистіший сигнал. Вона б не просто повторювала найвіруснішу заяву; вона б навчилася враховувати атрибуцію та довіру. З часом самі агенти могли б брати участь у цій системі — ставлячи на свої результати, будуючи свої власні репутації та змагаючись не лише в красномовстві, а й у надійності.

Ось як ми розриваємо цикл отруєної інформації та створюємо ШІ, який відображає позитивно-сумарне, децентралізоване бачення істини. Без перевірної атрибуції та децентралізованої репутації ми завжди будемо змушені делегувати “істину” централізованим платформам і завжди будемо вразливими до маніпуляцій.

З ними ми нарешті можемо перейти від авторитаризму з нульовою сумою до системи, в якій правда виникає динамічно, стійко і, що найважливіше, разом.

! Біллі Лудтке

Біллі Людтке

Біллі Людтке працює на передовій блокчейн-технологій з моменту появи Bitcoin у 2012 році та Ethereum у 2014 році. Він допоміг запустити консультаційну практику EY у сфері блокчейн та провів понад п'ять років у ConsenSys, формуючи екосистему Ethereum через ролі в R&D, відносинах з розробниками, токеновій інженерії та децентралізованій ідентичності. Біллі також допоміг започаткувати самостійність ідентичності як керівник підприємства в uPort, спіголова Робочої групи з цифрової ідентичності EEA та один з засновників Фонду децентралізованої ідентичності. Сьогодні він є засновником Intuition, рідного ланцюга для Інформаційних фінансів, перетворюючи ідентичності, претензії та репутацію на верифіковані, монетизовані дані для наступного інтернету.