Kebutuhan AI: Mesin tidak dapat memisahkan kebenaran dari kebisingan

Kami takjub melihat betapa cerdasnya model AI terbaru — hingga mereka dengan percaya diri menyajikan kami dengan omong kosong yang lengkap. Ironinya sulit untuk dilewatkan: saat sistem AI menjadi lebih kuat, kemampuan mereka untuk membedakan fakta dari fiksi tidak serta merta membaik. Dalam beberapa hal, itu malah semakin buruk.

Ringkasan

• AI mencerminkan kekurangan informasi kita. Model seperti GPT-5 berjuang karena data pelatihan tercemar dengan konten viral yang didorong oleh keterlibatan yang mengutamakan sensasi daripada akurasi.
• Kebenaran tidak lagi bersifat zero-sum. Banyak “kebenaran” yang ada berdampingan, tetapi platform saat ini memusatkan aliran informasi, menciptakan ruang gema dan bias yang memberi makan baik manusia maupun AI.
• Attribusi terdesentralisasi memperbaiki siklus. Sistem yang terkait dengan reputasi dan identitas, didukung oleh primitif kripto, dapat menghargai akurasi, menyaring kebisingan, dan melatih AI dengan data yang dapat diverifikasi dan terpercaya.

Pertimbangkan temuan OpenAI sendiri: satu versi dari GPT-4 ( yang diberi nama kode “o3” ) memberikan jawaban yang salah sekitar 33% dari waktu dalam tes benchmark, menurut makalah perusahaan itu sendiri. Penerusnya yang lebih kecil ( “o4-mini” ) mengalami kesalahan hampir setengah dari waktu. Model terbaru, GPT-5, seharusnya memperbaiki ini dan memang mengklaim untuk berhalusinasi jauh lebih sedikit ( ~9% ). Namun banyak pengguna berpengalaman menemukan bahwa GPT-5 lebih bodoh dalam praktiknya—lebih lambat, lebih ragu-ragu, dan masih sering salah ( juga menunjukkan fakta bahwa benchmark hanya membawa kita sejauh itu ).

Frustrasi CTO Nillion, John Woods, sangat jelas ketika dia mengatakan ChatGPT berubah dari ‘penting menjadi sampah’ setelah rilis GPT-5. Namun kenyataannya, model yang lebih maju akan semakin buruk dalam membedakan kebenaran dari kebisingan. Semua model, bukan hanya GPT.

Mengapa AI yang lebih canggih terasa kurang dapat diandalkan dibandingkan pendahulunya? Salah satu alasannya adalah bahwa sistem ini hanya sebaik data pelatihannya, dan data yang kita berikan kepada AI pada dasarnya cacat. Saat ini, data ini sebagian besar berasal dari paradigma informasi di mana keterlibatan mengalahkan akurasi sementara Penjaga Pusat memperbesar kebisingan dibandingkan sinyal untuk memaksimalkan keuntungan. Oleh karena itu, naif untuk mengharapkan AI yang jujur tanpa terlebih dahulu memperbaiki masalah data.

AI mencerminkan keracunan informasi kolektif kita

Data pelatihan berkualitas tinggi menghilang lebih cepat daripada kita menciptakannya. Ada loop degradasi rekursif yang berfungsi: AI terutama mencerna data berbasis web; web semakin tercemar dengan sampah AI yang menyesatkan dan tidak dapat diverifikasi; data sintetis melatih generasi model berikutnya untuk menjadi semakin tidak terhubung dengan kenyataan.

Lebih dari sekadar set pelatihan yang buruk, ini tentang arsitektur fundamental dari bagaimana kita mengorganisir dan memverifikasi informasi secara online. Lebih dari 65% populasi dunia menghabiskan berjam-jam di platform media sosial yang dirancang untuk memaksimalkan keterlibatan. Dengan demikian, kita terpapar, pada skala yang belum pernah terjadi sebelumnya, pada algoritma yang secara tidak sengaja memberikan imbalan pada informasi yang salah.

Kisah-kisah palsu memicu respons emosional yang lebih kuat, sehingga mereka menyebar lebih cepat daripada klaim korektif. Dengan demikian, konten yang paling viral — yaitu, yang paling mungkin diambil oleh jalur pelatihan AI — secara sistematis terpengaruh oleh sensasi daripada akurasi.

Platform juga mendapatkan keuntungan dari perhatian, bukan kebenaran. Pembuat data dihargai untuk viralitas, bukan kebenaran. Perusahaan AI mengoptimalkan untuk kepuasan dan keterlibatan pengguna, bukan akurasi faktual. Dan ‘kesuksesan’ untuk chatbot adalah menjaga pengguna tetap terlibat dengan respons yang terdengar masuk akal.

Dengan kata lain, krisis data/kepercayaan AI sebenarnya adalah perpanjangan dari pencemaran yang sedang berlangsung terhadap kesadaran kolektif manusia kita. Kita memberi AI apa yang kita konsumsi sendiri. Sistem AI tidak dapat membedakan kebenaran dari kebisingan, karena kita sendiri tidak bisa.

Kebenaran adalah konsensus setelah semua. Siapa pun yang mengendalikan aliran informasi juga mengendalikan narasi yang kita persepsikan secara kolektif sebagai 'kebenaran' setelah diulang cukup banyak kali. Dan saat ini, sekelompok perusahaan besar memegang kendali atas kebenaran, bukan kita sebagai individu. Itu bisa berubah. Itu harus.

Munculnya AI yang Jujur adalah permainan positif-sum

Bagaimana kita memperbaiki ini? Bagaimana kita menyelaraskan kembali ekosistem informasi kita — dan dengan demikian, AI — menuju kebenaran? Ini dimulai dengan membayangkan kembali bagaimana kebenaran diciptakan dan dipertahankan sejak awal.

Dalam status quo, kita sering memperlakukan kebenaran sebagai permainan jumlah nol yang diputuskan oleh siapa pun yang memiliki suara paling keras atau otoritas tertinggi. Informasi terisolasi dan dikendalikan dengan ketat; setiap platform atau institusi mendorong versinya sendiri tentang realitas. Sebuah AI ( atau seseorang ) yang terjebak dalam salah satu silo ini berakhir dengan pandangan dunia yang sempit dan bias. Begitulah cara kita mendapatkan ruang gema, dan begitulah cara baik manusia maupun AI akhirnya tersesat.

Tetapi banyak kebenaran dalam hidup tidak bersifat biner, proposisi zero-sum. Sebenarnya, sebagian besar kebenaran yang bermakna adalah positif-sum — mereka dapat coexist dan saling melengkapi. Apa restoran “terbaik” di New York? Tidak ada jawaban tunggal yang benar, dan itulah keindahannya: kebenaran tergantung pada selera Anda, anggaran Anda, suasana hati Anda. Lagu favorit saya, yang merupakan klasik jazz, tidak membuat lagu pop favorit Anda menjadi kurang “benar” bagi Anda. Pemahaman satu orang tidak harus berarti kerugian orang lain. Perspektif kita bisa berbeda tanpa membatalkan satu sama lain.

Inilah mengapa atribusi yang dapat diverifikasi dan primitif reputasi sangat penting. Kebenaran tidak bisa hanya tentang isi suatu klaim — tetapi juga tentang siapa yang membuatnya, apa insentif mereka, dan bagaimana rekam jejak mereka di masa lalu. Jika setiap pernyataan online disertai dengan rantai kepemilikan yang jelas dan skor reputasi yang hidup, kita bisa menyaring kebisingan tanpa menyerahkan kendali kepada moderator terpusat. Pelaku niat buruk yang mencoba menyebarkan disinformasi akan menemukan reputasi mereka menurun dengan setiap klaim yang salah. Kontributor yang berpikir dengan baik dan memiliki rekam jejak panjang dalam akurasi akan melihat reputasi mereka — dan pengaruh — meningkat.

Kripto memberikan kita blok bangunan untuk membuat ini bekerja: pengenal terdesentralisasi, registri yang dikurasi token, mekanisme staking, dan struktur insentif yang mengubah akurasi menjadi barang ekonomi. Bayangkan grafik pengetahuan di mana setiap pernyataan terikat pada identitas yang dapat diverifikasi, setiap perspektif memiliki skor reputasi, dan setiap klaim kebenaran dapat ditantang, dipertaruhkan, dan diadili dalam sistem terbuka. Di dunia itu, kebenaran tidak diberikan dari satu platform — ia muncul secara organik dari jaringan suara yang diberi atribusi dan berbobot reputasi.

Sistem semacam itu membalikkan lanskap insentif. Alih-alih pencipta konten mengejar viralitas dengan mengorbankan akurasi, mereka akan mempertaruhkan reputasi mereka — dan seringkali token literal — pada validitas kontribusi mereka. Alih-alih AI dilatih pada sampah anonim, ia akan dilatih pada data yang diatribusikan, berbobot reputasi di mana kebenaran dan kepercayaan sudah menjadi bagian dari informasi itu sendiri.

Sekarang pertimbangkan AI dalam konteks ini. Model yang dilatih pada grafik yang sadar reputasi seperti itu akan mengkonsumsi sinyal yang jauh lebih bersih. Itu tidak hanya akan mengulangi klaim yang paling viral; itu akan belajar untuk mempertimbangkan atribusi dan kredibilitas. Seiring waktu, para agen itu sendiri dapat berpartisipasi dalam sistem ini — mempertaruhkan hasil mereka, membangun reputasi mereka sendiri, dan bersaing tidak hanya dalam kelancaran tetapi juga dalam kepercayaan.

Itulah cara kita memutus siklus informasi beracun dan membangun AI yang mencerminkan visi kebenaran yang positif-sum dan terdesentralisasi. Tanpa atribusi yang dapat diverifikasi dan reputasi terdesentralisasi, kita akan selalu terjebak mengalihdayakan “kebenaran” ke platform terpusat, dan kita akan selalu rentan terhadap manipulasi.

Dengan mereka, kita akhirnya dapat melampaui otoritas yang saling menguntungkan dan menuju sistem di mana kebenaran muncul secara dinamis, tangguh, dan — yang paling penting — bersama-sama.

Billy Luedtke

Billy Luedtke telah membangun di garis depan blockchain sejak Bitcoin pada tahun 2012 dan Ethereum pada tahun 2014. Dia membantu meluncurkan praktik konsultasi blockchain EY dan menghabiskan lebih dari lima tahun di ConsenSys membentuk ekosistem Ethereum melalui peran di R&D, Hubungan Pengembang, rekayasa token, dan identitas terdesentralisasi. Billy juga membantu mempelopori identitas yang berdaulat sendiri sebagai Pemimpin Perusahaan di uPort, Co-Chair dari Kelompok Kerja Identitas Digital EEA, dan anggota pendiri dari Yayasan Identitas Terdesentralisasi. Saat ini, dia adalah pendiri Intuition, rantai asli untuk Informasi Keuangan, yang mengubah identitas, klaim, dan reputasi menjadi data yang dapat diverifikasi dan dimonetisasi untuk internet berikutnya.