Yapay Zeka'nın kör noktası: Makineler gerçeği gürültüden ayıramaz

En son AI modellerinin ne kadar zeki hale geldiğine hayran kalıyoruz - ta ki bize tamamen saçmalıklar sunana kadar. İroni gözden kaçmıyor: AI sistemleri daha güçlü hale geldikçe, gerçeği kurgudan ayırt etme yetenekleri mutlaka gelişmiyor. Bazı açılardan, daha da kötüleşiyor.

Özet

• AI, bilgi kusurlarımızı yansıtır. GPT-5 gibi modeller, eğitim verileri duygu uyandırma yerine doğruluğu önceliklendiren viral, etkileşim odaklı içeriklerle kirlenmiş olduğu için zorlanıyor.
• Gerçek artık sıfır toplamlı değil. Birçok “gerçek” bir arada var, ancak mevcut platformlar bilgi akışını merkezileştiriyor, yankı odaları ve hem insanları hem de yapay zekayı besleyen önyargılar yaratıyor.
• Dağıtık atıf döngüyü düzeltir. Kripto ilkelere dayanan, itibar ve kimlik bağlantılı sistemler, doğruluğu ödüllendirebilir, gürültüyü filtreleyebilir ve AI'yi doğrulanabilir, güvenilir verilerle eğitebilir.

OpenAI'nin kendi bulgularını göz önünde bulundurun: şirketin kendi makalesine göre, GPT-4'ün bir versiyonu ( “o3” ) benchmark testlerinde yaklaşık %33 oranında yanıltıcı cevaplar verdi. Daha küçük bir takipçisi ( “o4-mini” ) neredeyse yarı zamanında raydan çıktı. En yeni model olan GPT-5, bu durumu düzeltmesi bekleniyordu ve gerçekten de çok daha az yanıltıcı olduğunu iddia ediyor ( ~%9 ). Yine de birçok deneyimli kullanıcı, GPT-5'in pratikte daha zeka eksikliği gösterdiğini—daha yavaş, daha tereddütlü ve hala sık sık yanlış olduğunu—bulmaktadır ( ayrıca benchmarkların yalnızca bizi bu kadar ileri götürdüğünü kanıtlamaktadır ).

Nillion CTO'su John Woods'un hayal kırıklığı, GPT-5'in piyasaya sürülmesinden sonra ChatGPT'nin 'gerekli olmaktan çöp haline' dönüştüğünü söylediğinde açıkça ifade edildi. Ancak gerçek şu ki, daha gelişmiş modeller gerçek ile gürültü arasındaki ayırımı yapmada giderek daha kötü hale gelecek. Hepsi, sadece GPT değil.

Daha gelişmiş bir yapay zekanın, önceki versiyonlarına göre neden daha az güvenilir hissedebileceği? Bir sebep, bu sistemlerin yalnızca eğitim verileri kadar iyi olması ve verdiğimiz verilerin temelde hatalı olmasıdır. Bugün, bu veriler büyük ölçüde, katılımın doğruluğu geride bıraktığı ve merkezi Gatekeeperların karları maksimize etmek için sinyali gürültüden ayırt edemediği bir bilgi paradigmasından gelmektedir. Bu nedenle, önce veri sorununu çözmeden dürüst bir yapay zeka beklemek naifliktir.

AI, toplu bilgi zehirlenmemizi yansıtıyor

Yüksek kaliteli eğitim verileri, onu oluşturduğumuzdan daha hızlı bir şekilde kayboluyor. Burada döngüsel bir bozulma döngüsü devreye giriyor: AI esas olarak web tabanlı verileri sindiriyor; web, yanıltıcı, doğrulanamaz AI kalıntılarıyla giderek daha fazla kirleniyor; sentetik veriler, bir sonraki nesil modelleri gerçeğe daha da bağlantısız hale getirmek için eğitiyor.

Kötü eğitim setlerinden daha fazlası, çevrimiçi bilgileri nasıl organize edip doğruladığımızın temel mimarisi ile ilgilidir. Dünyanın nüfusunun %65'inden fazlası, etkileşimi maksimize etmek için tasarlanmış sosyal medya platformlarında saatler geçiriyor. Bu nedenle, yanlış bilgilendirmeyi istemeden ödüllendiren algoritmalara, eşi görülmemiş bir ölçekte maruz kalıyoruz.

Yanlış hikayeler daha güçlü duygusal tepkiler tetikler, bu nedenle düzeltici iddialardan daha hızlı yayılırlar. Bu nedenle, en viral içerik - yani, AI eğitim boru hatları tarafından sindirilme olasılığı en yüksek olan - sistematik olarak duyguya karşı doğruluk yönünde yanlıdır.

Platformlar da dikkat üzerinden kazanç sağlar, gerçeklik üzerinden değil. Veri yaratıcıları, doğruluk değil, viral olma için ödüllendirilir. AI şirketleri, gerçeklik doğruluğu değil, kullanıcı memnuniyeti ve etkileşim için optimize edilir. Ve sohbet robotları için ‘başarı’, kullanıcıları mantıklı görünen yanıtlarla bağlı tutmaktır.

Bunu söylemekle birlikte, AI'nın veri/güven krizi, aslında bizim kolektif insan bilincimizin devam eden zehirlenmesinin bir uzantısıdır. AI'ya, kendimizin tükettiği verileri veriyoruz. AI sistemleri, gerçeği gürültüden ayırt edemez, çünkü biz kendimiz de ayırt edemiyoruz.

Sonuçta, gerçek bir uzlaşıdır. Bilgi akışını kontrol edenler, ortaklaşa ‘gerçek’ olarak algıladığımız anlatıları da kontrol ederler, bu anlatılar yeterince tekrarlandığında. Ve şu anda, bir grup büyük şirket gerçeğin iplerini elinde tutuyor, bireyler olarak biz değiliz. Bu değişebilir. Değişmeli.

Doğru AI'nın ortaya çıkması pozitif toplamlı bir oyundur

Bunu nasıl düzeltiriz? Bilgi ekosistemimizi — ve dolayısıyla, yapay zekayı — gerçeğe doğru nasıl hizalarız? Her şeyden önce, gerçeğin nasıl yaratıldığını ve sürdürüldüğünü yeniden hayal etmekle başlıyor.

Mevcut durumda, gerçeği çoğunlukla en yüksek sesle konuşan veya en yüksek otoriteye sahip olanın belirlediği sıfır toplamlı bir oyun olarak ele alıyoruz. Bilgi, bölümlere ayrılmış ve sıkı bir şekilde kontrol altında; her platform veya kurum kendi gerçeklik versiyonunu dayatıyor. Bir AI ( veya bu bölmelerden birine sıkışmış bir kişi ) dar ve önyargılı bir dünya görüşüyle sonuçlanıyor. İşte bu nedenle yankı odaları oluşuyor ve hem insanlar hem de AI nasıl yanıltıldığını görüyor.

Ama hayattaki birçok gerçek ikili, sıfır toplamlı öneriler değildir. Aslında, en anlamlı gerçeklerin çoğu pozitif toplamdır - bir arada var olabilirler ve birbirini tamamlayabilirler. New York'taki en “iyi” restoran hangisi? Tek bir doğru cevap yoktur ve işte bu güzellik: gerçek, senin zevkine, bütçene, ruh haline bağlıdır. Benim favori şarkım, bir caz klasiği olması, senin favori pop marşını senin için daha az “gerçek” yapmaz. Bir kişinin anlayıştaki kazanımı, diğerinin kaybı anlamına gelmek zorunda değildir. Perspektiflerimiz birbirini geçersiz kılmadan farklı olabilir.

İşte bu nedenle doğrulanabilir atıf ve itibar ilkeleri bu kadar kritik. Gerçek, yalnızca bir iddianın içeriğiyle ilgili olamaz — bunu yapan kişinin kim olduğu, teşviklerinin ne olduğu ve geçmiş kayıtlarının nasıl olduğu ile ilgili olmalıdır. Eğer çevrimiçi her iddia, açık bir yazar zinciri ve canlı bir itibar puanı taşısaydı, gürültü arasında kaybolmadan merkezi moderatörlere kontrol vermeden sift edebilirdik. Kötü niyetli bir aktör, yanlış bilgi yaymaya çalışırken her yanlış iddia ile itibarı düşecekti. Uzun bir doğruluk geçmişine sahip düşünceli bir katkıda bulunan ise itibarının — ve etkisinin — yükseldiğini görecekti.

Kripto, bunu çalıştırmak için bize yapı taşları sunuyor: merkeziyetsiz tanımlayıcılar, token ile düzenlenmiş kayıtlar, staking mekanizmaları ve doğruluğu ekonomik bir mala dönüştüren teşvik yapıları. Her ifadenin doğrulanabilir bir kimliğe bağlı olduğu, her perspektifin bir itibar puanı taşıdığı ve her gerçek iddianın bir açık sistemde sorgulanabileceği, stake edilebileceği ve yargılanabileceği bir bilgi grafiğini hayal edin. O dünyada, gerçeklik tek bir platformdan verilmez — organik olarak, atfedilmiş, itibar ağırlıklı seslerin bir ağından ortaya çıkar.

Böyle bir sistem, teşvik manzarasını tersine çevirir. İçerik üreticileri doğruluğu pahasına viral olmayı kovalamak yerine, katkılarının geçerliliği üzerine itibarlarını -ve çoğu zaman somut tokenları- yatıracaklardır. AI, anonim veriler üzerinde eğitim almak yerine, doğruluk ve güvenilirliğin bilginin kendisine entegre edildiği atıf yapılmış, itibar ağırlıklı veriler üzerinde eğitim alacaktır.

Şimdi bu bağlamda AI'yi düşünün. Böyle bir itibar farkındalığına sahip grafikte eğitilen bir model, çok daha temiz bir sinyal tüketecektir. Sadece en viral iddiayı tekrar etmekle kalmayacak; aynı zamanda atıf ve güvenilirliği hesaba katmayı öğrenecektir. Zamanla, ajanlar kendileri bu sisteme katılabilir - çıktılarının üzerine stake yaparak, kendi itibarlarını inşa ederek ve sadece güzellikte değil, güvenilirlikte de rekabet ederek.

Bu şekilde zehirlenmiş bilgilere dair döngüyü kırar ve olumlu toplam, merkeziyetsiz bir gerçeklik vizyonunu yansıtan yapay zeka inşa ederiz. Doğrulanabilir atıf ve merkeziyetsiz itibar olmadan, her zaman “gerçekliği” merkezi platformlara dışsallaştırmak zorunda kalırız ve her zaman manipülasyona karşı savunmasız oluruz.

Onlarla birlikte, nihayet sıfır toplamlı otoriteden çıkıp, gerçeğin dinamik, dayanıklı ve - en önemlisi - birlikte ortaya çıktığı bir sisteme geçebiliriz.

Billy Luedtke

Billy Luedtke, 2012'de Bitcoin ve 2014'te Ethereum ile blockchain'in sınırlarında çalışmaya başladı. EY'nin blockchain danışmanlık pratiğini başlatmasına yardımcı oldu ve Ethereum ekosistemini R&D, Geliştirici İlişkileri, token mühendisliği ve merkeziyetsiz kimlik alanlarında şekillendirmek için ConsenSys'te beş yıldan fazla zaman geçirdi. Billy, aynı zamanda uPort'ta Kurumsal Lider olarak, EEA'nın Dijital Kimlik Çalışma Grubu'nun Eş Başkanı olarak ve Merkeziyetsiz Kimlik Vakfı'nın kurucu üyesi olarak kendi kendine yeterli kimlik kavramının öncülerinden biri oldu. Bugün, Bilgi Finansmanı için yerel zincir olan Intuition'ın kurucusudur ve kimlikleri, talepleri ve itibarı, bir sonraki internet için doğrulanabilir, gelir getirici verilere dönüştürmektedir.