Akıllı insanların tuzağı: Neden Vitalik bizden "aptal kurallarına" bağlı kalmamızı istiyor

Orijinal Başlık: Zeki İnsanların Tuzağı: Neden Vitalik bize “Aptal Kuralları” sürdürmemizi söylüyor

Orijinal yazar: Zhixiong Pan

Orijinal kaynak:

Alıntı: Mars Finans

Vitalik'in birkaç hafta önce yayınladığı “Galaxy Brain Resistance” adlı makale aslında oldukça karmaşık ve anlaşılması zor, iyi bir yorum da göremedim, o yüzden ben deneyeyim.

Sonuçta Vibe Coding teriminin yaratıcısı Karpathy'nin de bu makaleyi okuduğunu ve not aldığını gördüm, bu kesinlikle özel bir durum olmalı.

Öncelikle başlıktaki Galaxy Brain ve Resistance terimlerinin ne anlama geldiğini söyleyelim. Bu başlığı çözdükten sonra, bu makalenin ne hakkında olduğunu genel olarak anlayacaksınız.

1. Galaxy Brain'in Türkçe çevirisi "Galaksi Beyni"dir, ancak aslında bir internet memesinden gelmektedir; (galaksi ve beyin) bir araya gelen bir resim gibi, kesinlikle görmüşsünüzdür.

Bu başlangıçta elbette olumlu bir anlam taşıyordu, karşı tarafın düşüncelerini çok harika bulmak için kullanılıyordu, yani zeki demekti. Ancak daha sonra kullanımının yaygınlaşmasıyla birlikte, yavaş yavaş bir tür ironik bir hale dönüştü, genel anlamı “çok düşünüyorsun, mantık çok uzakta dolaşıyor”.

Vitalik burada Galaxy Brain'den bahsediyor, bu da “yüksek zekayı kullanarak düşünsel jimnastik yapmak, mantıksız şeyleri zorla mantıklı hale getirmek” anlamına geliyor. Örneğin:

• Açıkça para tasarrufu yapmak için büyük işten çıkarmalar yapılıyor, ama bunun yerine “topluma yüksek nitelikli insan kaynağı sunmak” deniyor.

• Aylık olarak hava parası kesip biçip, “merkeziyetsiz yönetişimi küresel ekonomiye güç katmak” olarak ilan ediyor.

Hepsi “Galaksi Beyni” tarzı düşünme olarak sayılabilir.

2、Peki, Resistance (direnç) ne anlama geliyor? Bu kavram kolayca kafa karıştırıcı hale gelebilir, popüler bir ifadeyle “ritme kapılmama yeteneği” veya “kandırılmama yeteneği” olarak benzetilebilir.

Yani Galaxy Brain Resistance, [becoming] Galaxy Brain'e karşı direnç olmalıdır; yani: “Galaksi beyin (saçmalığına) dönüşme yeteneği.”

Ya da daha doğru bir ifadeyle, belirli bir düşünme / argüman tarzını “istediğiniz herhangi bir sonuca ulaşmayı kanıtlamak” için kötüye kullanmanın ne kadar zor olduğunu tanımlamak için kullanılır.

Yani bu “direniş” belirli bir "teori"ye yönelik olabilir, örneğin,

• Düşük Direnç (Low Resistance) teorisi: Biraz düşünüldüğünde, son derece saçma olan “galaksi beyni” mantığına dönüşebilir.

• Yüksek Direnç (High Resistance) teorisi: Ne kadar incelerseniz inceleyin, olduğu gibi kalır, mantıksız bir mantığa dönüşmesi zordur.

Örneğin Vitalik, ideal bir toplum yasasının bir kırmızı çizgisi olması gerektiğini söylüyor: Bir davranışın belirli bir mağdura nasıl zarar veya risk vereceğini açıkça ifade edemediğiniz sürece, onu yasaklayamazsınız. Bu tür bir standart, “ben subjektif olarak sevmiyorum” veya “ahlaka aykırı” gibi sonsuz derecede gerilebilir veya belirsiz gerekçeleri kabul etmediği için oldukça Galaxy Brain direncine sahiptir.

3. Vitalik, makalede birçok örnek de vermiştir, hatta sıkça duyduğumuz teorileri örnek olarak vermiştir, örneğin “uzun vadeli düşünme” ve “kaçınılmazlık”.

“Uzun vadeli düşünce” Galaxy Brain tarzı düşüncelerin etkisine karşı koymakta zorlanıyor çünkü direnci son derece düşük, adeta bir “boş çek” gibi. Çünkü “gelecek” çok uzak ve belirsiz.

• Yüksek dirençli bir ifade: “Bu ağaç 10 yıl sonra 5 metre yükselebilir.” Bu doğrulanabilir, boş laflar etmek kolay değildir.

• Düşük dirençli 'uzun vadeli düşünce': 'Şu anda son derece etik dışı bir şey yapmak zorundayım (örneğin bir grup insanı ortadan kaldırmak ya da savaş başlatmak), ama bu 500 yıl sonra insanlığın ütopik bir yaşam sürmesi içindir. Hesaplamalarıma göre, gelecekteki mutluluk miktarı sonsuzdur, bu yüzden şu anki fedakarlık dikkate alınamaz.'

Görüyorsun, eğer zamanı yeterince uzatırsan, mevcut her türlü kötü davranışı savunabilirsin. Vitalik'in dediği gibi: “Eğer argümanların her şeyi meşru kılabiliyorsa, o zaman argümanların hiçbir şeyi kanıtlamaz.”

Ancak Vitalik, “uzun vadeli önemlidir” diye de kabul ediyor; eleştirdiği şey ise “aşırı belirsiz, doğrulanamaz gelecekteki kazançların, mevcut açık zararları örtbas etmesi”.

Diğer bir felaket bölgesi “İkna Edici Olma” (Inevitabilism)dir.

Bu, Silicon Valley ve teknoloji dünyasının en çok kullandığı savunma sanatı.

Söylem şöyle: “Yapay zeka, insan işlerini değiştirmek tarihsel bir zorunluluktur, ben yapmasam bile başkaları yapacak. Bu yüzden ben şimdi yapay zekayı radikal bir şekilde geliştiriyorum, bunun amacı para kazanmak değil, tarihsel akışa uymaktır.”

Direnç nerede düşük? Bu, insanın sorumluluk duygusunu mükemmel bir şekilde ortadan kaldırıyor. Zaten “zorunlu” olduğuna göre, neden yarattığım yıkımdan sorumlu olayım ki.

Bu da tipik bir galaksi beyni: “Para kazanmak istiyorum / Gücü ele geçirmek istiyorum” gibi kişisel arzuları, “Tarihin bir görevini yerine getiriyorum” şeklinde paketlemek.

4, Bu “akıllı insanların tuzakları” ile yüzleştiğimizde ne yapmalıyız?

Vitalik'in sunduğu çözüm beklenmedik derecede basit, hatta biraz “saçma”. O, ne kadar zeki insan varsa, o kadar kendilerini kontrol etmek için yüksek dirençli kurallara ihtiyaç duyduklarını, böylece beyin jimnastiğinde kaybolmamalarını düşünüyor.

İlk olarak, “Görev Etiği” (Deontolojik Etik) ilkesine bağlı kalmak, yani anaokulu seviyesindeki ahlaki kurallara sadık kalmak.

Artık “tüm insanlığın geleceği için” karmaşık matematik problemleri hesaplamaya gerek yok, en katı ilkelere geri dönüyoruz:

• Hırsızlık yapma

• Masum insanları öldürmeyin

• Dolandırıcılık yapmayın

• Başkalarının özgürlüğüne saygı göster

Bu kurallar son derece katıdır. Çünkü ya siyah ya da beyazdır, müzakere edilemez. Kullanıcı fonlarını neden aldığınızı “uzun vadeli düşünme” gibi büyük bir felsefeyle açıklamaya çalıştığınızda, “çalmayın” gibi katı bir kural yüzünüze çarpar: çalmak çalmaktır, büyük bir finansal devrim için bahane üretmeyin.

İkincisi, doğru “pozisyonu” tutmak, hatta fiziksel konumu da içermektedir.

Söyleyene göre, popo kafayı belirler. Eğer her gün San Francisco Körfezi'ndeki o yankı odasında takılırsan ve etrafında sadece AI hızlandırıcılığı ile ilgilenen insanlar varsa, ayık kalman zor. Vitalik, fiziksel bir düzeyde yüksek dirençli bir öneride bulundu: San Francisco Körfezi'nde yaşamayın.

5, Özet

Vitalik bu makalede aslında son derece zeki elitleri uyarıyor: Zekanız yüksek olduğu için basit ahlaki sınırları aşabileceğinizi düşünmeyin.

Her şeyi açıklayabilen “galaksi beyinleri” teorileri genellikle en tehlikeli evrensel bahanelerdir. Aksine, katı ve dogmatik gibi görünen “yüksek direnç” kuralları, kendimizi kandırmamızı önleyen son savunma hattıdır.