Yapay Zekâ İmparatorlukları

1       Yapay Zekâ İmparatorlukları

Karen How’un “Yapay Zekâ İmparatorlukları” (Empire of AI) adlı kitabı, OpenAI gibi yapay zekâ şirketlerinin günümüz dünyasında yeni nesil imparatorluklar olarak anlaşılması gerektiğini savunmaktadır. Bu şirketler, eski çağların imparatorluklarıyla benzer özelliklere sahiptir ve Silikon Vadisi’nin yapay zekâ geliştirme vizyonunu eleştiren kapsamlı bir analiz sunmaktadır.

Bu makaleyi Spotify’da sesli olarak dinlemek için podcast’ine bu linkten ulaşabilirsiniz.

İşte “Yapay Zekâ İmparatorluğu” kavramının ve özelliklerinin detayları:

1.1       Yapay Zekâ İmparatorluğu Kavramları

• Kendilerine Ait Olmayan Kaynaklara El Koyma (Veri Sömürüsü): Yapay zekâ şirketleri, internetten kazıdıkları verileri “kamuya açık” olduğu gerekçesiyle sahiplenmektedir. Ancak birçok kişi, verilerini internete koyarken bu verilerin yapay zekâ modellerini eğitmek ve gelecekteki ekonomik fırsatlarını sınırlamak amacıyla kullanılacağına dair bilgilendirilmiş onay vermemiştir. Ayrıca, yapay zekâ modellerinin hangi verilerle eğitileceğine dair kritik kararlar (örneğin pornografik görseller üzerinde eğitim), halka veya uzmanlara danışılmadan şirketler tarafından tek başına alınmaktadır ve bu kararlar sentetik çocuk cinsel istismarı materyali oluşturma potansiyeli gibi ciddi sonuçlar doğurabilmektedir.
• İşgücü Sömürüsü: Yapay zekâ şirketleri, özellikle Küresel Güney’de, veri etiketleme, veri açıklaması ve içerik denetimi gibi görevler için işçilerle sözleşme yapmaktadır. Bu işçiler saatte 2 dolar gibi son derece sömürücü koşullarda, psikolojik olarak toksik işler yapmaktadır. OpenAI’nin yapay genel zekâ (AGI) tanımı, “insanları çoğu ekonomik değeri olan işte geride bırakacak yüksek otonom sistemler” yaratmaktır. Bu, yapay zekâ tedarik zincirinin yanı sıra, yapay zekâ gelişiminin sonuçlarının da işgücünü sömürmeyi hedeflediği anlamına gelmektedir.
• Bilgi Üretiminin Tekelleşmesi: Yapay zekâ araştırmacılarının akademiden veya bağımsız kurumlardan yapay zekâ şirketlerine kaymasıyla bilgi üretiminde bir tekel oluşmuştur. Bu durum, teknolojinin nasıl çalıştığı ve sınırlamaları hakkında kamuoyunun anlayışını sağlayacak araştırmaların, şirketlerin çıkarları doğrultusunda filtrelenmesine yol açmaktadır. Kapalı kaynak ve şeffaflık eksikliği, bağımsız araştırmacıların modelleri ve veri kümelerini incelemesini engellemekte, bu da yapay zekâ modeli değerlendirmelerinin “sahte” olmasına yol açmaktadır, çünkü modellerin sadece ezberleyip ezberlemediğini veya gerçekten yeni yetenekler geliştirip geliştirmediğini doğrulamak mümkün olmamaktadır.
• “İyi İmparatorluk” Anlatısı: İmparatorlukların bir özelliği olarak, “iyi bir imparatorluk” ve “kötü imparatorluklar” olduğu anlatısı benimsenir. “İyi imparatorluk” kendi eylemlerini, nihayetinde tüm insanlığa ilerleme ve modernlik getirecek bir “uygarlaştırma misyonu” ile gerekçelendirir. OpenAI’nin “AGI’nin tüm insanlığa fayda sağlamasını sağlamak” misyonu, netlikten yoksun olması ve şirket içinde bile “sağlamak”, “AGI” veya “tüm insanlığın faydası” kelimeleri üzerinde bir anlaşma olmaması nedeniyle imparatorluk inşa etmenin bir aracı haline gelmektedir. Bu, çalışanlar ve yöneticiler tarafından kişisel hedeflerinin post-rasyonalizasyonu olarak kullanılmaktadır.

1.2       OpenAI’nin İmparatorluklaşma Süreci

OpenAI’nin İmparatorluklaşma Süreci bu tez için somut bir örnektir:

• Kuruluş ve İlk Misyon: OpenAI, Sam Altman ve Elon Musk tarafından başlangıçta kâr amacı gütmeyen bir kuruluş olarak, kamu yararına yapay zekâ geliştirmek amacıyla kurulmuştur. Musk, yapay zekânın kâr odaklı bir ortamda geliştirilmesinden endişe duyuyordu ve Google’ın yapay zekâ yetenekleri üzerindeki tekelini dengelemek istiyordu.
• “Ne Pahasına Olursa Olsun Ölçeklenme” Yaklaşımı: Şirket, yapay zekâ gelişiminde lider olmak için mevcut teknikleri agresif bir şekilde ölçeklendirme yaklaşımını benimsemiştir: daha fazla veri kullanmak, daha büyük süper bilgisayarlar eğitmek. Bu strateji, yetenek darboğazını sermaye darboğazına dönüştürmüştür.
• Kâr Amacına Geçiş: Gerekli on milyarlarca dolarlık sermayeyi artırmak için OpenAI, kâr amacı gütmeyen yapısının içine bir kâr amacı güden birim yerleştirmiştir. Başlangıçta “sınırlı kârlı” (capped profit) bir modelle yatırımcılara %100’e varan getiri vaat edilmiştir.
• Sam Altman’ın Kovulması ve Geri Dönüşü: OpenAI yönetim kurulunun Sam Altman’ı görevden alması, “boomerlar” (ütopik AGI inancı) ve “doomerlar” (felaket senaryosu inancı) arasındaki ideolojik çatışmayı gözler önüne sermiştir. Yönetim kurulu, Altman’ın “gerçekle gevşek ilişkisi” ve güvenlik kontrollerini atlama çabaları nedeniyle endişeliydi. Bu durum, yatırımcıların, hisse ihalesi gibi önemli ekonomik çıkarlar söz konusu olduğunda, geleneksel bir kâr amacı güden yönetim kurulu oluşturulması yönünde baskı yapmasına yol açmıştır.
• Anahtar İsimlerin Ayrılması: Elon Musk (XAI), Dario Amodei (Anthropic) ve diğer birçok eski OpenAI yöneticisi, kendi yapay zekâ vizyonlarını hayata geçirmek için ayrı şirketler kurmuşlardır. Bu, kişisel çatışmaların ve ideolojik farklılıkların, yapay zekâ gelişiminin geleceğini kendi “imajlarında” şekillendirme arzusuyla birleştiğini göstermektedir.

1.3       Çevresel ve Toplumsal Sonuçlar

“Ne Pahasına Olursa Olsun Ölçeklenme” Yaklaşımının Çevresel ve Toplumsal Sonuçları: Bu imparatorluklaşma yaklaşımı ciddi çevresel ve toplumsal bedelleri beraberinde getirmektedir:

• Çevresel Etkiler:
  • Devasa Enerji Tüketimi: Önümüzdeki 5 yıl içinde yapay zekâ sistemlerini desteklemek için tüm Kaliforniya eyaletinin enerji talebinin iki ila altı katı kadar ek enerjiye ihtiyaç duyulacaktır.
  • Fosil Yakıt Bağımlılığı: Bu enerji ihtiyacı büyük olasılıkla doğalgazla karşılanacak, bu da yapay zekâ gelişiminin fosil yakıtlara olan bağımlılığını artıracaktır.
  • Kömür Santrallerinin Uzatılması: Veri merkezi genişlemeleri, emekliye ayrılması planlanan kömür santrallerinin çalışma sürelerinin uzatılmasına yol açmaktadır.
  • Hava Kirliliği: XAI’nin Grok sohbet robotunu eğittiği Colossus süper bilgisayarı, 36 ruhsatsız metan gazı enerji santrali tarafından desteklenmekte ve bölgeye binlerce ton hava kirliliği pompalamaktadır.
• Toplumsal Etkiler:
  • Demokrasinin Aşınması ve Eylemsizlik Kaybı: İnsanların büyük çoğunluğu, kendi geleceklerini belirleme yetenekleri üzerinde tam bir eylemsizlik kaybı hissetmeye başlamaktadır. Bu umutsuzluk hali demokrasinin ölümü anlamına gelmektedir.
  • Tekno-Otoriterizm: Silikon Vadisi şirketleri, platformlarının nasıl geliştirileceği veya teknolojilerinin nereye konuşlandırılacağı konusunda kimsenin katılımını talep etmemektedir. Bu durum, dünya genelinde liberalizmin yavaş yavaş çözülmesine ve daha otoriter teknolojilerin ortaya çıkmasına neden olmaktadır.
  • Katılımcı Gelişimin Eksikliği: Yapay zekâ modellerine hangi verilerin dahil edileceği, veri merkezlerinin nereye kurulacağı gibi önemli kararlar, kamuoyuna veya uzmanlara danışılmadan şirketler tarafından tek başına alınmaktadır.

1.4       Etik Yapay Zekâ Gelişimi ve Halkın Rolü

Etik Yapay Zekâ Gelişimi ve Halkın Rolü: Karen How, bu “ne pahasına olursa olsun ölçeklenme” yaklaşımının terk edilerek daha katılımcı bir yapay zekâ gelişimine geçilmesi gerektiğini savunmaktadır.

• Katılımcı Gelişim: Yapay zekânın tüm tedarik zinciri boyunca (veri kullanımı, içerik denetimi, veri merkezi yerleşimi vb.) daha katılımcı bir yaklaşım benimsenmelidir.
• Veriler Üzerinde Toplumsal Tartışma: Yapay zekâ modellerinin eğitildiği veriler, bireysel veya kolektif mülkiyettedir. Bu verilerin kullanımı hakkında halka ve uzmanlara danışılmalıdır.
• Bilgi Üretiminin Tekelleşmesinin Aşılması: Açık kaynak modellere ve kurumsal imparatorluklar dışındaki akademik, küçük kar amacı gütmeyen kuruluşlar ve küçük şirketlere daha fazla araştırma fonu sağlanmalıdır. İnsan hakları, işçi hakları ve eğitim örgütleri de yapay zekâ gelişimine dahil edilmelidir.
• Halkın Aktif Rolü: How’a göre, bu tartışmalara “herkes” liderlik etmelidir. Herkes, kendi alanlarında ve bağlı olduğu kurumlarda yapay zekânın gelişimini şekillendirmeye nasıl katkıda bulunabileceği konusunda sorumluluk almalıdır. Şili’deki su aktivistlerinin Google’ın veri merkezine karşı verdiği mücadele, kaynaklar üzerindeki kolektif mülkiyeti savunmanın gücünü göstermektedir.
• Yeni Vizyonlar Yaratmak: Küçük yapay zekâ girişimleri, büyük şirketlerle ölçekli modellerde rekabet etmek yerine, daha dar kapsamlı ve spesifik bilimsel süreçlere odaklanmış yeni yapay zekâ vizyonları (malzeme bilimi keşfi, bilim için yapay zekâ, dayanıklı enerji sistemleri, sağlık hizmetleri) geliştirmelidir.

1.5       Küresel Bakış Açısı ve İdeolojiler

• “Boomerlar” ve “Doomerlar”: How, AGI’nin ütopya (“boomerlar”) veya kıyamet (“doomerlar”) getireceğine inanan bu iki grubun, “ne pahasına olursa olsun ölçeklenme” söylemine el ele katkıda bulunduğunu belirtmektedir. Her iki taraf da teknoloji üzerinde liderliği ve kontrolü sürdürme ihtiyacını vurgulamaktadır.
• Çin ve Regülasyon: ABD’deki yaygın algının aksine, Çin aslında AB’den sonra en fazla yapay zekâ mevzuatını ve düzenlemesini uygulayan ülkedir. Bu, ABD şirketlerinin düzenlemeleri engellemek için “Çin kartını” (the China Card) kullanmasının argümanındaki temel bir kusurdur.
• İnsan Psikolojisinin Rolü: Joseph Weizenbaum’un Eliza chatbot’u örneğiyle vurgulandığı gibi, dilin insan psikolojisi üzerinde bilinci ilişkilendirme konusunda benzersiz bir gücü vardır. Yapay zekânın aldatıcılığı veya yalan söylemesi, çoğu zaman sistemlere insan niyetini atfetme eğilimimizden kaynaklanmaktadır.

Karen How’un en büyük umudu, yapay zekâ hakkında bu kadar çok insanın konuşuyor olmasıdır; bu yaygın tartışmanın teknolojinin daha geniş çapta faydalı bir versiyonuna yol açacağına inanmaktadır. En büyük korkusu ise, insanların kendi geleceklerini belirleme yetenekleri üzerindeki eylemsizlik duygularını kaybetmeleri ve demokrasinin aşınmasıdır. Halkın, yapay zekânın “malzemeleri” ve dağıtım alanları üzerindeki kolektif mülkiyetini savunması gerektiğini vurgulamaktadır.