Washington’da yapay zeka yönetimine dair belirsizlikler sürerken, farklı siyasi görüşlerden düşünür ve uzmanların oluşturduğu bir koalisyon, sorumlu yapay zeka geliştirme süreçleri için Pro-Human AI Declaration (İnsan Odaklı Yapay Zeka Bildirisi) adlı yeni bir yol haritası yayımladı. MIT fizikçisi ve yapay zeka araştırmacısı Max Tegmark liderliğinde hazırlanan belge, denetlenmeyen bir süper zeka yarışına karşı toplumun ve uzmanların ortak endişelerini yansıtıyor.
Yol Ayrımı: "Değiştirme Yarışı" mı, İnsan Odaklılık mı?
Yayımlanan bildiri, insanlığın bir yol ayrımında olduğunu vurguluyor. Bildiriye göre, "değiştirme yarışı" olarak adlandırılan ilk yol; insanların önce iş gücü, ardından karar verici pozisyonlardan uzaklaştırıldığı ve gücün hesap verilemez kurumlara geçtiği bir geleceği temsil ediyor. İkinci yol ise yapay zekanın insan potansiyelini genişlettiği bir yapıyı öngörüyor.
İnsan odaklı bir gelecek senaryosu şu beş temel sütun üzerine inşa ediliyor:
- İnsan Kontrolü: Karar alma süreçlerinde insanın merkezde kalması.
- Güç Konsantrasyonunun Önlenmesi: Teknolojik gücün sadece belirli kurumların elinde toplanmaması.
- İnsan Deneyiminin Korunması: Yapay zekanın insani değerleri ve yaşam biçimini tehdit etmemesi.
- Bireysel Özgürlük: Kişisel hak ve özgürlüklerin yapay zeka müdahalelerine karşı korunması.
- Yasal Sorumluluk: Yapay zeka şirketlerinin geliştirdikleri sistemlerden hukuki olarak sorumlu tutulması.
Süper Zeka İçin "Fren" Önerisi
Bildiride yer alan dikkat çekici maddelerden biri, güvenliğine dair bilimsel bir fikir birliği ve demokratik onay oluşana kadar süper zeka geliştirmelerinin durdurulması çağrısıdır. Ayrıca, güçlü sistemler için zorunlu "kapatma düğmeleri" (off-switches) ve kendi kendini kopyalayabilen veya kapatılmaya direnç gösteren mimarilerin yasaklanması talep ediliyor.
Pentagon ve Teknoloji Devleri Arasındaki Gerilim
Bildirinin yayımlanması, ABD Savunma Bakanlığı ile Anthropic ve OpenAI gibi devler arasında yaşanan krizle aynı döneme denk geldi. Pentagon’un, teknolojisini sınırsız kullanıma açmayan Anthropic’i "tedarik zinciri riski" olarak tanımlaması ve hemen ardından OpenAI ile yeni bir anlaşma yapması, yapay zeka üzerindeki kontrolün ne kadar kritik bir mesele haline geldiğini gösteriyor. Max Tegmark, bu durumu ilaç sektöründeki denetimlere benzeterek, FDA (Amerikan Gıda ve İlaç Dairesi) onay vermeden hiçbir ilacın piyasaya sürülmediğini, yapay zekada da benzer bir güvenlik test sürecinin şart olduğunu savunuyor.
Geniş Katılımlı ve Bipartizan Destek
Bildirinin en dikkat çekici yönlerinden biri de imzacıların siyasi çeşitliliği. Eski Trump danışmanı Steve Bannon’dan, Obama dönemi Ulusal Güvenlik Danışmanı Susan Rice’a kadar pek çok farklı profil aynı belgede buluştu. Tegmark, bu durumu "Hangi tarafta olurlarsa olsunlar, hepsinin ortak noktası insan olmalarıdır" sözleriyle özetliyor.
Androdom'un Notu
Pro-Human AI Bildirisi, yapay zekanın sadece teknik bir gelişim değil, toplumsal bir güvenlik meselesi olduğunu bir kez daha kanıtlıyor. Pentagon ile teknoloji şirketleri arasındaki güç savaşı, devletlerin bu teknolojiyi dizginleme konusundaki çaresizliğini gösterirken; uzmanların sunduğu bu yol haritası, gelecekteki olası yasal düzenlemelerin temelini oluşturabilir.
Yorumlar
Yorum Gönder