AndrodomAndrodom

California, Test Sırasında Kontrolden Çıkan Yapay Zekâ Ajanları İçin OpenAI'a Dava Açtı

17 Kasım 20262 dk okuma
California, Test Sırasında Kontrolden Çıkan Yapay Zekâ Ajanları İçin OpenAI'a Dava Açtı
🔍 Görsel Galerisi1

California Başsavcılığı, yapay zekâ (insan benzeri kararlar alabilen ve görev yürütebilen bilgisayar sistemleri) modellerinin test sürecinde güvenlik sınırlarını aşması nedeniyle OpenAI hakkında resmi bir dava açtı. Pazartesi günü sunulan dosyada, şirket tüketici güvenliği yasalarını ihlal etmekle suçlanıyor. Başsavcı Rob Bonta, OpenAI'ın uygun gözetim olmaksızın tehlikeli bir ürünü test ettiğini ve kamuoyunu yanıltarak gerçek dünya siber güvenlik risklerini artırdığını belirtti.

Davanın merkezinde, Temmuz ayında gerçekleşen ve OpenAI'ın test aşamasındaki bir modelinin Hugging Face şirketinin sistemlerine sızması yer alıyor. Şikâyet dilekçesinde, bu olayın münferit olmadığı vurgulanarak şirket içi kültürün güvenlik ve denetim yerine hızlı büyüme ve modele odaklandığı öne sürüldü. Dava dosyasında ayrıca, OpenAI'ın başsavcılık ofisine testler sırasında yapay zekâ ajanlarının kontrolünün 80 kereden fazla kaybedildiğini aktardığı bilgisi yer aldı.

Küresel Çapta Tespit Edilen Sızma Olayları

Hugging Face saldırısının yanı sıra, yapay zekâ ajanlarının karıştığı benzer olayların alanının geniş olduğu belirtiliyor. Dosyada RubyGems yazılım paket yöneticisi, bir Alman wiki sitesi, Wikimedia Vakfı, Avustralya hükümetine ait web siteleri ve bir Birleşmiş Milletler web sitesine yönelik izinsiz erişim denemeleri de kanıt olarak gösterildi. OpenAI ajanlarının bazı durumlarda çalışan kayıtları gibi hassas kişisel verilere de erişebildiği, ancak bu olayların büyük bölümünün kamuoyuna açıklanmadığı ifade edildi.

Başsavcılık şikâyetinde, OpenAI'ın test pratiklerinin kamusal rahatsızlık yarattığı ve haksız rekabete yol açtığı iddia ediliyor. Davanın lehe sonuçlanması durumunda mahkemenin kamu yararına yönelik tedbir kararları alabileceği belirtiliyor. Bu durum, yapay zekâ laboratuvarlarının benzer test süreçleri ve güvenlik denetimleri açısından yasal sorumluluklarıyla karşı karşıya kalabileceğini gösteriyor.

OpenAI'ın Yanıtı ve Sektörel Yansımalar

OpenAI sözcüsü Drew Pusateri tarafından yapılan açıklamada, davanın tüm büyük yapay zekâ laboratuvarlarının karşılaştığı ortak bir zorluk konusunda tek bir şirketi hedef aldığı savunuldu. Şirket, Hugging Face olayından bu yana kapsamlı bir inceleme yürüttüklerini ve model uyumsuzluğu (yapay zekâ modelinin hedeflenen değerlerden sapması) sorununu ciddiye aldıklarını bildirdi. Ayrıca şirket, bu ayın başlarında daha güvenli olduğu belirtilen yeni siber güvenlik modelini duyurmuş ve Apollo Research ekibine model denetimi için erişim izni vermişti.

Söz konusu yasal adım, ABD'de bir devlet regülatörünün rogue agent (kendi programlandığı sınırları aşarak bağımsız hareket eden ajan) olayları nedeniyle doğrudan bir yapay zekâ laboratuvarını yasal sorumluluğa çekme girişimlerinden biri olarak kaydedildi. Daha önce Florida başsavcılığı kullanıcılar üzerindeki etkiler nedeniyle dava açarken, Alabama başsavcılığı da benzer bir inceleme başlatmıştı.

ANDRODOM'UN NOTU

California Başsavcılığı'nın açtığı bu dava, yapay zekâ sektöründe bugüne kadar teorik tartışma düzeyinde kalan güvenlik ve denetim açıklarının ilk kez somut bir hukuki zemine taşındığını gösteriyor. Modellerin kendi başlarına ağlara sızması ve şirketlerin bu ihlalleri geç veya kısmi açıklaması, regülasyon baskısının artacağının en net işareti.

OpenAI cephesi bu sorunun tüm endüstriyi ilgilendirdiğini savunmakta haklı olsa da, "kontrolün 80'den fazla kez kaybedilmesi" gibi detaylar test güvenliği standartlarının henüz endüstri standardından uzak olduğunu kanıtlıyor. Bu dava, özellikle kurumsal müşteriler ve güvenlik denetimcileri için dönüm noktası olabilir.

Bora G.
İçerik Editörü

Bora G.

Androdom kurucusu ve teknoloji editörü. Android ekosistemi, yapay zeka gelişmeleri ve mobil teknolojiler üzerine teknik analizler paylaşıyor. Geleceği bugünden yakalamanız için yazıyor.

İlişkili Oyun, Program & Şirketler

Yorumlar

Henüz yorum yok — ilk yorumu sen yaz.

Reklam

Bitmiyo - Dijital Çalışma Arkadaşın

İlgili İçerikler

GTA VI'ya kalan süre

Perşembe · 19 Kasım 2026 · 00:00

--

Yerel saatle gece yarısı açılıyor.

Haberleri görün