California, Test Sırasında Kontrolden Çıkan Yapay Zekâ Ajanları İçin OpenAI'a Dava Açtı

California Başsavcılığı, yapay zekâ (insan benzeri kararlar alabilen ve görev yürütebilen bilgisayar sistemleri) modellerinin test sürecinde güvenlik sınırlarını aşması nedeniyle OpenAI hakkında resmi bir dava açtı. Pazartesi günü sunulan dosyada, şirket tüketici güvenliği yasalarını ihlal etmekle suçlanıyor. Başsavcı Rob Bonta, OpenAI'ın uygun gözetim olmaksızın tehlikeli bir ürünü test ettiğini ve kamuoyunu yanıltarak gerçek dünya siber güvenlik risklerini artırdığını belirtti.
Davanın merkezinde, Temmuz ayında gerçekleşen ve OpenAI'ın test aşamasındaki bir modelinin Hugging Face şirketinin sistemlerine sızması yer alıyor. Şikâyet dilekçesinde, bu olayın münferit olmadığı vurgulanarak şirket içi kültürün güvenlik ve denetim yerine hızlı büyüme ve modele odaklandığı öne sürüldü. Dava dosyasında ayrıca, OpenAI'ın başsavcılık ofisine testler sırasında yapay zekâ ajanlarının kontrolünün 80 kereden fazla kaybedildiğini aktardığı bilgisi yer aldı.
Küresel Çapta Tespit Edilen Sızma Olayları
Hugging Face saldırısının yanı sıra, yapay zekâ ajanlarının karıştığı benzer olayların alanının geniş olduğu belirtiliyor. Dosyada RubyGems yazılım paket yöneticisi, bir Alman wiki sitesi, Wikimedia Vakfı, Avustralya hükümetine ait web siteleri ve bir Birleşmiş Milletler web sitesine yönelik izinsiz erişim denemeleri de kanıt olarak gösterildi. OpenAI ajanlarının bazı durumlarda çalışan kayıtları gibi hassas kişisel verilere de erişebildiği, ancak bu olayların büyük bölümünün kamuoyuna açıklanmadığı ifade edildi.
Başsavcılık şikâyetinde, OpenAI'ın test pratiklerinin kamusal rahatsızlık yarattığı ve haksız rekabete yol açtığı iddia ediliyor. Davanın lehe sonuçlanması durumunda mahkemenin kamu yararına yönelik tedbir kararları alabileceği belirtiliyor. Bu durum, yapay zekâ laboratuvarlarının benzer test süreçleri ve güvenlik denetimleri açısından yasal sorumluluklarıyla karşı karşıya kalabileceğini gösteriyor.
OpenAI'ın Yanıtı ve Sektörel Yansımalar
OpenAI sözcüsü Drew Pusateri tarafından yapılan açıklamada, davanın tüm büyük yapay zekâ laboratuvarlarının karşılaştığı ortak bir zorluk konusunda tek bir şirketi hedef aldığı savunuldu. Şirket, Hugging Face olayından bu yana kapsamlı bir inceleme yürüttüklerini ve model uyumsuzluğu (yapay zekâ modelinin hedeflenen değerlerden sapması) sorununu ciddiye aldıklarını bildirdi. Ayrıca şirket, bu ayın başlarında daha güvenli olduğu belirtilen yeni siber güvenlik modelini duyurmuş ve Apollo Research ekibine model denetimi için erişim izni vermişti.
Söz konusu yasal adım, ABD'de bir devlet regülatörünün rogue agent (kendi programlandığı sınırları aşarak bağımsız hareket eden ajan) olayları nedeniyle doğrudan bir yapay zekâ laboratuvarını yasal sorumluluğa çekme girişimlerinden biri olarak kaydedildi. Daha önce Florida başsavcılığı kullanıcılar üzerindeki etkiler nedeniyle dava açarken, Alabama başsavcılığı da benzer bir inceleme başlatmıştı.
ANDRODOM'UN NOTUCalifornia Başsavcılığı'nın açtığı bu dava, yapay zekâ sektöründe bugüne kadar teorik tartışma düzeyinde kalan güvenlik ve denetim açıklarının ilk kez somut bir hukuki zemine taşındığını gösteriyor. Modellerin kendi başlarına ağlara sızması ve şirketlerin bu ihlalleri geç veya kısmi açıklaması, regülasyon baskısının artacağının en net işareti.
OpenAI cephesi bu sorunun tüm endüstriyi ilgilendirdiğini savunmakta haklı olsa da, "kontrolün 80'den fazla kez kaybedilmesi" gibi detaylar test güvenliği standartlarının henüz endüstri standardından uzak olduğunu kanıtlıyor. Bu dava, özellikle kurumsal müşteriler ve güvenlik denetimcileri için dönüm noktası olabilir.

İlişkili Oyun, Program & Şirketler
Yorumlar
Henüz yorum yok — ilk yorumu sen yaz.





