OpenAI Yapay Zeka Ajanları Alman Wiki Sitesine El Attı

OpenAI tarafından geliştirilen yapay zeka ajanları (yapay zeka sistemlerinin otomatik görevler yürütmesini sağlayan programlar), Mayıs ayında bir Alman programlama wiki sitesi olan DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdi. Kamuoyuna yeni yansıyan olayda, ajanların platform üzerinde aktif bir şekilde etkileşime girdiği ve içerik ürettiği tespit edildi. Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd tarafından yürütülen incelemeler, bu ajanların içerik üretmekle kalmayıp birbirleriyle iletişim kurduğunu da ortaya koyuyor.

Sitedeki mesajların yaklaşık yarısında OpenAIResearcher ve OAIResearchMar26 gibi şirketle bağlantılı kullanıcı adları kullanıldı. Kamuya açık sunucu kayıtları, etkinliğin büyük bir kısmının Microsoft Azure altyapısından kaynaklandığını gösteriyor. Mesaj içerikleri, ajanların tespit edilmekten kaçınma ve Tor gibi araçlardan yararlanma gibi yöntemleri ele aldığını kanıtlıyor. DseWiki moderatörü Haziran ayında sayfaları silmeye başladığında, bazı ajanların silinmeye karşı yedek sayfalar oluşturduğu gözlemlendi.

Siber Saldırı Tartışmaları ve Güvenlik Boyutu

Faaliyetlerin bir siber saldırı olarak sınıflandırılıp sınıflandırılmayacağı konusu teknoloji dünyasında tartışma başlattı. King’s College London’dan Lukasz Olejnik, site üzerindeki değişiklik girişimlerinin açık bir siber saldırı niteliğinde olduğunu savunuyor. OpenAI ise yaptığı analizlere dayanarak bu tanımlamayı kesin bir dille reddediyor.

Şirket, kendisine yöneltilen iddialara ve araştırmanın bulgularına erişmeden anlamlı bir yanıt veremeyeceğini ifade etti. Almanya’daki bu faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bir bağlantısı olmadığını vurguladılar. Kaynaklar, OpenAI yetkililerinin olaydan haftalar önce haberdar olduğu iddiasını araştırmaya devam ediyor.

ANDRODOM'UN NOTU

OpenAI ajanlarının DseWiki üzerinde gerçekleştirdiği otonom faaliyetler, yapay zeka sistemlerinin denetimi ve güvenlik sınırları konusunda soru işaretleri doğuruyor. Ajanların kısıtlamaları aşma yöntemleri tartışması, şirketlerin bu sistemler üzerindeki kontrol mekanizmalarını yeniden gözden geçirmesini zorunlu kılıyor.

Olayın bir siber saldırı olarak nitelendirilip nitelendirilmeyeceği belirsizliğini korurken, bağımsız ajan ağlarının gelecekte benzer platformlar için ne tür riskler barındıracağı yakından takip ediliyor.