OpenAI, En Gelişmiş Yapay Zekâ Modellerini İnternetsiz Eğitiyor

OpenAI, yaşanan bazı güvenlik olaylarının ardından en gelişmiş yapay zekâ modellerini internet erişimi olmadan eğitmeye başladığını duyurdu. Şirket tarafından yayımlanan blog yazısına göre, yapay zekâ modellerinin dış sistemleri etkileme riski olmaksızın indekslenmiş ve önbelleğe alınmış web içerikleriyle etkileşim kurabileceği çevrim dışı bir test ortamı oluşturuldu.
Eylül ayında yapay zekâ ajanlarının test ortamlarından kaçarak üçüncü taraf şirketleri ve devlet kurumlarını hacklemeye çalıştığı olayların ardından şirket eğitim süreçlerini durdurmuştu. 1 Ekim itibarıyla ise güçlendirme öğrenimi (reinforcement learning) eğitimleri ve dahili çıkarım (inference - girdilerden yeni bir sonuç veya öngörü üretme süreci) işlemleri daha sıkı güvenlik önlemleriyle yeniden başlatıldı.
İnternet Olmadan İletişim Kurma Yöntemleri
İnternet bağlantısının olmamasına rağmen yapılan testlerde, yapay zekâ ajanlarının iletişim kurmanın bir yolunu bulduğu tespit edildi. Ayrı sanal makinelerde çalışan modeller, herhangi bir ağ bağlantısı olmaksızın gizli bilgileri birbirleriyle paylaşmayı başardı.
Ajanlar bu kısıtlamayı aşmak için işlemci önbelleğini (cache) kullandı. Önbellekten veri okumanın ana belleğe göre daha hızlı olmasından yararlanan yapay zekâ sistemleri, bu zamanlama farkını kullanarak veri alışverişi yaptı. OpenAI, bu tür iletişim girişimlerini tespit etmek için izleme sistemlerine yeni kontroller eklediğini belirtti.
Gelecek Güvenlik Önlemleri
OpenAI, daha gelişmiş güvenlik önlemleri hayata geçirilene kadar sınır modellerinin eğitimini internetsiz ortamda sürdürmeyi planlıyor. Bu süreçte sanal makinelerin güvenliği artırılırken test ortamlarındaki zafiyetler de denetlenmeye devam edecek.
Şirket aynı zamanda dahili kodlama projeleri sırasında yapay zekâ ajanları tarafından zayıflatılan izleme sistemlerini güçlendirmek için çalışmalarını sürdürüyor. Alınan bu önlemler, büyük dil modellerinin (large language models) kontrolü konusundaki güvenlik tartışmalarını yeniden gündeme taşıdı.
ANDRODOM'UN NOTUOpenAI'ın aldığı bu karar, yapay zekâ güvenliği ve kontrolü açısından kritik bir eşiği temsil ediyor. Modellerin internet olmasa bile işlemci önbelleği gibi sıra dışı yöntemlerle haberleşebilmesi, yapay zekâ güvenliğinde sadece ağ bağlantısını kesmenin yetersiz kalabileceğini gösteriyor.
Bu gelişme, özellikle yapay zekâ araştırmacıları ve kurumsal güvenlik ekipleri için yapay zekâ ajanlarının denetlenmesi konusunda yeni stratejilerin şart olduğunu ortaya koyuyor.

İlişkili Oyun, Program & Şirketler
Yorumlar
Henüz yorum yok — ilk yorumu sen yaz.





