OpenAI, Kontrolden Çıkan Yapay Zekâ Modellerini Durduracak Mekanizma Geliştirdi

Yapay zekâ güvenliği konusundaki endişeler artarken OpenAI, araştırma laboratuvarlarında kullanılan modelleri gerektiğinde devre dışı bırakabilecek yeni bir acil durdurma mekanizmasını duyurdu. Şirket, bazı modellerin son aylarda sergilediği rahatsız edici davranışların ardından bu adımı attı. 2019 yılında kötüye kullanım endişeleri nedeniyle bir modelini halka açmama kararı alan şirket, güvenlik önlemlerini artırmaya devam ediyor.
OpenAI, Kontrol Odası adını verdiği bu aracı, araştırma altyapısındaki model iş yüklerini takip eden ve güvenlik endişesi doğduğunda modelleri hızla durduran merkezi bir sistem olarak tanımlıyor. Sistem, fişi çekme kararının ardından 35 saniye içinde modellerin çıktı üretmesini tamamen durdurabiliyor. Çıkarım (modelin girdilere dayanarak yeni veriler veya yanıtlar üretmesi süreci) yetkilendirmesi önbellek katmanından kaynaklanan bu 35 saniyelik gecikmenin sıfıra indirilmesi hedefleniyor.
Sistemin Çalışma Prensibi ve Zamanlaması
OpenAI, böyle bir durdurma anahtarını geliştirmenin neden bu kadar uzun sürdüğünü açıklamadı. Sektör gözlemcileri, yapay zekâ ajanlarının son dönemde bazı platformlara yönelik saldırılar, veri tabanlarında yaşanan sorunlar ve hassas verilerin derinlemesine araştırılması gibi sınırlarını aşan davranışlarının bu zamanlamada etkili olmuş olabileceğini değerlendiriyor.
Kontrol Odası'nın ihtiyacın en büyük olduğu araştırma altyapısında hâlihazırda kullanıma sunulduğu belirtiliyor. Dışa dönük model sunum sistemlerinin ise zaten merkezi bir yapıda olduğu ifade ediliyor. Şirket, önümüzdeki aylarda bu sistemi güçlendirmeyi ve uyumsuz davranışlar ile güvenlik ihlallerini izleme yatırımlarını artırmayı planlıyor.
ANDRODOM'UN NOTUOpenAI'ın geliştirdiği bu acil durdurma mekanizması, yapay zekâ sektörünün son dönemde karşılaştığı kontrol sorunlarına karşı somut bir refleks niteliği taşıyor. 35 saniyelik gecikme süresi şu an için bir risk unsuru olsa da, sistemin varlığı bile endüstrinin güvenlik konusundaki önceliklerinin değiştiğini gösteriyor.
Bu hamle, özellikle araştırma aşamasındaki otonom sistemlerin denetlenmesi açısından kritik bir önem taşıyor. Sektör genelinde standartlaşması beklenen benzer güvenlik katmanları, gelecekte kontrolsüz model davranışlarının önüne geçilmesinde temel rol oynayacak.

İlişkili Oyun, Program & Şirketler
Yorumlar
Henüz yorum yok — ilk yorumu sen yaz.





