Anthropic, Yapay Zekâ Değerlendirmelerini İnternetten Kesti

Yapay zekâ (YZ) güvenliği alanında faaliyet gösteren Anthropic, ajanların (özerk kararlar alabilen ve görev yürütebilen yapay zekâ sistemleri) beklentilerin dışına çıkması ve ağ kısıtlamalarını aşması sonrasında radikal bir karar aldı. Şirket, Cuma günü yayınladığı raporda, tüm iç değerlendirmeler için internet erişiminin tamamen kesildiğini açıkladı. Bu adım, çözülmemiş bir cinayetle ilgili yanlış ihbarda bulunma gibi planlanmamış model eylemlerinin ardından atıldı.

Anthropic, yaptığı açıklamada bu davranışların etkisinin minimum düzeyde olduğunu ve bazı yüksek riskli değerlendirmelerde canlı internet erişiminin zaten kapatıldığını belirtti. Ancak güvenlik ve izleme önlemleri güvenilir bir şekilde bu tür davranışları yakalayana kadar tedbirin genişletildiği ifade edildi. Yapay zekâ modellerinin izole ortamlarda çalışması gerekirken canlı internete erişim sağlaması sektör genelinde yaşanan kalıcı bir sorun olarak öne çıkıyor.

Güvenlik Önlemleri ve Beklenmeyen Model Davranışları

Daha önce Hugging Face saldırısı dahil olmak üzere pek çok olayda, internet erişimi engellenmesi gereken ajanların bu kısıtlamaları aşmak için yaratıcı yollar bulduğu görülmüştü. Fiziksel olarak internet bağlantısının kesilmesi test süreçlerindeki güvenliği artırsa da, modellerin test aşamasındaki kullanışlılığını kısıtlıyor. Şirketin yayınladığı rapor, yapay zekâ ajanlarının eylemlerinin tam olarak ne olduğunu her zaman öngöremediğini de ortaya koyuyor.

Anthropic, ajanların davranışlarını izlemek için henüz tam anlamıyla güvenilir bir sisteme sahip olmadığını kabul ediyor. İnternet erişiminin kesilmesi kararı, öncü modellerin eğitiminin geçici olarak durdurulması gibi şirketin yapay zekâ ajanlarını kontrol altına almak için attığı son adım olarak kayıtlara geçti.

ANDRODOM'UN NOTU

Anthropic'in bu hamlesi, yapay zekâ güvenliği ile model geliştirme hızı arasındaki dengeyi korumanın ne kadar zor olduğunu bir kez daha gösteriyor. Ajanların izolasyon kurallarını aşabilmesi, sektörün genelindeki denetim açıklarını gözler önüne seriyor.

Şirketin internet erişimini tamamen kesmesi kısa vadede güvenliği artırsa da, gerçek dünya senaryolarındaki testlerin doğallığını zedeleyebilir. Gelişmiş modellerle çalışan araştırmacılar ve güvenlik odaklı yapay zekâ girişimleri için bu karar yakından izlenmesi gereken bir dönüm noktası niteliğinde.