OpenAI, ChatGPT ve Codex İçin Metin Filigranı Getiriyor

OpenAI, yapay zekâ tarafından üretilen metinlerin takibini kolaylaştırmak amacıyla ChatGPT ve Codex modellerine görünmez, makine tarafından okunabilen bir metin filigranı eklemeye hazırlanıyor. Bu hamle, ilk aşamada yalnızca Avrupa Birliği (AB) içindeki kullanıcılara sunuluyor. Şirket, bu bölgesel yaklaşımın gerçek dünya kullanımından ve geri bildirimlerden ders çıkarılmasına olanak tanıyacağını belirtiyor.

Geliştirilen textGrain adlı filigran teknolojisinin, Google DeepMind’ın SynthID gibi diğer yaklaşımlarla eşleştiği veya bu yaklaşımları aştığı ifade ediliyor. Anthropic de Ağustos ayında benzer bir adımı atmıştı. Bu tür özelliklerin hayata geçirilmesindeki temel etkenlerden biri, AB Yapay Zekâ Yasası'nın getirdiği yasal gereklilikleri karşılamak.

API Müşterileri İçin İsteğe Bağlı Kullanım

OpenAI, dünya genelindeki API (Uygulama Programlama Arayüzü) müşterileri için seçili modellerde filigranlı metin çıkışlarının isteğe bağlı olarak (opt-in) etkinleştirilebileceğini duyurdu. Bu sayede müşteriler, şeffaflık yükümlülüklerine ve kullanıcılarına sundukları deneyimlere göre filigran kararını kendileri verebiliyor. Ayrıca bulut ortaklarıyla yürütülen çalışmalar sonucunda, bu modellerin çıktılarına farklı servisler üzerinden de erişilebilmesi için adımlar atılıyor.

Şirket, yapay zekâ kıyaslama testlerinde filigranlı ve filigransız metinlerin benzer performans gösterdiğini paylaştı. Ancak textGrain sisteminin güvenilir bir tespit garantisi sunmadığı da vurgulanıyor. Metin filigranları doğruluğu kanıtlamıyor, metnin kime ait olduğunu belirlemiyor veya ne kadar insan katkısı içerdiğini ölçmüyor.

Araştırmacılar İçin Sınırlı Dedektör Erişimi

Onaylanan araştırmacılar ve uzman kuruluşlar, metin kökeninin değerlendirilmesi ve geliştirilmesini desteklemek amacıyla dedektör erişimi için başvuruda bulunabiliyor. Uygulama Kodu'na uygun olarak erişimler başlangıçta vaka bazında veriliyor. Bu araç, kullanıcı kimliğini, istemleri veya sohbetleri açığa çıkarmadan yalnızca OpenAI filigranı tespit edilip edilmediğini rapor ediyor.

Kaçırılan filigranlar ve yanıltıcı pozitif sonuçlar (false positive) riski göz önünde bulundurularak, bu araç lansman sırasında kamuoyuna açık şekilde sunulmuyor. OpenAI, metin filigranlamasını küresel bir varsayılan özellik yapmadığını ve bu sürecin etkilerini gözlemleyeceğini belirtiyor.

ANDRODOM'UN NOTU

OpenAI'ın bu hamlesi, özellikle Avrupa Birliği'nin katı yapay zekâ düzenlemelerine uyum sağlama zorunluluğunun doğrudan bir sonucu olarak öne çıkıyor. Küresel bir standart haline gelmek yerine bölgesel ve kademeli bir geçiş tercih edilmesi, teknolojinin güvenilirliği konusundaki belirsizliklerin hâlâ devam ettiğini gösteriyor.

Metin filigranlarının telif hakkı veya insan yazarlığını kanıtlama gibi iddiaları bulunmaması, bu araçların şimdilik yalnızca denetlenebilirlik ve şeffaflık odaklı birer uyum aracı olduğunu netleştiriyor.