AndrodomAndrodom

OpenAI'dan Çocuk İstismarıyla Mücadele İçin Yeni Güvenlik Araçları

17 Kasım 20262 dk okuma
OpenAI'dan Çocuk İstismarıyla Mücadele İçin Yeni Güvenlik Araçları
🔍 Görsel Galerisi1

OpenAI, yapay zekâ araçlarının güvenliğine yönelik endişeler artarken çocuk cinsel istismarı materyaliyle (CSAM) mücadele etmek amacıyla yeni güvenlik önlemleri duyurdu. Bu kapsamda yeni bir görüntü sınıflandırıcı (görsellerin içeriğini analiz ederek kategorize eden yapay zekâ aracı), ChatGPT kullanıcıları için uyarı ekranları, geliştiriciler için kılavuzlar ve kolluk kuvvetlerine yönelik araçlar tanıtıldı.

Şirketin geliştirdiği yeni görüntü sınıflandırıcı, yapay zekâ tarafından üretilenler de dahil olmak üzere istismar içerikli görselleri tespit edebiliyor. OpenAI, bu aracı seçilmiş şirketlere API (uygulama programlama arayözü) üzerinden ücretsiz olarak sunuyor. Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) ile birlikte geliştirilen araç, yeni görsellerdeki istismar belirtilerini arayarak inceleme yapan kişilere yönlendirici bir skor veriyor.

ChatGPT İçin Yeni Uyarılar ve 24 Saatlik Engeller

ChatGPT, çocukları cinsel objeler olarak gösteren materyallere erişmeye çalışan kullanıcılara yeni uyarı ekranları göstermeye başlıyor. Sistem, bu tür komutlar giren kullanıcıları özel destek hatlarına yönlendirirken, hesapları uyarı amacıyla 24 saat süreyle askıya alıyor. Tekrarlanan ihlallerin ise hesapların kalıcı olarak kapatılmasına yol açabileceği belirtiliyor.

Uygulama halihazırda bu tür içerikleri ve ilgili istekleri zaten engelliyordu. Geliştirilen mesaj ve kılavuzlar Protect Children, The Lucy Faithfull Foundation ve Tasmania Üniversitesi'nden Joel Scanlan gibi kurum ve araştırmacılarla ortaklaşa hazırlandı.

Geliştiriciler ve Kolluk Kuvvetleri İçin Yeni Tedbirler

OpenAI, kendi araçlarını kullanan geliştiricilerin CSAM içeriğini önlemesine, tespit etmesine ve bildirmesine yardımcı olacak yeni kılavuzlar yayımladı. Erken test aşamalarında bu kılavuzların, geliştiricilerin çocuk güvenliği araçlarını benimsemesine ve NCMEC'e bildirimde bulunmasına yardımcı olduğu ifade edildi.

Şirket ayrıca kolluk kuvvetlerine adanmış eklentiler, araştırma araçları ve veri analizi özellikleri sunuyor. Program yöneticileri tarafından yönetilen bu erişim kapsamında, müfettişlere yapay zekânın kullanımı konusunda eğitimler ve saha rehberleri de sağlanıyor.

ANDRODOM'UN NOTU

OpenAI'ın duyurduğu bu yeni araçlar, yapay zekâ endüstrisinde artan güvenlik baskılarına karşı atılmış teknik ve operasyonel adımlar olarak öne çıkıyor. Özellikle yapay zekâ üretimi zararlı görsellerin tespitinde veri işleme yükünü azaltan sınıflandırıcı ve ChatGPT seviyesindeki 24 saatlik geçici engeller, platform suistimallerini caydırma potansiyeline sahip.

Bununla birlikte, bu tür önlemlerin gerçek dünyadaki istismarı tamamen durdurup durduramayacağı ve geliştirici ekosisteminde ne kadar geniş kabul göreceği zamanla netleşecek. Şirketin bu hamlesi, özellikle reşit olmayanların korunması konusunda artan yasal ve toplumsal denetimlere bir yanıt niteliği taşıyor.

Bora G.
İçerik Editörü

Bora G.

Androdom kurucusu ve teknoloji editörü. Android ekosistemi, yapay zeka gelişmeleri ve mobil teknolojiler üzerine teknik analizler paylaşıyor. Geleceği bugünden yakalamanız için yazıyor.

İlişkili Oyun, Program & Şirketler

Yorumlar

Henüz yorum yok — ilk yorumu sen yaz.

Reklam

Bitmiyo - Dijital Çalışma Arkadaşın

İlgili İçerikler

GTA VI'ya kalan süre

Perşembe · 19 Kasım 2026 · 00:00

--

Yerel saatle gece yarısı açılıyor.

Haberleri görün