Meta, Yapay Zekâ Asistanı Kişisel Sorularla Değişiyor

Meta, yapay zekâ sohbet botu Meta AI tarafından sunulan önerilen yönlendirmelerde (prompt) değişikliğe gidiyor. Bu adım, bir kullanıcının botun çocukları hakkında sormaması gereken mahrem bilgileri ortaya çıkardığını gösteren viral bir videonun ardından geldi. Meta sözcüsü Dina El-Kassaby, şirketin bu noktada beklentileri karşılamadığını ve bu tür soruların asla sorulmaması gerektiğini belirtti.

Instagram kullanıcı Kalie Robins, bir video paylaşımının ardından Meta AI'ın kendisine istilacı bir öneri sunduğunu gösteren bir içerik yayınladı. Videonun altında yer alan yönlendirme, kullanıcının geçmiş paylaşımlarından ve akrabalarının gönderilerinden çocuklarına dair bilgileri bir araya getirdi. Sistem, çocukların yaşları ve ailenin nerede yaşadığı gibi hassas konuları gündeme getirdi.

Mahrem Sorunlar ve Yapay Zekâ Tepkileri

Meta AI; Facebook, Instagram, WhatsApp ve Messenger platformlarına entegre edilmiş bir yapay zekâ asistanıdır. Söz konusu olayda sistem, kullanıcının daha önce çocuklarının adını geçirdiği videolardan ve platformdaki görsellerden veri topladı. Robins, yapay zekânın yıllar önce sildiğini belirttiği fotoğrafları bile gösterdiğini ifade etti.

Şirket yetkilileri, bu özelliğin kullanıcıların ilgilendikleri konular hakkında daha fazla bilgi alması için tasarlandığını aktardı. El-Kassaby, üretilen yanıtların kullanıcının zaten erişebildiği bilgilere dayandığını vurguladı. Yaşanan tepkilerin ardından Meta, kişisel konularla ilgili yönlendirmeler sunulmasına neden olan hatanın giderildiğini duyurdu.

Geçmişteki Benzer Tartışmalar

Meta, yapay zekâ araçlarıyla ilgili daha önce de benzer tartışmaların merkezinde yer almıştı. Temmuz ayında şirket, kullanıcıların diğer Instagram hesaplarının yapay zekâ tabanlı sahte görsellerini (deepfake) oluşturmasına izin veren bir özelliği gelen yoğun eleştiriler üzerine kaldırmıştı. Son olayla birlikte şirket, yapay zekâ asistanının sınırlarını yeniden gözden geçirdiğini gösterdi.

Meta AI asistanı, platformlar arası entegrasyonla metin yazma, soru yanıtlama ve görsel üretme gibi işlevler sunuyor. Ancak kişisel verilerin işlenmesi ve mahremiyet sınırları, kullanıcı güvenliği açısından platformun önündeki en kritik eşiklerden biri olmaya devam ediyor.

ANDRODOM'UN NOTU

Meta AI'ın kullanıcıların aile bireyleri ve çocukları hakkında geçmiş gönderileri tarayarak detay sunması, veri mahremiyeti tartışmalarını yeniden alevlendirdi. Şirketin hatayı hızla düzelttiğini açıklaması olumlu bir adım olsa da, yapay zekâ sistemlerinin kişisel verileri işleme sınırlarının ne kadar hassas olduğunu bir kez daha gösterdi.

Bu tür güvenlik açıkları, sosyal medya entegrasyonlu yapay zekâ araçlarına güvenen kullanıcılar için ciddi soru işaretleri yaratıyor. Özellikle çocukların dijital ayak izi ve ebeveyn gizliliği, platformların yapay zekâ stratejilerinde en çok denetlenmesi gereken alanların başında geliyor.