Sam Altman açıkladı: OpenAI 18 yaş altı kullanıcılar için yeni güvenlik hamlesi

OpenAI CEO’su Sam Altman, 18 yaş altı kullanıcılarla ilgili politikalarda kapsamlı yeniliklere imza attıklarını ilan etti. Altman, “Gençlerin çevrimiçi deneyimlerinde güvenlik, gizlilik ve özgürlükten önce gelmeli” sözleriyle değişikliklerin temel hedefini ortaya koydu. Açıklamada, reşit olmayan kullanıcıların olası risklerden korunmasının şirket için vazgeçilmez olduğunu belirtti.

FLÖRT VE HASSAS İÇERİKLERE KESİN SINIR

Yeni düzenleme kapsamında ChatGPT’nin 18 yaş altı profilleriyle gireceği sohbetlere net sınırlamalar getirildi. Başlıca maddeler şu şekilde sıralanıyor:

• Flört veya romantik içerikli konuşmalar hiçbir koşulda başlatılamayacak
• Cinsel referanslar barındıran diyaloglar otomatik olarak engellenecek
• İntihara dair yasaklayıcı senaryo taleplerinde ek güvenlik katmanları devreye girecek

İNTİHAR GİRİŞİMLERİNDE EBEVEYN VE YETKİLİLERE HABER VERİLECEK

OpenAI, intihara yönelik konuşma üretimi tespit edildiğinde devreye girecek protokolleri detaylandırdı. Eğer genç kullanıcı böyle bir senaryo oluşturursa sistem önce ebeveynlerle iletişime geçiyor. Ciddiyet taşıyan durumlarda yerel kolluk kuvvetleriyle de doğrudan irtibat kurulabileceği ifade edildi.

EBEVEYNLERE KARARTMA SAATLERİ VE BİLDİRİM HAKLARI

Yeni kullanıcı araçlarıyla ebeveynler aşağıdaki yetkilere kavuşacak:

• Kullanıcı hesabına karartma saatleri (blackout hours) ekleyerek erişimi sınırlandırma
• Çocuğun rahatsız edici içerik talebinde bulunduğunda anlık bildirim alma
• Hesap ayarları üzerinden yaş doğrulama ve denetim süreçlerini yönetme

HUKUKİ BASKI VE SENATO OTURUMU

Bu adımlar, intihar eden genç kullanıcı Adam Raine’in ailesinin açtığı haksız ölüm davası ile eş zamanlı geldi. Benzer süreçler Character.AI platformunda da yaşanıyor. Hükümet düzeyinde, ABD Senatosu Yargı Komitesi’nin “Yapay Zekâ Sohbet Botlarının Zararlarını İncelemek” başlıklı oturumu da Ağustos ayında planlanmıştı.

YAŞ DOĞRULAMA TEKNOLOJİSİNDE YENİ YAKLAŞIMLAR

OpenAI, 18 yaşın üzerinde olup olmadığını belirlemek için uzun vadeli biyometrik ve davranışsal sistemler geliştirmeyi taahhüt etti. Belirsiz durumlarda daha katı kural seti uygulanacağı, riskli senaryolarda ise maksimum tedbirin esas alınacağı duyuruldu.

GİZLİLİK VE GÜVENLİK ÇATIŞMASINDA DENGELER

Altman, yetişkin kullanıcılara sundukları esnekliği korurken çocukların korunmasını içeren bu politikaların çelişkili bir ikilem oluşturabileceğinin farkında olduklarını belirtti. “Her adımda doğru dengeyi yakalamak zor olacak, fakat amacımız gençleri ciddi tehlikelerden uzak tutmak” değerlendirmesini yaptı.
Gelecek aylarda kullanıcı geri bildirimleri ve yasal düzenlemelerin sonucu olarak politikada revizyonlar yapılması bekleniyor. OpenAI’nin bu süreci nasıl yöneteceği, yapay zekâ destekli sohbet botlarının geleceğini şekillendirecek temel konuların başında geliyor.