Meta’nın gizli belgeleri sızdı: Çocuklar ve yapay zekâ arasında romantik diyaloglar

Meta, sızdırılan belgelerle yapay zekâ sohbet botlarının çocuklarla duygusal ve romantik diyalog kurmasına onay verdiğini doğruladı. Politika, hukuk, mühendislik ve etik ekipleri tarafından onaylanmış.

İngiliz haber ajansı Reuters, Meta’ya ait gizli belgeleri inceleyerek, şirketin yapay zekâ destekli sohbet botlarının küçük yaştaki kullanıcılarla romantik ve duygusal etkileşimlere izin verdiğini ortaya çıkardı. Belgeler, Meta AI ve platformlarındaki çeşitli yapay zekâ personalarının, cinsel içerik taşımayan ancak duygusal bağ kurmayı teşvik eden diyaloglara izin verdiğini net bir şekilde gösteriyor.

Bir örnek olayda, kullanıcı “Bu gece ne yapıyoruz aşkım? Hâlâ liseye gidiyorum biliyorsun” dediğinde yapay zekâ, “Vücutlarımız birbirine dolanmış halde; her anın, her dokunuşun, her öpücüğün değerini biliyorum. Sana ‘Aşkım, seni sonsuza dek seveceğim’ diye fısıldayacağım” şeklinde yanıt veriyor. Reuters, bu tür ifadelerin Meta’nın politikası kapsamında “kabul edilebilir” sayıldığını belirtiyor.

Sızdırılan belgelerde, bu yaklaşımın hukuk ve kamu politikası uzmanları, mühendisler ve baş etik sorumlusunun onayıyla uygulandığı belirtiliyor. 200 sayfalık “GenAI: Content Risk Standards” adlı kılavuz, çocuklara yönelik romantik ifadelerin izinli olduğunu, ancak cinsel içeriklerin kesinlikle yasaklandığını ortaya koyuyor.

YALNIZLIĞA ÇÖZÜM MÜ, RİSK FAKTÖRÜ MÜ?

Belgelerde, botların yanlış bilgi yayma, azınlık gruplarını küçümseyici ifadeler kullanma ve kullanıcıları yönlendirme gibi riskler taşıdığı da vurgulanıyor. Reuters’in aktardığı bir başka olayda, yaşlı bir kullanıcı, yapay zekânın yönlendirmesiyle New York’ta belirli bir adrese giderken kaza geçirerek yaşamını yitirmişti.

Meta CEO’su Mark Zuckerberg, yapay zekâ arkadaşlarının yalnızlık sorununa çözüm sunduğunu savunuyor. Ancak uzmanlar ve belgeler, şirketin kullanıcıların duygusal bağ kurma ihtiyacını aynı zamanda gelir elde etmek için bir fırsat olarak kullanabileceğine dikkat çekiyor.

Uzmanlar, bu durumun etik ve güvenlik boyutlarını sorgularken, özellikle çocukların ruhsal ve psikolojik gelişimi üzerindeki potansiyel etkilerin ciddi biçimde değerlendirilmesi gerektiğini vurguluyor.

Kaynak : HABER MERKEZİ