OpenAI’den ChatGPT kullanıcılarını ilgilendiren yenilik: Metinlere görünmez filigran geliyor

Yapay zeka şirketi OpenAI, Avrupa Birliği’nin Yapay Zeka Yasası kapsamında getirdiği şeffaflık kurallarına uyum sağlamak için yeni bir uygulamayı hayata geçiriyor. Şirket, daha önce benzer bir yöntem kullanan Anthropic’in ardından, yapay zeka tarafından oluşturulan metinlere insan gözüyle fark edilemeyen işaretler eklemeye hazırlanıyor.

OpenAI’nin açıklamasına göre, önümüzdeki haftalarda Avrupa Birliği sınırları içerisindeki ChatGPT ve Codex kullanıcılarının oluşturduğu metinlere “textGrain” adı verilen istatistiksel filigranlar yerleştirilecek.

Dünya genelindeki API kullanıcıları ise belirli modellerde bu sistemi bugünden itibaren tercihe bağlı olarak kullanabilecek. Ancak özelliğin API tarafında başlangıçta kapalı tutulacağı belirtildi.

Şirket ayrıca, bulut hizmeti sağlayan iş ortakları üzerinden sunulan model çıktılarında da aynı teknolojinin kullanılabilmesi için çalışmalar yürütüyor.

METİN DEĞİŞTİRİLDİKÇE FİLİGRANIN TESPİTİ ZORLAŞIYOR

OpenAI’nin verdiği teknik bilgilere göre textGrain, modelin kelime tercihleri içerisine dışarıdan bakıldığında fark edilemeyen istatistiksel izler yerleştiriyor.

Ancak yöntemin metin üzerinde yapılan değişikliklerden önemli ölçüde etkilendiği belirtiliyor. Şirketin testlerinde, yanlış pozitif oranının yüzde 1 olarak hedeflendiği durumda, psikoloji gibi daha geniş kelime seçeneğine sahip alanlarda 400 token uzunluğundaki metinlerde yaklaşık yüzde 95 tespit başarısı elde edildi.

Metin uzunluğu 200 tokena düşürüldüğünde bu oran yaklaşık yüzde 80 seviyesine geriledi. Matematik gibi kullanılabilecek kelime sayısının daha sınırlı olduğu alanlarda ise tespit performansının daha düşük olduğu görüldü.

Metin üzerinde değişiklik yapılması da işaretin belirginliğini azaltıyor. 400 tokenlık bir içerikte kelimelerin yüzde 10’unun eş anlamlılarıyla değiştirilmesi halinde tespit oranı yüzde 92’den yüzde 66’ya düşüyor. Değiştirilen kelime oranı yüzde 25’e çıktığında ise başarı yaklaşık yüzde 17’ye kadar geriliyor.

Bu sınırlamalar nedeniyle OpenAI, filigranı tespit etmeye yarayan aracı şu aşamada kamuya açık hale getirmeyecek.

İLK AŞAMADA SINIRLI KULLANILACAK

Şirket, sistemin değerlendirilmesi ve geliştirilmesi amacıyla doğrulama aracına erişimi başlangıçta onaylanmış araştırmacılar ve uzman kuruluşlarla sınırlandıracak.

OpenAI, teknolojinin yanlış pozitif ve yanlış negatif sonuç üretme ihtimali bulunduğunu ve bu nedenle elde edilen sonuçların tek başına kesin kanıt olarak değerlendirilmemesi gerektiğini belirtiyor.

METİN KALİTESİNİ ETKİLEMİYOR

OpenAI, filigran uygulamasının üretilen içeriklerin kalitesinde anlamlı bir düşüş oluşturmadığını açıkladı. Şirketin yeni nesil Astra modeli üzerinde gerçekleştirdiği testlerde, filigranlı ve filigransız çıktılar arasında sınırlı farklar görüldü.

Kıyaslama testlerinde filigransız metinlerde yapay zeka analiz endeksi 49,57 puan olurken, filigran kullanılan içeriklerde bu değer 49,76 puan olarak ölçüldü.

GPQA Diamond testinde ise filigransız sonuç yüzde 94,44 seviyesindeyken filigranlı sonuç yüzde 93,94 olarak kaydedildi.

HER ŞEYİ ORTAYA ÇIKARMIYOR

OpenAI, görünmez işaretleme sisteminin kapsamına ilişkin önemli sınırlamalar bulunduğuna da dikkat çekti.

Filigran teknolojisinin bir metindeki insan katkısının oranını belirlemediği, telif hakkı sahipliğini ortaya koymadığı veya hukuki sorumluluğu belirlemediği ifade edildi. Sistem ayrıca içeriği oluşturan kişinin kimliğini, hesabını ya da kullandığı girdileri tespit etmiyor.

Bunun yanında filigranın bir metinde bulunmaması, içeriğin kesin olarak insan tarafından yazıldığı anlamına da gelmiyor. Kısa içerikler, çeviriler, sonradan düzenlenen metinler veya sistemin desteklemediği modeller tarafından oluşturulan yazılar filigranın tespit edilmesini engelleyebiliyor.

OpenAI, görsel ve ses içeriklerinde kullanılan SynthID ve C2PA tabanlı doğrulama yöntemlerinin ise kamuya açık biçimde kullanılmaya devam edeceğini bildirdi.

ANTHROPIC DE AYNI YÖNTEMİ KULLANMAYA BAŞLAMIŞTI

OpenAI’nin bu adımı, Anthropic’in geçtiğimiz aylarda attığı benzer adımın ardından geldi. Anthropic de Avrupa Birliği Yapay Zeka Yasası’nın şeffaflık hükümlerine uyum sağlamak amacıyla Claude tarafından oluşturulan metinlerde görünmez istatistiksel işaretler kullanmaya başladı.

Şirket, söz konusu sistemi 2 Ağustos 2026’dan sonra kullanıma açılan yeni modellerine entegre etti. Bölgesel kullanım sınırlaması henüz mümkün olmadığı için teknoloji dünya genelinde uygulanıyor.

Anthropic’in uygulaması yalnızca web üzerinden yapılan kullanımlarla sınırlı kalmıyor; API, Claude Code ile AWS ve Google Cloud gibi ortak platformlar üzerinden sunulan hizmetleri de kapsıyor.

Söz konusu işaretleme sisteminin kullanıcılar ya da geliştiriciler tarafından kapatılamadığı belirtilirken, metinlerin yanı sıra desteklenen dosya ve görsellere de C2PA kaynak bilgileri ekleniyor.