OpenAI çalışanı Jacob Coxon’dan yapay zeka uyarısı: İnsanlığın sonu olabilir

Yapay zekâ teknolojilerinin gelişimi hız kesmeden devam ederken, sektörde görev yapan bir araştırmacıdan dikkat çeken bir uyarı geldi. Daha önce OpenAI ve Anthropic’te çalışan yapay zekâ araştırmacısı Jacob Coxon, şirketlerin daha gelişmiş ve kendi kendini geliştirebilen sistemlere ulaşmak için kontrolsüz bir yarışa girdiğini iddia etti.

Coxon, Anthropic’teki görevinden ayrılırken yaptığı açıklamalarda, yapay zekâ laboratuvarlarının teknolojinin oluşturabileceği riskleri yeterince dikkate almadığını öne sürdü. Araştırmacıya göre şirketler, insanüstü yeteneklere sahip bir “süper zekâ” geliştirme hedefi doğrultusunda ciddi güvenlik risklerini göze alıyor.

“YAPAY ZEKÂ 10 YIL İÇİNDE İNSANLIĞIN SONUNU GETİREBİLİR”

Coxon’un en dikkat çekici iddialarından biri, yapay zekânın insanlık açısından oluşturabileceği varoluşsal riskin şirket yöneticileri tarafından da bilindiği yönünde.

Araştırmacı, yapay zekâ alanında çalışan bazı üst düzey yöneticilerin ve kıdemli araştırmacıların, teknolojinin önümüzdeki 10 yıl içerisinde insanlığın sonunu getirebileceğine gerçekten inandığını öne sürdü.

Coxon, bu endişelerin yalnızca kamuoyuna yönelik bir pazarlama stratejisi veya abartılı bir söylem olmadığını savundu. Ona göre yapay zekâ sistemlerinin gelişim hızı, güvenlik konusunda alınan önlemlerin önüne geçiyor.

SÜPER ZEKÂ HANGİ YETENEKLERE ULAŞABİLİR?

Coxon’a göre gelecekte geliştirilecek gelişmiş yapay zekâ modelleri; bilgisayar sistemlerini hackleyebilme, bilimsel araştırmalarda büyük ilerlemeler sağlayabilme ve kendi kaynaklarını yönetebilme gibi insanüstü yeteneklere ulaşabilir.

Bu seviyedeki sistemlerin nasıl davranacağının tam olarak öngörülememesinin ise en önemli risklerden biri olduğunu belirten araştırmacı, özellikle kendi kendini geliştirebilen yapay zekâ modellerinin kontrol edilmesinin zorlaşabileceği konusunda uyarıda bulundu.

OPENAI VE ANTHROPİC İÇİN FARKLI DEĞERLENDİRME

Coxon, iki büyük yapay zekâ şirketinin risklere yaklaşımının birbirinden farklı olduğunu da savundu.

Araştırmacıya göre OpenAI içerisinde çalışanların ve yöneticilerin önemli bir bölümü, yapay zekânın oluşturabileceği medeniyet ölçeğindeki riskleri yeterince içselleştirmiş değil.

Anthropic tarafında ise risklerin daha fazla farkında olunduğunu belirten Coxon, buna rağmen şirketin “ilk ulaşan olma” yarışından çıkamadığını öne sürdü. Araştırmacı, şirketlerin başka bir aktörün süper zekâya daha önce ulaşmasının daha büyük bir felakete yol açacağı düşüncesiyle geliştirme sürecini hızlandırdığını iddia etti.

“İNSANLIĞIN KADERİ ŞİRKETLERİN ELİNDE OLMAMALI”

Coxon, dev teknoloji şirketlerinin kendi iç iletişim kanallarında alınan kararlarla insanlığın geleceğini etkileyebilecek bir yarış yürütülmesini de eleştirdi.

Bu yaklaşımı büyük bir risk olarak değerlendiren araştırmacı, yapay zekâ yarışının yalnızca şirketlerin rekabeti olarak görülmemesi gerektiğini savundu.

YAPAY ZEKÂ YARIŞINA “MOLA” ÇAĞRISI

Coxon, yapay zekâ alanında çalışan araştırmacılara da güvenlik konusunda daha temkinli hareket etmeleri çağrısında bulundu.

Araştırmacı, çalışma prensipleri ve davranış biçimleri tam olarak anlaşılamayan süper zekâ sistemlerinin geliştirilmesinin ciddi riskler taşıdığını belirterek, gerekirse yapay zekâ geliştirme çalışmalarına geçici olarak ara verilmesi gerektiğini savundu.

Coxon ayrıca şirketler arasında geliştirme hızını sınırlayacak anlaşmalar yapılabileceğini ve yapay zekâ sektörünün “nasıl olsa gerçekleşecek” anlayışıyla hareket etmek yerine daha fazla sorumluluk üstlenmesi gerektiğini ifade etti.