Devlet yönetiminde yapay zeka tehlikesi

Geçtiğimiz haftalarda Arnavutluk’ da yapay zeka tabanlı bir bakanın kabineye girmesi, dünya genelinde büyük yankı uyandırdı. Arnavutluk Başbakanı Edi Rama, konuya ilişkin yaptığı açıklamada; yapay zekâ Diella’ nın Kamu İhalelerinden Sorumlu Bakan olacağını ve bunun dünyada bir ilk teşkil ettiğini belirtti. Atılan bu adım son yıllarda yapay zekanın insan hayatına etkisini apaçık ortaya koyarken, benzeri durumların ülkemizde de yaşanması halinde oluşabilecek tehlikeleri değerlendiren Bilişim Teknolojileri Uzmanı Prof.Dr. Ali Murat Kırık: “Yapay zekâ hatasız gibi görünse de algoritmaların önyargıları, yazılım hataları, veri eksiklikleri veya siber saldırılar gibi sorunlar her zaman söz konusu olabilir” dedi.

TEKNOLOJİ ÖNCÜ ROL OYNUYOR

Arnavutluk’ta öncü bir gelişme yaşandığını vurgulayan Prof.Dr. Ali Murat Kırık, “Arnavutluk, ülke kamu ihalelerini denetleyecek bir yapay zekâyı kabineye dahil etti. Başbakan Rama, Diella adını verdikleri bu yapay zekâyı ‘kamu ihalelerinin hizmetkarı’ olarak tanıttı. Diella fiziksel olarak var olmayan, tamamen sanal bir kabine üyesi ve amacı, kamu ihalelerini tamamen şeffaf ve yolsuzluktan arındırılmış bir hâle getirmek. Bu, devlet işlerinde yapay zekânın ne kadar ileri seviyeye taşınabileceğini ve devlet yönetiminde teknolojinin kullanım alanlarının giderek genişlediğini gösteren çok çarpıcı bir örnek. Artık devlet işlerinin sadece insanlar tarafından yürütülmediği, yapay zekâ gibi gelişmiş teknolojilerin de aktif rol alabileceği bir döneme giriyoruz” diye konuştu.

İNSAN KONTROLÜ ŞART

Yapay zekânın sadece denetim yapmadığını, aynı zamanda devlet ile vatandaş arasındaki iletişimi de kolaylaştırdığını belirten, Prof.Dr. Kırık, buna rağmen devlet işlerinde insan müdahalesinin şart olduğunu dile getirdiği konuşmasında: “Diella aslında ocak ayından beri e-Arnavutluk portalı üzerinden vatandaşlara danışmanlık hizmeti veriyordu. Vatandaşlar bürokratik işlemlerini tamamlamak için Diella’ya sesli komutlarla başvurabiliyor, işlemlerini hızlı, doğru ve eksiksiz bir şekilde yapabiliyordu. Bu sayede halk, devlet hizmetlerine erişimde büyük kolaylık yaşıyor ve bürokratik engeller en aza iniyor. Yapay zekâ, sadece denetim yapmakla kalmıyor, aynı zamanda devlet ile vatandaş arasındaki iletişimi de güçlendiriyor. Bu durum, teknolojinin yalnızca yönetim süreçlerinde değil, vatandaş deneyiminde de ne kadar faydalı olabileceğini gözler önüne seriyor. Peki, Türkiye’de böyle bir uygulama mümkün mü? Teknik olarak imkânsız değil. Yapay zekâ, büyük veri analizi, süreç otomasyonu ve şeffaflık denetimleri açısından oldukça yetkin. Ancak devlet işlerinde yapay zekâyı tamamen sorumlu kılmak bir adım öteye geçiyor. İnsan faktörü hâlâ kritik öneme sahip; etik değerlendirmeler, hukuki sorumluluk ve öngörülemeyen durumların yönetimi için insan kontrolü şart” açıklamasında bulundu.

CİDDİ RİSKLER İÇERİYOR

“Yapay zekâ, mevcut sistemleri destekleyen bir araç olabilir, ancak tüm karar mekanizmalarını tek başına devralması hâlâ ciddi riskler içeriyor” diyerek yapay zeka tehlikesine dikkat çeken Kırık, “Devlet işlerinde yapay zekâya güvenebiliriz, ama tamamen güvenmek şu an için riskli olur. Çünkü yapay zekâ hatasız gibi görünse de algoritmaların önyargıları, yazılım hataları, veri eksiklikleri veya siber saldırılar gibi sorunlar her zaman söz konusu olabilir. Özellikle kamu ihaleleri gibi büyük mali kaynakların söz konusu olduğu alanlarda, yapay zekânın insan denetimiyle desteklenmesi güvenliği artırır ve şeffaflığı sağlamaya yardımcı olur. İnsan faktörünü tamamen devre dışı bırakmadan, yapay zekâyı bir danışman ve denetleyici olarak kullanmak en sağlıklı yaklaşım olur. Arnavutluk’un bu hamlesi, geleceğin devlet yönetiminde yapay zekânın oynayacağı rolü gösteriyor. Türkiye’de de benzer uygulamalar gündeme gelebilir, ancak acele etmeden, pilot projelerle başlamalıyız. Yapay zekâ devlette güçlü bir yardımcı olabilir, ama tamamen tek başına karar verici olması hâlâ tartışmalı ve riskli bir adım olur. Önümüzdeki yıllarda dünyada bu tür uygulamaların artacağını ve devlet yönetiminin giderek dijitalleşeceğini öngörmek mümkün; ancak insan gözetimi ve hukuki çerçeve her zaman vazgeçilmez bir unsur olarak kalacak” ifadelerini kullandı.

Kaynak : HABER MERKEZİ