Arnavutluk'un Ulusal Bilgi Toplumu Ajansı (AKSHI) tarafından geliştirilen ve "Sanal Bakan" olarak ülkenin kabinesinde yer alan yapay zeka sistemi "Diella"nın kamuoyuna tanıtılmasının ardından bu teknolojinin siyasette yer alması, birçok kişi tarafından tartışma konusu oldu.

Diella'nın tanıtımı ve Japonya'da "Saisei no Michi" (Yeniden Doğuşa Giden Yol) partisi liderinin yapay zeka olacağının açıklanması, kimileri tarafından siyasette yenilikçi deneme olarak görülürken sorumluluk ve şeffaflık açısından da soru işaretleri doğuruyor.

Erlangen-Nürnberg Üniversitesi Yapay Zeka Etiği ve Felsefesi Uzmanı, Avrupa Bilişsel Sistemler Derneği Başkanı Prof. Dr. Müller, yapay zekanın siyaset ve devletlerdeki olası konumu ve siyasi kararlarda uygulanabilirliği konusunda AA muhabirine değerlendirmelerde bulundu.

Büyük dil modelleri gibi yapay zeka sistemlerinin belirli veri setleriyle beslenerek çalıştığına dikkati çeken Müller, objektif cevapların bulunduğu bazı yapıların içinde çalışmaları gerektiğinden doğal açıdan belirli ön kabullere sahip olacaklarını vurguladı.

Müller, bu sistemlerin yolsuzluk gibi sorunlarla başa çıkılmasında işe yarayabileceğini belirterek, "Bir tür otomatik ya da yarı otomatik sistemin, bu tür (yolsuzluk gibi) vakalarda bize yardımcı olabileceğini görebiliyorum." dedi.

Yapay zekanın ölçülebilir gerçek sonuçlara dayalı kararlarda kullanılmasının uygun olacağını söyleyen Müller, sistemlerin sübjektif konularda ise beklenen başarıyı gösteremeyeceği görüşünü paylaştı.

Müller, kamu ihalelerini denetlemesi ve ihale süreçlerini adil ve şeffaf biçimde yürütmesi öngörülen Diella konusunda ise "Tüm bu durumlarda sadece ölçülebilir kriterler kullanmanızın iyi olmayacağını düşünüyorum." yorumunu yaptı.

İhaleler gibi konularda fiyat, kalite, zaman ve devamlı başarı gibi birçok faktörün göz önünde bulundurulmasının önemine dikkati çeken Müller, karar alma konusunda yapay zeka veya otomatik sistem kullanılmasının kriterlere ve kararın önemine bağlı olduğunu dile getirdi.

"Bir bilgisayar asla sorumlu tutulamaz"

Amerikan teknoloji şirketi IBM'in 1979'daki eğitim kılavuzunda, "Bir bilgisayar asla sorumlu tutulamaz, bu nedenle bir bilgisayar asla yönetim kararı almamalıdır." ifadesi dikkati çekiyor. Yapay zeka ve bilgisayarların sorumluluk alamayacağı, bu sebeple insanların yerine karar vermemesi gerektiğini gösteren bu cümle, önemli kararların neden yapay zeka tarafından verilmemesi gerektiğini özetliyor.

Her ne kadar küresel toplumda yapay zekanın neredeyse her sektöre entegrasyonu devam ediyor olsa da karar verme ve almadaki insani unsur önemini koruyor.

Prof. Dr. Müller, ofise zarf alınması ve hastaneye manyetik rezonans görüntüleme (MRI) cihazı alınması örneklerini karşılaştırarak, nispeten basit kararların yapay zekayla otomatikleştirilmesinin daha uygun olacağının altını çizdi.

Yapay zeka tarafından alınabilecek kararın basitliğinin yanı sıra önemine de işaret eden Müller, önemli kararlarda ölçülebilir kriterlerden farklı faktörlerin de göz önünde bulundurulduğunu belirtti.

Müller, MRI örneğine ilişkin, "En ucuz makine iyi bir seçenek olabilir ama eğer biraz daha pahalı olan daha fazla hayat kurtarıyorsa ya da uzun vadede daha güvenilirse o zaman belki de başlangıçta daha fazla para harcamak daha iyidir." değerlendirmesinde bulundu ve birçok farklı kriterin göz önünde bulundurulması sebebiyle doğru veya yanlış sonuçlar doğurabilecek kararların yapay zeka tarafından alınmasının zorluğunu vurguladı.

Alınan kararlarda diğer bir noktanın ise hata olasılığı ve sorumlu tutulabilirlik olduğunu vurgulayan Müller, yüksek önem taşıyan kararlarda yanlış seçimlerin yapılması olasılığında hata sahibi kişinin sorumlu tutulmasının önemine işaret etti.

Müller, "Her şeyden önce karar ne kadar büyük olursa bunu bir tür otomatik sisteme tahsis etme olasılığımız o kadar azalır." uyarısında bulundu.

Yapay zeka sistemlerine tahsis edilecek karar yetkilerinin seviyesinin yüksek olmaması konusunda örnek veren Müller, ofis için en uygun zarfın bulunmasının sisteme bırakılmasında bir sorun olmazken bir araştırma görevlisinin seçilmesinde bu sistemlere hem güvenilemeyeceğini hem de bu kararı alırken olası hatada sisteme hesap verebilirlik tahsis edilemeyeceğinin altını çizdi.

Müller, Hollanda'nın sosyal güvenlik sisteminde yapay zeka kullanılması ile yaşanan problemi örnek göstererek, bu hata sonucu ihtiyaç sahibi birçok kişinin ödeme alamadığını ve sonucunda hükümetin istifa etmek zorunda kaldığını anlattı.

Yapay zekanın ön yargısız karar vermesi mümkün değil

Makine öğrenim sistemlerinin kararları neye göre verdiğinin henüz tam olarak bilinmediğine dikkati çeken Müller, "Sistemin ne yaptığını gerçekten bilmiyorsunuz. Derin öğrenme ağı, otomatik ve tarafsız bir yargıcın tam tersidir çünkü bir teknik ön yargıya sahip olmak zorundadır ve teknik ön yargının tam olarak ne olduğunu bilemezsiniz çünkü ona çok fazla veri atarsınız." diye konuştu.

Prof. Dr. Müller, bu sistemdeki belirsizliğin önemine işaret ederek, sistemin belirli verilere göre genel kararlar verdiğini ancak mevcut datalarda yer almayan olağanüstü durumlarda olağan dışı kararlar verebileceğini söyledi.

Bu durumu "sınırlı miktarda veri ve sınırsız uygulama alanı" olarak tanımlayan Müller, LLM'lerin alabileceği kararların istatistiksel olarak normal olacağını belirtti.

Müller, "Her şeyden önce doğru kararlar verecek bir sistem yapmak temelde imkansız. Ayrıca bu, sistemin tarafsız olmasını da imkansız hale getirecektir. Karar vermek için ön yargılı olmak zorundadır." dedi.

Yapay zekanın siyasetteki yeri

Yapay zeka sistemlerinin siyasi ortamlara uygulanması tartışmalara yol açıyor. Bazıları bu uygulamanın teknolojik gelişimlere ayak uydurmanın bir parçası olduğunu savunurken sistemlerin oluşturabileceği olası etik ve ideolojik sorunlar, eleştiri ve endişelerin hedefi oluyor.

Siyasette alınan kararların, sadece mantıksal veya istatiksel değil ideolojik ve taraflı olduğunu söyleyen Müller, siyasetçilerin karar verirken çok fazla faktörü ve çok fazla katmanı göz önünde bulundurması gerektiğinin altını çizdi.

Müller, siyasetçilerin verdikleri kararlara ilişkin, "Bunu otomatikleştirmenin hiçbir yolu yok." dedi.

Öte yandan ruhsatların kontrol edilmesi gibi istatiksel devlet prosedürlerinin otomatikleştirilmesinin oldukça mümkün olduğunu vurgulayan Müller, yapay zekanın siyasette yer alması uygulanabilir bir olasılık olmasa da devlet işlerinde pek çok yerdeki işlerin hızlanmasına ve kolaylaşmasına yarayabileceğini sözlerine ekledi.