Kredi kartı ekstrelerimizde her ay gördüğümüz o küçük işlem kodlarının arkasında, insan gözünün saniyede bin defa baksa bile fark edemeyeceği yüz binlerce veri noktası dönüyor. Finans dünyası uzun süredir kodlarla ve algoritmalarla çalışıyor ancak ortada kimsenin yüksek sesle konuşmak istemediği bir açık var: Kararları veren algoritmaların denetimi kimde?
Mastercard’ın finans sektöründeki yapay zeka yönetişimi üzerine yaptığı son değerlendirmeler, bu sorunun artık kapalı kapılar ardında konuşulamayacak kadar büyüdüğünü gösteriyor. Bankalar ve ödeme sistemleri devasa veri setlerini işlerken, sistemin başına “akıllı” ama tamamen şeffaf olmayan bir yapının geçmesi, sektörün en büyük korkusu haline geldi. Kimse, milyonlarca liralık bir kredi onayının veya redkinin, sebebi anlaşılamayan bir yazılım kararından kaynaklanmasını istemiyor.
Kullanıcının asıl problemi, borçlanma veya harcama süreçlerindeyken karşısına çıkan engellerin arkasındaki mantığı görememek. Bir gün sistem tarafından “şüpheli” bulunup kartınız bloke olduğunda, müşteri hizmetlerindeki temsilcinin dahi size “Sistem böyle uygun gördü” demekten başka çaresinin kalmadığı anları hatırlayın. Bu tıkanıklık, finans teknolojilerinin hızla büyümesinin yarattığı en büyük güven krizini besliyor.
Şirketlerin bu meseleyi şimdi gündeme getirmesinin sebebi, yapay zekanın sadece arka planda çalışan bir yardımcı olmaktan çıkıp, doğrudan operasyonel kararlar alan bir otoriteye dönüşmesi. Düzenleyici kurumlar da boş durmuyor; Avrupa Birliği’nin yapay zeka yasaları gibi hamleler, finans kuruluşlarını bu kara kutu sorununu çözmeye zorluyor. Algoritmaların nasıl karar verdiğini açıklayabilmek, yani “açıklanabilir yapay zeka” kavramı, lüks olmaktan çıkıp zorunlu bir hukuki ve ticari zemine oturuyor.
Finans ekosistemindeki dev oyuncuların yönetişimden bahsetmesi çoğu zaman halkla ilişkiler hamlesi gibi görünebilir. Ancak işin mutfağında olanlar bilir ki, denetlenmeyen bir algoritma yarın milyar dolarlık yanlış fonlamalara ya da milyonlarca kişinin mağduriyetine yol açarsa, faturayı ödeyecek olan teknoloji sağlayıcıları değil, doğrudan finans kurumlarının kendisi olacak.
Yarın ödeme yaparken ya da kredi başvurusu yaparken karşınıza çıkan ekranlar sihirli bir şekilde değişmeyecek. Fakat arkadaki mekanizmanın biraz daha denetlenebilir olması, en azından hatalı bir kararla karşılaştığınızda başvurabileceğiniz somut bir itiraz mekanizmasının önünü açacak.
Önümüzdeki dönemde finans uygulamalarında “Yapay zeka bu kararı neden aldı?” sorusuna net yanıtlar veren arayüzler görmeye başlayacağız. Bu durum, teknolojinin kendisini daha akıllı yapmaktan ziyade, insan denetimini ve sorumluluğunu yeniden merkeze koyma çabasından başka bir şey değil.