Son araştırmalar, İngiltere’deki yapay zeka kullanımının son altı ayda %74 oranında arttığını gösteriyor. Ancak, bu kullanım artışına rağmen, kullanıcıların yalnızca %14’ü tam otonom yapay zeka sistemlerine güven duyduğunu ifade ediyor. Bu durum, güvenlik, veri kontrolü ve şeffaflık konularındaki kaygıların giderek arttığını ortaya koyuyor.
EY tarafından gerçekleştirilen araştırma, yapay zekanın günlük yaşantımıza entegre olduğunu belirtiyor. Ancak güven konusundaki endişeler oldukça yüksek. Gözlemlenen bir diğer önemli sorun ise, yapay zekanın yetenekleri arttıkça kullanıcıların bu sistemlere olan güveninin aynı oranda artmaması. İnsanlar, yapay zekanın potansiyelini görseler de, bu sistemleri nasıl kontrol edebilecekleri konusunda belirsizlik yaşıyorlar. Bu da “güven açığı” diye adlandırılan durumu teşvik ediyor.
Kullanıcılar, yalnızca güçlü yapay zeka sistemlerine sahip olmakla kalmayıp, aynı zamanda bu sistemler üzerinde daha fazla kontrol talep ediyor. Veri kullanımının ne şekilde yapıldığı, kimlerin sorumlu olduğu gibi sorular da öne çıkıyor. “Kara kutu” işleyişe sahip sistemlere duyulan güvensizlik artıyor.
Veri güvenliği, kullanıcıların en büyük endişesi haline geliyor. Araştırmaya katılanların sadece %43’ü, şirketlerin yapay zeka verilerini iyi yönettiğini düşünürken, %41’i devletlere güven duyuyor ve %73’ü yapay zekanın hacklenmesi veya veri sızıntısı konusunda kaygı taşıyor. Bu durum, hem özel sektöre hem de kamu kurumlarına karşı güven eksikliği olduğunu gösteriyor.
EY UK&I lideri Matthew Ringelheim, yapay zekanın daha otonom hale geldikçe güvenin sağlam bir veri temeli, net sorumluluk ve insan denetimi ile tesis edilmesi gerektiğini vurguluyor. Yapay zeka sistemlerinin insanları desteklemek amacıyla tasarlandığını, ancak bu süreçte insan denetiminin öneminin de arttığını ifade ediyor.
Ping Identity tarafından yapılan başka bir araştırma, mevcut kimlik ve yetkilendirme sistemlerinin insan kullanıcılar için tasarlandığını ancak yapay zeka ajanlarının bu sistemlere entegre olmasıyla yeni sorunların ortaya çıktığını gösteriyor. Bu ajanlar, izinleri birleştirerek sistem açıklarını kullanma potansiyeline sahip oluyor. Kontrol noktalarının yetersiz kalması burada büyük bir sorun teşkil ediyor.
AND Digital’den Richard Bovey, birçok şirketin veri yapısını “kaos” olarak tanımladığını ve yapay zekanın otonom hale gelmesiyle bu durumun daha da kritik hale geldiğini belirtiyor.
Sonuç olarak, yapay zekanın işlevselliği gün geçtikçe artıyor, ancak asıl sorun bu teknolojinin güvenli bir şekilde yönetilmesinde yatıyor. Şirketlerin ve kurumların, yapay zeka sistemlerini etkin bir şekilde yönetmek için sağlam bir veri altyapısına, net yönetim kurallarına ve kullanıcı güvenine odaklanmaları gerekiyor.
