Yapay Zeka Aracıları, Gizlilik ve Etik Güveni Azaltıyor

Yapay zeka ajanları hakkında konuşmak kolay, ancak bunları kuruluşlara tanıtmak beklenenden daha karmaşık görünüyor. İlk heyecan, özellikle iki konu -gizlilik ve etik- konusunda ihtiyata yerini bıraktı; bu konular, kuruluşlardaki güvenin %43'ten %27'ye düşmesine neden oldu. Bu durum, yapay zeka ajanlarının kuruluşlar içinde muazzam bir potansiyeli açığa çıkarabilecek "meslektaşlar" olarak görünmelerine rağmen gerçekleşti. Capgemini Araştırma Enstitüsü'nün "Ajanslı Yapay Zeka'nın Yükselişi: Güven, insan-yapay zeka iş birliğinin anahtarı nasıl?" başlıklı raporu, ajanslı yapay zekanın 2028 yılına kadar küresel olarak 450 milyar dolara kadar ekonomik değer yaratabileceğini tahmin ediyor. Ancak buna rağmen, bir yandan güven duyduğunu söyleyen şirket sayısı azalırken, diğer yandan dünya genelinde beş yöneticiden ikisi, İtalya da dahil olmak üzere 14 ülkede ve 13 farklı sektörde, yıllık geliri 1 milyar doları aşan kuruluşlardaki 1.500 yönetici arasında gerçekleştirilen rapora göre, risklerin bu aşamada faydalardan daha ağır bastığına inanıyor.

Gerçekte, yeni Yapay Zeka araçlarının hızla evrimleşmesi, kuruluşların herkes için sürdürülebilir bir şekilde uyum sağlama ihtiyacını ortaya koyuyor. Şirketlerin önemli bir yüzdesi destek amaçlı aracı yapay zeka kullanırken, otonom kullanım söz konusu olduğunda durum farklı. Şirketlerin yalnızca %40'ı, görevleri ve süreçleri otonom olarak yönetmek için yapay zeka aracılarına güvendiğini söylerken, çoğunluk teknolojiye tam olarak güvenmiyor.

İtalyan kuruluşları, küresel eğilimlerle uyumlu olarak, yapay zeka ajanlarına 2024'tekinden daha az güveniyor. İtalyan kuruluşlarının yaklaşık %60'ı, Agentic AI kullanımıyla ilgili gizlilik sorunları, güvenlik riskleri ve istenmeyen önyargı riskinden endişe duyuyor. İtalyan kuruluşları, önümüzdeki 12 ay içinde yapay zeka ile iş birliğinin ekip üyelerinin becerilerini artırmasını beklerken, aynı kuruluşlar üç yıl sonrasına bakıldığında yapay zeka ajanlarını insan gözetimindeki ekiplerin özerk üyeleri olarak görüyor.

İtalyan veri dökümü, kısa ve orta vadede farklı bir yaklaşımı ve ilgili işlevlerin evrimini gözler önüne seriyor. Dolayısıyla, önümüzdeki 12 ay içinde, kuruluşların yapay zeka temsilcilerinin günde en az bir süreci veya alt süreci yönetmesini beklediği işlevler arasında Satış, BT, Pazarlama ve İletişim ve Finans öne çıkıyor. Zaman dilimi üç yıla çıkarıldığında ise liste uzuyor ve operasyonlar da İtalyan kuruluşlarının Yapay Zeka Temsilciliğinden en çok etkileneceğine inandığı işlevler arasında yer alıyor.

İtalya'daki Capgemini CEO'su Monia Ferrari'ye göre, "Yapay zeka ajanlarının ekonomik potansiyeli muazzam, ancak bunu gerçeğe dönüştürmek yalnızca teknolojiden fazlasını gerektiriyor: İnsanları, süreçleri ve sistemleri içeren stratejik ve yapılandırılmış bir dönüşüm gerektiriyor. Başarılı olmak için kuruluşların sonuçlara odaklanması ve süreçlerini 'önce yapay zeka' vizyonuyla yeniden düşünmesi gerekiyor. Bu dönüşümün merkezinde, yapay zekayı ilk aşamalardan itibaren etik ve güvenli bir şekilde geliştirerek güven oluşturma ihtiyacı yatıyor. Ayrıca, organizasyonel yapılar, insanlar ve yapay zeka arasında etkili bir sinerji yaratacak şekilde yeniden tasarlanmalı ve insan yargısından yararlanarak daha iyi iş sonuçları elde etmek için gerekli koşullar yaratılmalıdır."