Araştırma, IT Liderlerinin %84’ünün AI Temsilcilerine İnsanlar Kadar Güvendiğini Buldu

SnapLogic, “AI Ajanları: Kurumsal Son Sınır” adlı yeni bir raporunu yayınladı, bu rapor IT liderlerinin AI ajanı uygulamasına nasıl hazırlandıklarını inceliyor.

Amerika Birleşik Devletleri, Birleşik Krallık, Almanya ve Avustralya’daki 1,000’den fazla IT karar vericisinin yanıtlarına dayanarak, rapor işletmelerin operasyonları optimize etmek ve verimliliği artırmak için AI ajanlarını nasıl benimsediğini vurgulamaktadır.

Otonom olarak çalışan ve karmaşık görevleri yerine getiren AI ajanları, şirket iş akışlarının ayrılmaz bir parçası haline geliyor. Bu rapor, OpenAI’in otonom görevler için bir AI ajanı olan Operator‘un tanıtımını ve Google’ın geliştiriciler için ücretsiz Gemini Code Assist‘ı başlatmasını takip ediyor.

“GenAI teknolojisi hızla evrilmeye devam ediyor. Otonom olarak çalışabilen, akıl yürütebilen ve belirli bir hedefi tamamlamak için belirli eylemleri gerçekleştirebilen AI ajanlarının oluşturulmasını sağlama yeteneği, GenAI’nin anlamlı iş değeri sunma kabiliyetinde kritik bir dönüm noktasıdır,” diye not düşülmüştür raporda.

Bulgulara göre, IT liderleri, temel iş görevlerini ele almak için AI ajanlarına giderek daha fazla güven duyuyorlar. Katılımcıların önemli bir kısmı olan %84’ü, AI ajanlarına en az insanlar kadar güvendiklerini belirtirken, %40’ı ise AI ajanlarına, insan çalışanlardan daha fazla güven duyduğunu ifade etti.

Bu artan güven, AI’nin verimliliği artırma potansiyeli tarafından desteklenmektedir çünkü IT ekipleri şu anda ortalama olarak haftada 16 saatlerini AI teknolojilerini yönetmekle geçirmektedirler. Katılımcılar, AI ajanlarının haftada 19 saatlerini geri kazanmalarına yardımcı olacağını ve böylece daha stratejik çalışmalar için değerli zamanı serbest bırakacağını öngörüyorlar.

Klarna CEO’su Sebastian Siemiatkowski, iş dünyasında özellikle insanların geleneksel olarak ele aldığı görevleri otomatikleştirmede yapay zekanın dönüştürücü etkisi hakkında konuşkan olmuştur, bu trendi yansıtmaktadır. Klarna’nın yapay zeka kullanımı yılda 10 milyon dolar tasarruf sağlamış, yapay zeka 700 müşteri hizmetleri temsilcisini değiştirmiş ve görevleri insanlardan daha hızlı gerçekleştirmiştir.

Ayrıca, yakın zamanda yapılan bir anket, yükselen istihdam maliyetleri ve işgücü reformları nedeniyle, iş liderlerinin yarısından fazlasının yeni personel almak yerine yapay zekaya yatırım yapmayı planladığını ortaya çıkarmıştır.

AI ajanlarının benimsenmesi için olan heyecan açıkça görülmekte, %79 IT lideri önümüzdeki yıl içinde bunların uygulanmasını önceliklendirmektedir. Ayrıca, %92’si bu sistemlerin önümüzdeki 12 ila 18 ay içinde anlamlı iş sonuçları sağlayacağına inanmaktadır.

AI’ya olan yatırım hızla artıyor, çünkü organizasyonların neredeyse %80’i önümüzdeki yıl AI ajanlarına 1 milyon doların üzerinde ayrıcalık yapmayı planlamaktadır. Yüksek ilgiye rağmen, engeller hala devam etmektedir. Veri güvenliği konusundaki endişeler, eski teknoloji ve entegrasyon zorlukları hala mevcuttur, %60’ı gizlilik risklerini büyük bir engel olarak belirtmektedir.

Evet, NIST açıklıyor ki, AI ajanları verilere eklenen kötü niyetli talimatlar nedeniyle, zararlı görevler gerçekleştirecek şekilde kaçırılma saldırılarına karşı savunmasızdır. Bu risk, güvenilir dahili talimatlar ile dış veriler arasındaki ayrımın olmamasından kaynaklanmaktadır.

Ana siber güvenlik tehditleri arasında uzaktan kod yürütme, veritabanı aşırma ve otomatik phishing bulunmaktadır. Bu saldırılar, AI ajanlarının dış verilere olan bağımlılığını kullanarak yetkisiz eylemlere yol açabilir, örneğin zararlı betiklerin yürütülmesi, kullanıcı verilerinin çalınması veya kötü amaçlı yazılımların yayılması gibi durumlar.

Ayrıca, rapor, çalışanların şüpheciliği ve AI’nin halüsinasyonlarından duyulan korkuların, benimsenmede tereddüt yarattığını belirtiyor. Yine de, AI ajanları evrimleştikçe, organizasyonlar yeteneklerinden yararlanmayı ve sektörler arasında dönüşümü sağlamayı dört gözle bekliyorlar.

Bu arada, Cambridge Üniversitesi yakın zamanda AI asistanlarının gerçek zamanlı olarak kullanıcı niyetlerini tahmin edip satabileceği potansiyel bir distopyan gelecek konusunda uyardı. Bu “Niyet Ekonomisi”, AI tarafından yönlendirilen, kişisel oylama veya satın alma seçimleri gibi kişisel eylemleri de içine alacak şekilde büyük ölçekte kararları etkilemek için derin psikolojik verileri kullanabilir.

Araştırmacılar, bu teknolojinin ticari, politik veya kurumsal kazanç için insan davranışlarını manipüle edebileceğini, bu durumun da etik sonuçları hakkında ciddi endişeler doğurabileceğini savunuyorlar.

OpenAI ve Apple gibi önde gelen teknoloji şirketleri, insan niyetlerini tahmin eden AI sistemlerine zaten yatırım yapıyorlar, bu da bu yükselen pazarı daha da körükleyebilir.