Fast Company Türkiye
ALİ OTUZOĞLU/GenZ Danışma Kurulu Üyesi
Yale Üniversitesi
Yapay zeka kullandığını söyleyen tüm şirketler, bu teknolojiden gerçekten yararlanıyor ya da kendisi mi geliştiriyor? Yoksa tıpkı ‘greenwashing’de olduğu gibi sahte bir algı yaratılarak ‘AI-washing’ mi yapılıyor? Bu alanda kayda değer örnekler ve uyarılar var.
Yapay zeka iş dünyasının yeni favorisi. Sadece teknoloji alanında değil finansal planlamadan video üretimine kadar birçok alanda karşımıza çıkıyor. Tüm toplantılarda, raporlarda yapay zekaya değinilmeden geçilmiyor. Peki yapay zekâ kullandığını öne süren şirketler bu teknolojiden gerçekten yararlanıyor mı? Yoksa sahte ekolojik imajı ifade eden ‘greenwashing’in yapay zekâ versiyonu olan ‘AI-washing’ mi yapılıyor?
Hindistan’daki çalışanlar mı, AI mı?
Amazon yıllardır “Just Walk Out” teknolojisi ile kasiyersiz mağazalar açıyor. Alışverişin geleceği olarak lanse edilen bu teknolojiyle mağaza içinde alışveriş yapan müşteriler, ürünleri raflardan alıp çıkabiliyor. Yani ödeme süreci tamamen ortadan kaldırılıyor. Ancak, Amazon’un eski çalışanlarına göre, bu sistem yapay zekanın değil Hindistan’daki binlerce çalışanın denetiminde. Bu iddiayı yanıtlayan Amazon’a göre ise insan denetimi sadece yapay zekâ algoritmalarını geliştirmek için devreye giriyor. Bununla birlikte Business Insider’ın bir raporuna göre, 2022 yılında “Just Walk Out” teknolojisi ile satılan ürünlerin yüzde 70’i insan denetiminden geçti. Aslında bu durum, yapay zekâ alanında sıkça rastlanan bir durum.
Benzer şekilde finansal hizmetler sektöründe de firmalar, yatırım tavsiyelerini otomatik olarak sunduklarını ve portföy yönetimini yapay zekâ ile gerçekleştirdiklerini iddia ediyor. Ancak tıpkı Amazon örneğinde olduğu gibi bu hizmetler de arka planda büyük ölçüde insan müdahalesine ihtiyaç duyuyor. Yani birçok durumda yatırım kararları, yapay zekâ algoritmalarından ziyade, insan analistlerin değerlendirmelerine dayanıyor. Bazı sağlık teknolojisi şirketleri de yapay zekâ ile hastalık teşhisi koyduklarını iddia ediyor. Ancak bu sistemlerin büyük bir kısmı, sadece veri toplama ve ön analiz aşamasında yapay zekâyı kullanıyor ve son teşhis insan doktorlar tarafından yapılıyor. Tüm bu örnekler AI teknolojisiyle yanıltıcı bir algı yaratılabileceği anlamına geliyor.
Arka arkaya uyarılar
O nedenle kamu kuruluşları da zaman zaman uyarılarda bulunuyor. Amerikan Federal Ticaret Komisyonu Şubat 2023’teki açıklamasında tüketicilere ve yatırımcılara ‘AI washing’ uyarısı yaparak dikkatli olmaları çağrısında bulundu. Amerikan Menkul Kıymetler ve Borsa Komisyonunun (SEC) denetim kurulu başkanı Gary Gensler de Yale Üniversitesinde yaptığı bir konuşmada yapay zekâyı yeterince iyi anlamamanın tehlikelerine dikkat çekti. Gensler, yapay zekânın temel prensiplerinin ve işleyiş mekanizmalarının karmaşıklığından dolayı hem tüketici hem de yatırımcıların anlamakta zorluk çekebileceğini ve dolayısıyla yanıltılmalarına yol açabileceğini dile getirdi. Gensler, yatırımcıların, yapay zekâ teknolojilerini kullandığını iddia eden şirketler hakkında yeterli bilgiye sahip olmaları gerektiğini ve bu bilgilerin doğruluğunun denetlenmesinin önemini de vurguladı. Yapay zekâ teknolojilerinin anlaşılmasını kolaylaştırmak için teknoloji okuryazarlığının artırılması gerektiğinin altını çizen Gensler, akademik kurumlar ile sektör arasındaki işbirliğinin önemine dikkat çekti.
Yatırım almak için mi?
Araştırmalar da yapay zeka teknolojilerinin bir miktar abartıldığını destekler nitelikte. MMC Ventures’un 2019’da yayınladığı “State of AI 2019: Divergence” raporu, Avrupa’da yapay zekâ kullandığını iddia eden 2 bin 830 şirketi analiz etti. Bu şirketlerin yüzde 40’ının, gerçekte kayda değer bir yapay zekâ teknolojisi kullanmadığı tespit edildi. Bu bulgu, AI-washing kavramının yaygın olduğunu ve birçok şirketin yapay zekâ kullanmadığı halde bu iddiayı ortaya attığını gösteriyor. Çünkü yine aynı araştırmaya göre yapay zekâ odaklı girişimler, teknoloji sektöründeki diğer girişimlere göre yüzde 15 daha fazla yatırım çekiyor.
Teknoloji okuryazarlığı önemli
Yapay zekânın temel bileşenlerinden biri olan makine öğrenimi, aslında günlük yaşamımızda birçok yazılımda zaten bulunuyor. Örneğin kullanıcıların arama alışkanlıklarını analiz ederek en uygun sonuçları sunan Google aramalarından, izleme geçmişine göre kullanıcıya uygun video önerileri sunan YouTube önerilerine kadar birçok alanda zaten kullanılıyor. Bu durumda, Google’ı aratan veya ChatGPT’yi kullanan herhangi bir firma yapay zekâya dayandığını iddia edebilir. İstatistiksel analizi içeren birçok süreç, yapay zekâ çatısı altında sayılabilir. Bu yanlış anlama, özellikle yatırımcılar için tehlikeli. Günümüzde, yapay zekâ girişimlerine büyük bir sermaye akışı var. PwC’nin bir raporuna göre, yapay zekânın dünya ekonomisine 2030 yılına kadar 15.7 trilyon dolar katkıda bulunması bekleniyor. Bu katkının, 6.6 trilyon dolarının artan verimlilikten ve 9.1 trilyon dolarının ise tüketici tarafındaki etkilerden kaynaklanacağı öngörülüyor.
Tüketiciler ve yatırımcılar, yapay zekâ kullandığını iddia eden şirketlerin bu teknolojiyi nasıl kullandığını iyi anlamalı. Çünkü teknoloji okuryazarlığı geliştirerek, AI-washing yanıltmasından korunabilirler. Bu da gerçek yapay zekâ uygulamalarını tanımlamayı ve sahte iddiaları ayırt etmeyi kolaylaştırır.
