Şu ana kadar neredeyse herkes bir yapay zeka aracına bir soru sormuş ve cevabın tam olarak doğru olmadığını fark etmiştir. Cevapta eksiklik, hata veya güncelliğini yitirmiş bilgiler olabilir. Bir yönetici asistanı bana seyahat programları ve özet metinler hazırlamak için yapay zeka araçlarını kullandığını, ancak o kadar çok sorunla karşılaştığını belirtti ki artık iş akışına hataları ve önyargıları titizlikle kontrol etmek için zaman ayırıyor.
İşin püf noktası da burada yatıyor: Yapay zeka yanıtları verimliliği artırabilir, ancak bu kazanımlar genellikle çıktının doğru ve uygun olup olmadığını belirlemek için harcanan zaman ve zihinsel enerjiyle dengelenir. Bu, doğrulama yüküdür.
Daha derin bir düzeyde bu yük, kısmen bir sisteme devredilmiş iş üzerinde yeniden otorite kurmaya çalışmanın ve aynı zamanda nihai ürünün sorumluluğunu elinde tutmanın getirdiği bilişsel maliyettir. Bilişsel mühendis David Woods bu sorunu 1985 yılında “sorumluluk-otorite ikilemi” olarak tanımlamıştı: Otomasyon pratik otoriteyi kullanır, ancak sorumluluk insana ait olmaya devam eder.

Ben bir bilişsel mühendisyim ve insanların otomatik karar destek sistemleriyle nasıl çalıştığını inceliyorum. Üretken yapay zekanın doğrulanması, uzun süredir var olan bir insan faktörü sorununun en son örneğidir: Yeni bir teknolojinin kullanımıyla ortaya çıkan yeni bir zorunlu iş türü.
Yapay zeka ile çalışanlar, bilgi oluşturma ve dönüştürmeyle ilgili bazı becerilerini, olağanüstü hızlı ve titiz bir stajyeri denetlemeye benzeyen ayrı becerilerle değiştiriyorlar. Zorluk ise bu stajyerin hem iyi hem de kötü işleri aynı kendinden emin ses tonuyla sunması, nerede incelemenin gerekli olduğuna dair çok az ipucu vermesi ve sonuçlardan hiçbir sorumluluk taşımamasıdır.
Yaratmak yerine doğrulamak
Araştırmalar, yeni bilgileri doğrulamanın onları yaratmaktan farklı bir görev olduğunu ve daha basit olmadığını gösteriyor. 86 çalışmanın meta-analizi, insanların sadece okudukları şeylerden çok daha iyi, kendi ürettikleri şeyleri hatırladıklarını ortaya koydu. Aynı durum bilgileri anlamak için de geçerli. Araştırmalar ayrıca kolay okunan ve anlaşılan materyallerin daha güvenilir göründüğünü ve insanların bu nedenle bunların doğru olma olasılığını daha yüksek bulduğunu gösteriyor.
Ancak insanlar yapay zeka yanıtlarını her zaman incelemiyor. Bunun yerine, ne zaman kontrol edeceklerine karar vermek için kendi içsel maliyet ve faydalarını tartma eğilimindeler. Yapay zeka çıktısına aşırı bağımlılığı durdurmak da zor. Bir araştırma ekibi, yapay zekanın akıl yürütmesine dair basit açıklamalar eklemenin bile insanların kontrol için gereken zaman ve enerjiyi ayırma konusunda hissettikleri ikilemi ortadan kaldırmadığını buldu. İnsanlar genellikle bu araçları ya yetenekli ya da yeteneksiz olarak algılıyor ve arada bir durum görmüyorlar.
Ekonomi akademisyenleri, ofis işlerinde üretken yapay zeka kullanımından gerçek verimlilik artışları olduğunu tespit ettiler. Ancak deneyimli yazılım geliştiricileriyle yapılan rastgele bir denemede herhangi bir kazanç görülmedi ve bir doğrulama adımı eklendiğinde tamamlama süreleri arttı. Şaşırtıcı bir şekilde, geliştiriciler yapay zekayı kullanırken daha hızlı olduklarına inanıyorlardı, ancak tamamlama süreleri %19 oranında arttı.
Büyük bir danışmanlık ekipleri çalışması ise insanların uzmanlık alanları dışında yapay zeka kullanmasının daha fazla kişinin yanlış sonuca varmasına yol açtığını gösterdi.
Bu çalışmalar evrensel bir doğrulama “vergi”sinin olduğunu kanıtlamıyor, ancak sadece çıktı üretme hızının neden verimliliğin eksik bir ölçüsü olduğunu gösteriyor.

Yaratma işini yapay zekaya bırakıp insanların çıktıyı doğrulamasını beklemek, motivasyonlarını tüketebilir. skynesher/E+ via Getty Images
Doğrulama neden zordur
Doğrulama, bilişsel yük, harcanan zaman ve motivasyon açısından yorucu gelebilir.
İnsanlar bilişsel bir yük hissediyor çünkü doğrulama temelde yaratmaktan farklıdır. Yarattığınız bir şeyin ne zaman “bittiğini” veya en azından görev için yeterli olduğunu genellikle bilirsiniz. Doğrulamayı ne zaman durduracağınız ise daha az açıktır. Çalışanın neyi ve nasıl kontrol edeceğine karar vermesi gerekir; bir hatanın var olup olmadığını, nerede olabileceğini veya ne şekilde ortaya çıkabileceğini bilemez.
Bu durum, havaalanı güvenlik kontrollerine benziyor: Nadir bir tehdit, denetçilerin nadir tehditlerin var olmadığı sonucuna kolayca varmaları nedeniyle sık görülen bir tehdide göre daha fazla kaçırılıyor. Bu yük, yapay zekanın birinin kendi değerlendirme kapasitesini aşan bir iş üretmesine yardımcı olduğu durumlarda daha da artar. Yakın tarihli bir çalışma, yapay zeka akıl yürütmesinin insanların kolay sorulardaki hataları yakalamasına yardımcı olduğunu, ancak en çok yardıma ihtiyaç duydukları zor sorularda yardımcı olmadığını buldu.
Zaman yükü ise bir hatayı bulmanın işi bitirmek yerine düzeltme ve ardından yeniden kontrol etme döngüsünü başlatmasından kaynaklanır. İnsanların yapay zeka tarafından oluşturulan önerileri nasıl değerlendirdiğine dair araştırmalar, tespit edilen bir hatayı düzeltmek için ne kadar çok çalışma gerekirse, insanların o hatayı gerçekten düzeltme olasılıklarının o kadar azaldığını gösterdi.
Son olarak, doğrulama motivasyonel bir yük de taşır. Yaratma görünür bir ilerleme sağlar, ancak doğrulama bazen hiçbir sorun olmadığını ortaya çıkarabilir. Otomasyon genellikle iyi performans gösterdiğinde, kontrol yapmak verimsiz görünebilir ve insanlar zamanla daha az dikkatli hale gelebilir. Bu örüntü, yirmi yıl önce otomatik karar alma sistemleriyle çalışan insanlar üzerinde yapılan bir çalışmada da tespit edilmişti.
Beceri değişimi
Bu yükler bir araya gelerek bir beceri değişimine yol açar. Yakın tarihli bir ankette, bilgi işçileri eleştirel düşünme yeteneklerinin üretimden doğrulamaya doğru kaydığını belirtti. Çalışanların ayrıca belirli bir yapay zeka aracının yeteneklerini ve sınırlarını, eksikliklerini ve önyargılarını nasıl tanıyacaklarını öğrenmeleri gerekiyor.
Bu beceriler farklıdır, ancak mutlaka daha kolay da değildir ve yaratmada başarılı olan çalışanların yetkinlik setinin bir parçası olmayabilir. Bu nedenle şirketler ve kuruluşlar doğrulamayı çaba gerektirmeyen doğal bir adım olarak göremezler. Eğer çalışanlar yapay zeka destekli çıktılardan sorumlu olmaya devam edeceklerse, bence onlara bunu doğrulamak için gereken zaman, eğitim ve yetki de verilmelidir.
Verimlilik kazanımlarının ölçümü, sadece yapay zekanın ilk taslağı ne kadar hızlı ürettiğini içermemelidir. Bunun yerine ölçüt, tüm insan-yapay zeka iş akışının daha düşük toplam bir maliyetle güvenilir işler üretip üretmediğidir.

Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔




İlk yorumu siz yazın
Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.