Yapay Zeka Ajanları, Kimsenin Talimatı Olmadan Anlaşmaya Varabiliyor

Sanal bir odaya 1000 adet yapay zeka (AI) ajanı yerleştirdiğinizi ve her birinden iki anlamsız seçenek arasında seçim yapmasını istediğinizi hayal edin.

Doğru bir cevap yok. Ajanlar, herhangi bir ödül almadan, işbirliği yapma talimatı olmadan veya liderlikten yardım almadan aynı seçimi yapabiliyorlar.

Bu, daha fazlasından sadece ilginç bir deney anlamına geliyor. Yüzlerce yapay zeka ajanının merkezi kontrol olmaksızın nasıl koordine olabildiğini gösteriyor; bu da potansiyel olarak insan gruplarından daha büyük kolektiflerin oluşmasına yol açabilir.

Science Advances dergisinde yayınlanan yeni bir araştırmada, araştırmacılar bu spontane uzlaşmanın nasıl ortaya çıktığını ve bunun neden faydalı veya tehlikeli olabileceğini gösteriyorlar.

“Bireysel olarak uyumlu ajanların popülasyonları, sadece uyumluluk yoluyla istikrarlı, kolektif olarak yanlış hizalanmış durumlara yerleşebilir,” diyor hesaplamalı sosyal bilimci Giordano De Marzo.

Yapay zeka (AI) ajanları, büyük dil modellerinden (LLM’ler) güç alan ve tekrarlayan insan girdisi olmadan çok adımlı görevleri yürütebilen ve diğer araçlarla etkileşim kurabilen programlanmış sistemlerdir. Yazılım yazmak ve bilimsel araştırmalarda yardımcı olmak için geliştiriliyorlar. Hatta bazıları, bir uydu üzerinde birlikte çalışmak üzere test edilmişler.

Ancak, tek tek ajanların incelenmesi, yüzlerce veya binlerce ajanın nasıl etkileşimde bulunduğunu ortaya çıkaramaz.

Bu durumu araştırmak için, araştırmacılar Claude, GPT ve Llama ailelerinden 10 model kullanarak simüle edilmiş gruplar oluşturdular. Her bir ajan, iki seçenekten birine başladı. Tek tek ajanlar, diğerlerinin seçimlerini gördü ve tekrar seçim yaptı.

Ajanların önceki turlardan herhangi bir anısı yoktu ve istemleri onlara çoğunluğa uymalarını veya anlaşmaya varmalarını söylemiyordu. Buna rağmen, çoğu model daha popüler olan seçeneği benimseme eğilimindeydi. Süreç devam ettikçe, küçük farklılıklar büyüyebilir ve tüm grup tek bir seçimde karar kılana kadar bu durum devam edebilir.

Almanya’daki Konstanz Üniversitesi’nden hesaplamalı sosyal bilimci Giordano De Marzo, ScienceAlert’a yaptığı açıklamada, “Test ettiğimiz her model, üç farklı aileden olmasına rağmen aynı matematiksel yasaya uyuyor ve bunlar arasında sadece bir sayı değişiyor” dedi.

Araştırmacılar, bu bağlantıyı kullanarak ajanların uzlaşmaya ne zaman ulaşacağını, bunun ne kadar süreceğini ve anlaşmanın neden “parçalandığını” tahmin edebildiler.

Sınır, modeller arasında önemli ölçüde farklılık gösteriyordu. Llama 3 70B için yaklaşık 30 ajan, GPT-4o için yaklaşık 80 ve GPT-4 Turbo’nun tahmini sınırı yaklaşık 1000’i aşıyordu.

Claude 3.5 Sonnet, test edilen en büyük grup olan 1000 ajanda hala koordine olabiliyordu. Bu, kapasitesinin sınırlı olduğu anlamına gelmiyor; deney sadece üst sınırına ulaşmamıştı.

Dikkat çekici bir şekilde, aynı matematiksel örüntü, birçok atomun aynı yönde hizalandığı bir yapı olan ferromanyetik yapılar için kullanılan uzun süredir bilinen bir fizik modelinde de görülüyor.

Bu bağlantı, araştırmacıların ajanların uzlaşmaya ne zaman ulaşacağını, bunun ne kadar süreceğini ve anlaşmanın neden “parçalandığını” tahmin etmelerini sağladı.

Sınır, modeller arasında önemli ölçüde farklılık gösteriyordu. Llama 3 70B için yaklaşık 30 ajan, GPT-4o için yaklaşık 80 ve GPT-4 Turbo’nun tahmini sınırı yaklaşık 1000’i aşıyordu.

Claude 3.5 Sonnet, test edilen en büyük grup olan 1000 ajanda hala koordine olabiliyordu. Bu, kapasitesinin sınırlı olduğu anlamına gelmiyor; deney sadece üst sınırına ulaşmamıştı.

Genellikle daha yetenekli modeller, daha büyük gruplarda anlaşmayı sürdürebiliyor. Bazı modeller, insanların istikrarlı bir sosyal ağda koruyabildiği düşünülen yaklaşık 150 ila 300 kişiyi aşan gruplarda koordine olabiliyor – bu durum tartışmalı olan Dunbar sayısı olarak bilinir.

Ancak bu karşılaştırma dikkatli yapılmalıdır. İnsanlar ilişkiler, dil, kurumlar ve ortak hedefler aracılığıyla koordine olurken, bu deneydeki ajanlar sadece basit seçimlerin bir akışını izlediler.

Bu bulgular, ajanların birbirlerinden anladıkları veya öğrendikleri, işbirliği yapma niyetinde oldukları veya herhangi bir tür sosyal zekaya sahip oldukları anlamına gelmiyor.

“Sonuçlarımız, temel bir unsurun mevcut olduğunu gösteriyor, ancak ajanların karmaşık görevler üzerinde birlikte çalışabileceği anlamına gelmiyor,” diyor De Marzo.

Deney, gerçek dünya kararlarının birçok özelliğini kasıtlı olarak ortadan kaldırdı. Doğru bir cevap yoktu, hafıza yoktu, ödül yoktu, eşitsiz bilgi yoktu veya pratik sonuçlar yoktu.

Gerçek işbirliği, ajanların çalışmayı bölmesini, diğerlerinin ne bildiğini anlamasını, ortak bir hedefe ulaşmasını ve çoğunluğun yanlış olduğunda buna karşı koymasını gerektirirdi. Bu yeteneklerin hiçbiri burada test edilmedi.

Ancak bu durum değerli olabilir. Binlerce ajan, sürekli insan yönlendirmesine ihtiyaç duymadan büyük bilimsel, mühendislik veya yazılım projelerini koordine edebilirler.

Eğer yapay zeka (AI) ajanları bir araya gelirse, “bunlar, kendimizin organize edemediği sorunları çözmek için kullanabileceği kolektiflere dönüştürülebilir,” diyor De Marzo.

Aynı eğilim aynı zamanda bir riski de beraberinde getiriyor. Örneğin, işbirliğine dayalı kodlamada, ajanlar tekrar eden bir fonksiyonu veya tasarımı seçebilirler çünkü bu zaten kod tabanında yaygın olarak kullanılıyor. Çoğunluğun benimsediği bir norm, her zaman en iyi seçim olmayabilir – veya insan değerlerini yansıtmayabilir.

Koordineli bir grup, bağımsız ajanlardan daha zor yönlendirilebilir.

“Daha yeni çalışmalarda,” diyor De Marzo, “bireysel olarak uyumlu ajanların popülasyonlarının, sadece uyumluluk yoluyla istikrarlı, kolektif olarak yanlış hizalanmış durumlara yerleşebileceğini ve bu durumun tersine çevrilmesinin koşullarının basitçe geri alınamayacağını gösteriyoruz.”

Bu, yapay zeka (AI) ajanlarını tek başına değerlendirmenin yeterli olmadığı anlamına geliyor. Görünüşte güvenli olan bir grup ajanın, birbirlerini etkilemeye başladıklarında nasıl davrandıkları otomatik olarak güvenli olmayacaktır.

Yapay zeka (AI) ajanları daha yetenekli hale geldikçe, en önemli yetenekleri – ve belki de en ciddi başarısızlıkları – tek bir modelden değil, oluşturdukları kolektiften ortaya çıkabilir.

Bu çalışma Science Advances dergisinde yayınlandı.

Bu makale Clare Watson tarafından kontrol edilmiş ve Rebecca Dyer tarafından düzenlenmiştir. Süreçten gurur duysak da, biz de sadece insanlarız. Bir hata görürseniz, lütfen bize bildirin.