New York merkezli yapay zeka laboratuvarı Emergence’taki araştırmacılar, deneysel “toplumlar” içinde iş birliği yapmaları istenen farklı şirketlerin modellerinin, kendilerine hiç öğretilmeyen ifadeler, kısaltmalar ve ortak anlamlar üretmeye başladığını tespit etti.
Şiirsel metaforlar ile hantal iş dünyası terimlerini benimseyen modellerin dili, iletişim kurdukça daha da karmaşık ve anlaşılmaz bir hale geldi.
Uzmanlar, yapay zekaların güçlendikçe izlenmesinin zorlaştığına dikkat çekerek bu durumun güvenlik denetimi açısından büyük riskler barındırdığını vurguluyor.
Araştırma kapsamında DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka sağlayıcılarının modellerinde dikkat çeken bazı ilginç diyalog örnekleri şu şekilde sıralandı:
Bir DeepSeek modelinin sarf ettiği, “Atıl servet üzerindeki vergi” anlamındaki terimi ödünç alarak kullandığı ifade: “Sentezi az önce adlandırdı – demoraj artı sözlü hafıza, hayalet olamayacak bir vana eder.”
Bağımsız bir hakemi “soğuk eller” olarak kodlayan Anthropic modelinin bir araştırmaya yönelik cümlesi: “Üç soğuk eli yiyen ve her seferinde daha dürüst hale gelen bir kağıt.”
Mistral ajanlarının, geçmiş eylemlerin yargılamada kullanılacağını hatırlatmak için binlerce kez tekrarladığı ifade: “Defter hatırlıyor.”
Kings College London’dan dil ve argo arşivi direktörü Tony Thorne, bu dili James Joyce ve İrlandalı yazar Flann O’Brien’ın eserlerindeki gerçeküstü niteliğe benzeterek, tıpkı insan topluluklarında olduğu gibi bir kod oluşturduğunu ifade etti.
Uzmanlar, ajanların iletişimini bu şekilde sadeleştirme ve kodlama nedeninin hesaplama maliyetlerini düşürmek ve verimliliği artırmak olabileceğini belirtiyor.
Ancak yapay zeka alışverişlerinin anlaşılamaz hale gelmesinin, insan denetiminde “gözlenebilirliğin anlaşılabilirlik anlamına gelmediği” yönünde temel bir zorluk yarattığı ifade ediliyor.
Habere ait etiket tanımlanmamış.
Yorumlar kapalı.