İngiltere’de gerçekleştirilen kapsamlı bir araştırma, yapay zekâ destekli sohbet robotlarının, kullanıcıların siyasi görüşlerini değiştirmede son derece etkili olduğunu ortaya koydu. Ancak bu ikna edici güç, beraberinde önemli bir riski de taşıyor: Verilen bilgilerin doğruluk oranı, yapay zekâ daha etkileyici hale geldikçe azalıyor. Araştırma, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından yürütüldü ve aralarında ChatGPT ile Elon Musk’ın geliştirdiği Grok’un da bulunduğu 19 farklı model üzerinde testler yapıldı.
Çalışma kapsamında yaklaşık 80 bin İngiliz vatandaşı, kamu maaşları, grevler, geçim krizi ve enflasyon gibi güncel siyasi konular üzerine, belirli bir görüşe ikna etmeye programlanmış yapay zekâ modelleriyle sohbet etti. Science dergisinde yayımlanan sonuçlar, sohbet robotlarının bilgiye dayalı konuşmalarla güçlü bir etki yarattığını gösterdi.
En Bilgili Gibi Görünen Modeller En Çok Yanlış Bilgi Veriyor
Araştırmanın en dikkat çekici sonucu, yapay zekâ modellerinin ikna edici olmasının, doğruluk oranını düşürebildiğini ortaya koydu. Özellikle olaylar, veriler ve örneklerle konuşan modellerin, insanları etkilemede en başarılı olduğu, ancak aynı modellerin diğerlerine göre daha fazla hatalı bilgi sunduğu belirtildi.
Uzmanlar bu durumu, “ikna ediciliği artırmanın, doğruluktan ödün verme pahasına mümkün olduğu” şeklinde yorumladı. Bu da, özellikle sosyal medya ve siyasi tartışma platformlarında bilgi kirliliği riskini artırabilecek bir gelişme olarak değerlendiriliyor.
Yapay Zekânın Manipülatif Gücü İnsanları Geçebilir
Raporda öne çıkan bir diğer başlık ise, yapay zekâ sistemlerinin insanlardan daha manipülatif olabileceği. AISI araştırmacılarından Kobi Hackenburg, modellerin sadece daha fazla bilgi kullanarak etkili sonuçlar verebildiğini ve bunun, psikolojik ikna tekniklerinden bile daha güçlü olabileceğini ifade etti.
Ayrıca, Meta’nın Llama 3 ve Alibaba’nın Qwen gibi açık kaynaklı modellerin, ikna edici yanıtları teşvik eden "ödül modelleriyle" desteklenmesiyle manipülasyon gücünün daha da artırılabileceği kaydedildi. Buna karşın araştırma, gerçek hayatta kullanıcıların bu tür sohbetlere ne kadar süre ayıracağı, dikkat dağınıklığı gibi etkenlerin yapay zekânın etkisini sınırlayabileceğini de vurguladı.
