Meta, Instagram ve WhatsApp gibi dünya çapında milyarlarca kullanıcısı olan platformlarındaki ürün güvenliği değerlendirme sürecinde radikal bir değişikliğe gidiyor. Şirket, güvenlik süreçlerinin büyük bir bölümünü yapay zekâ sistemleri aracılığıyla otomatikleştirmeye karar verdi. Bu yeni yaklaşım, ürünlerin yaratılma aşamasından kullanıcıya ulaşana dek olan tüm süreçlerde risklerin daha hızlı ve sistematik biçimde analiz edilmesini hedefliyor.
Meta’nın duyurusuna göre, ürün ve özellik geliştirme sürecinde yapılacak güvenlik analizlerinin yaklaşık yüzde 90’ı yapay zekâ tarafından yürütülecek. Ürün ekipleri, kullanıcıya sunulmadan önce sistemin yönlendirdiği bir anketi dolduracak ve bu bilgiler yapay zekâ destekli analiz motoruna aktarılacak. Bu sistem, potansiyel zararlar, topluluk kurallarına uyum, kullanıcı güvenliği gibi birçok parametreyi tarayarak ekipleri önceden uyaracak.
Ancak Meta’nın bu yeni stratejisi, hem şirket içinde hem de sektörde çeşitli soru işaretlerini de beraberinde getirdi. Özellikle zorbalık, şiddet, nefret söylemi ve psikolojik hassasiyet gerektiren konularda yapay zekâ sistemlerinin yeterli hassasiyeti gösterip gösteremeyeceği tartışma konusu oldu.
Bazı eski Meta çalışanları, algoritmaların genç kullanıcıların ruhsal sağlığını etkileyebilecek içerikleri yeterince filtreleyemeyeceğini ve insan gözetiminin devre dışı kalmasının ciddi güvenlik açıklarına neden olabileceğini belirtiyor.
Meta ise bu eleştiriler karşısında sistemin tamamen otonom çalışmayacağını vurguladı. Şirket açıklamasına göre, yüksek riskli durumlar hâlâ insan uzmanlar tarafından denetlenecek. Yapay zekâ ise sürecin hızlanması, düşük riskli alanlarda otomasyon sağlanması ve insan yükünün azaltılması açısından kullanılacak.
Meta’nın bu hamlesi, teknoloji sektöründe kullanıcı güvenliği odaklı süreçlerde yapay zekânın ne ölçüde kullanılabileceğine dair önemli bir örnek teşkil ediyor. Önümüzdeki aylarda bu sistemin ne kadar etkin çalışacağı ve kullanıcı deneyimine nasıl yansıyacağı ise dikkatle izlenecek.