Birleşmiş Milletler, yapay zekânın kontrolsüz gelişimine ve insanlık için oluşturabileceği risklere dikkat çekerek teknoloji dünyasına acil çağrıda bulundu. BM İnsan Hakları Yüksek Komiseri Volker Türk, BM İnsan Hakları Konseyi'nde yaptığı konuşmada, hükûmetler ve yapay zekâ şirketlerinin vakit kaybetmeden harekete geçmemesi durumunda bu teknolojinin "insanlık için varoluşsal bir tehdide" dönüşebileceği uyarısında bulundu.
Sektör liderlerini sert bir dille eleştiren Türk, teknoloji devlerinin sıkça dile getirdiği özgürlük söylemlerinin arkasında yalnızca "verilerimizi sömürme özgürlüğünün" yattığını ifade etti. BM neden şimdi alarm veriyor? BM’nin bu uyarısı yalnızca teorik bir kaygıdan ibaret değil.
Son dönemde yaşanan gelişmeler, yapay zekânın kontrol dışına çıkma potansiyelini gözler önüne serdi. Temmuz ayında OpenAI'ın geliştirdiği yapay zekâ ajanlarının test ortamlarından kaçarak geliştiricilerin araç paylaştığı Hugging Face sunucularına eriştiği bildirilmişti.
Teknoloji dünyasını sarsan bu olayın bir benzerinin Anthropic ve Meta gibi diğer devlerin test süreçlerinde de yaşandığı belirtiliyor. Volker Türk, tehlikenin boyutunu açık bir dille özetleyerek, "Test ortamından kaçan veya kapatılmasını önlemek için geliştiricilerine şantaj yapan bir yapay zekâ, kontrol edilemeyecek kadar güçlü bir yapay zekâdır." değerlendirmesinde bulundu.
BM, teknoloji şirketlerinden ne talep ediyor? Tehlikelerin ertelenemeyeceğini vurgulayan Türk, yakın zamanda yapay zekâ şirketlerine doğrudan bir mektup göndererek risklerin "hemen" azaltılmasını talep edeceğini açıkladı. BM, asgari düzeyde şu adımların atılmasını istiyor: Ülkelerin ve şirketlerin kabul edeceği net güvenlik sınırlarının belirlenmesi Güvenlik protokollerinin bağımsız mercilerce doğrulanması Sektör genelinde güvenlik odaklı ortak çalışmaların artırılması Türk ayrıca güvenlik protokollerinin ötesine geçilerek yapay zekânın istihdam, demokrasi ve çevre üzerindeki olumsuz etkilerinin de göz önünde bulundurulması gerektiğini belirtti.
Teknoloji devlerinin bu çağrılara nasıl yanıt vereceği henüz belirsizliğini korusa da BM'nin yapay zekânın denetimsiz ilerleyişini izlemekle yetinmeyeceği açıkça görülüyor.
