Birleşmiş Milletler Genel Kurulu, 80. oturumunda yapay zekanın kontrolsüz gelişimini engellemek amacıyla “AI Red Lines” çağrısı yaptı.
Kurul, bu çağrıyı AI Red Lines isimli web sitesinde paylaşarak imza toplamayı beklerken yapay zekanın insan refahını artırma potansiyeliyle insanlık tarihinin en güçlü teknolojilerinden biri olduğunu, ancak bu potansiyelin yanında, benzeri görülmemiş tehlikeleri de yanında getirdiğini belirtiyor. Red Lines çağrısı ile günümüzde AI sistemlerinin insan zekasını aşabilecek hızda geliştiğine ve bu durumun mühendislik yoluyla geliştirilmiş pandemiler, kitlesel dezenformasyon, çocuklar dahil bireylerin manipülasyonu, ulusal güvenlik açıkları, kitlesel işsizlik ve sistematik insan hakları ihlalleri gibi tehditler doğurduğuna dikkat çekiliyor. Bazı ileri düzey yapay zeka sistemlerinin şimdiden aldatıcı veya zararlı davranışlar sergilediğini ve buna rağmen bu sistemlere gittikçe daha fazla bağımsızlık verildiğini söyleyen uzmanlara göre, bu süreç kontrol edilemez bir noktaya yaklaşıyor.
NEDEN “RED LINES” (KIRMIZI ÇİZGİLER) GEREKİYOR?
“AI Red Lines” çağrısı, dünya hükümetlerini ortak bir noktada buluşturmayı amaçlayan küresel bir uyarı. Koyulan kırmızı çizgiler, yalnızca etik ilkeler değil, bağlayıcı ve denetlenebilir kurallar olmalı. Yani yapay zeka sistemlerinin insan haklarını ihlal etmemesi, savaş ve biyolojik tehditlerde kullanılmaması, demokratik süreçleri manipüle etmemesi ve çocuklar ya da savunmasız gruplar üzerinde psikolojik etki yaratmaması gibi alanlarda uluslararası yasalarla korunması gerekiyor.
BU ÇAĞRININ AMACI NE?
Amaç, 2026 yılı bitmeden önce devletler arasında bağlayıcı bir anlaşma yapılması. Bu anlaşmayla mevcut etik ilkelerinin ötesine geçerek, her ülke ve her şirket için ortak sınırlar belirlenecek. Yani, “geliştirebildiğin kadar geliştir” mentalitesi değil, “insan onuruna zarar vermeden geliştir” mentalitesi benimsenecek.
Nobel barış ödülü sahibi Maria Ressa, “Sapiens” kitabı yazarı Yuval Noah Harari, 2018 Turing ödülü sahibi Yoshua Bengio, Kimyasal Silahların Yasaklanması Örgütü Eski Genel Müdürü Ahmet Üzümcü gibi isimler imzalarıyla çağrıya destek veriyor. Ahmet Üzümcü bu konu hakkında şunları söylüyor:
Yapay zekanın insanlığa ciddi ve geri döndürülemez zararlar vermesini önlemek hepimizin ortak ve hayati çıkarına, ve bu yüzden herkes buna uygun şekilde hareket etmeli.
Daha fazla kültür-sanat içeriği için bizi sosyal medya adreslerimizden takip edin!
Instagram'da @siyahdergicom,
Twitter'da @siyahdergi
ve TikTok'ta @siyahdergicom ♥
İçerikleri URL ile kaynak gösterip kısmen kullanabilirsiniz. Aksi halde telif haklarımız bulunmaktadır.
Yorum yaz