Bilim insanları 'nükleer savaşa eşdeğer' diyerek uyardı: Yapay zeka sonumuzu getirebilir
TEKNOLOJİ Haberleri
Bilim insanları, hızla gelişen yapay zeka konusunda tehlikelere dikkat çekiyor. Yapay zeka alanında çalışan öncü isimlerin peş peşe gelen endişe verici açıklamalarının ardından, ABD'de bir grup araştırmacı, yapay zeka kaynaklı yok olma riskiyle karşı karşıya olduğumuzu ileri sürdü.
ABD'de San Francisco merkezli Yapay Zeka Güvenliği Merkezi (CAIS), yapay zekanın insanlık için oluşturduğu tehlikelere yönelik uyarısında, yapay zeka kaynaklı yok olma riskini azaltmanın küresel öncelik olması gerektiğini bildirdi. CAIS tarafından çevrim içi yayımlanan bildiride, yapay zeka uzmanları, gazeteciler, politika yapıcılar ve kamunun, yapay zekadan kaynaklanan önemli ve acil riskleri giderek daha fazla tartıştığı ve birçok kişinin bu konuda endişelerini dile getirdiği kaydedildi.
Anadolu Ajansı'nın haberine göre bildiride, "Yapay zeka (AI) kaynaklı yok olma riskini azaltmak, salgınlar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır." ifadelerine yer verilirken, söz konusu bildiri imzaya sunuldu.
Kasım 2022'de piyasaya sürüldüğünde dünyada teknoloji yatırımlarının yönünü değiştiren yapay zeka temelli sohbet robotu (chatbot) ChatGPT'nin geliştiricisi OpenAI'nin Üst Yöneticisi Sam Altman ve bilgisayar bilimcisi Geoffrey Hinton da bildiriyi imzalayan yüzlerce isim arasında yer aldı.
BBC'nin aktardığı bilgilere göre, Yapay Zeka Güvenliği Merkezi web sitesinde bazı muhtemel felaket senaryoları açıklandı:
• AI, silah haline getirilebilir.
• Yapay zeka tarafından üretilen yanlış bilgiler toplumu istikrarsızlaştırabilir ve kolektif karar alma sürecini baltalayabilir.
• Yapay zekanın gücü, rejimlerin yaygın gözetim ve baskıcı sansür yoluyla dar değerleri dayatmasına imkan tanıyarak, giderek daha az sayıda elde yoğunlaşabilir.
• İnsanların Wall-E filminde tasvir edilen senaryoya benzer şekilde yapay zekaya bağımlı hale geldiği güçsüzlük.
YAPAY ZEKANIN ÖNCÜLERİNDEN ENDİŞE VERİCİ AÇIKLAMALAR
Son derece yetenekli yeni nesil yapay zeka sohbet robotlarının yükselişiyle yapay zeka sistemlerinin insanları zekasıyla alt ettiği ve çılgınca çalıştığına dair endişeler öne çıkmıştı.
OpenAI'in CEO'su Altman yapay zeka konusunda şöyle demişti:
"En büyük korkum, teknoloji endüstrisi olarak dünyaya önemli zararlar verme ihtimalimizdir. Bunun birçok farklı şekilde olabileceğini düşünüyorum. Tüm teknolojik devrimlerde olduğu gibi, istihdam üzerinde önemli bir etki olmasını bekliyorum ancak bu etkinin tam olarak neye benzediğini tahmin etmek çok zor."
"Hükümetlerin düzenleyici müdahalesinin, giderek daha güçlü hale gelen (yapay zeka) modellerin risklerini azaltmak için kritik olacağını düşünüyoruz."
Geçtiğimiz hafta ise Washington'daki bir programda konuşan Microsoft şirketinin başkanı Brad Smith, yapay zeka konusunda en büyük endişe kaynağının deepfake teknolojisi olduğunu söyleyerek "önlem alınmalı" dedi. Deepfake, birinin yüzünü dijital olarak başka birinin vücuduna monte edip bunu amaçları doğrultusunda kullanmaya deniyor. Bu teknoloji yüzüne zaman zaman siyasilerin sahte videoları internette viral oluyor ve bazı kişiler bu sahte videolara inanabiliyor.
(Kaynak: Anadolu Ajansı, BBC News)
BU VİDEO DA İLGİNİZİ ÇEKEBİLİR
'da Takip Edin!
