Uzmanlar, yapay zekanın nükleer savaş ve salgın hastalıklarla benzer bir yok olma riski taşıdığını söylüyor | Bilim ve Teknoloji Haberleri

Uzmanlar, yapay zekanın salgın hastalıklar ve nükleer savaş kadar insan neslinin tükenme riski oluşturduğu konusunda uyardı.

Firmanın patronu arkadan ChatGPTGoogle’ın AI laboratuvarının başkanı ve Anthropic’in CEO’su – başka bir büyük AI firma, hepsi açık mektup imzaladı.

Şöyle diyor: “AI’dan yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.”

Bildiriyi yayınlayan Yapay Zeka Güvenliği Merkezi, “gelişmiş yapay zekanın en ciddi risklerinden bazıları hakkındaki endişeleri dile getirmenin zor olabileceği” için tartışmayı açmayı umduğunu söyledi.

İngiliz bilgisayar bilimcisi Geoffrey Hinton ve birçok kişi tarafından yapay zekanın “babaları” olarak kabul edilen Yoshua Bengio da isimlerini uyarı.

Sahada mühendis, araştırmacı veya yönetici olarak çalışan 350’den fazla kişi kaydoldu.

AI’nın hızla büyüyen yetenekleri, son aylarda diğer yüksek profilli figürlerde benzer endişelere yol açtı – ancak sektördeki herkes bunun varoluşsal bir tehdit oluşturduğuna inanmıyor.

Ve Elon Musk, Mart ayında bir grup uzmana katıldı ChatGPT ve benzeri sohbet botları tarafından kullanılan tür olan büyük dilli yapay zeka modellerinin eğitiminde altı aylık bir duraklama çağrısı yapmak.

Bu mektupta “derin riskler” konusunda uyarıda bulunuluyor ve güçlü sistemlerin ancak “etkilerinin olumlu olacağı ve risklerinin yönetilebilir olacağından” emin olunduğunda geliştirilebileceği belirtiliyordu.

Dezenformasyonun yayılması, milyonlarca işin kaybı ve insan ırkına yönelik varoluşsal tehditler, yapay zeka hızla gelişmeye devam ederse, genellikle potansiyel tehlikeler olarak gösteriliyor.

Başbakan Rishi Sunak, önde gelen AI şirketlerinin başkanlarıyla bir araya geldi. yanı sıra Google patronu Sundar Pichaiteknolojiyi düzenleme ve riskleri azaltma ihtiyacı hakkında.

Devamını oku:
Felç atılımı şaşırtıcı – ve AI anahtardır
Yapay zeka işyerini ‘yük treni gibi’ vuracak
ABD Pentagon yakınlarındaki patlamanın sahte AI görüntüsü viral oluyor

Henüz emekleme aşamasında olmasına rağmen, teknoloji, klonlanmış müzik parçalarının yanı sıra inandırıcı sahte görüntüler ve videolar üretme becerisiyle şimdiden dikkatleri üzerine çekmiştir.

ChatGPT’nin popülaritesinin de olduğu söyleniyor öğretmenleri “şaşkın” bıraktı eğitim sisteminin yararlarını ve risklerini değerlendirmek için mücadele ederken.

Geçen hafta, ChatGPT’nin yeteneği, gerçek zamanlı arama verilerine erişim kazandıyani güncel haberlere ve güncel olaylara dayalı cevaplar verebilir.