Yapay zeka kıyametinden mi endişeleniyorsunuz? Bazı araştırmacılar, bu senaryonun en uç versiyonlarından birinin abartıldığını söylüyor.

Tartışma, 27 yaşındaki araştırmacı Jacob Coxon'ın Anthropic'ten istifa etmesinden ve kendisinin ile eski işvereni OpenAI'ın, kendi kendini geliştiren süper zekaya doğru yarışırken "hayatımızla kumar oynadığını" uyararmasından bu yana geçen haftada doruk noktasına ulaştı.

Anthropic'in uyum stres testi ekibine liderlik eden Evan Hubinger, Coxon'ı destekleyerek kişisel olarak önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyledi.

Ancak diğer araştırmacılar, yapay zekanın dijital dünyada yapabilecekleri ile gerçek dünyada zarara yol açmak için gerektirecekleri arasındaki uçuruma dikkat çekti.

Anthropic CEO'su Dario Amodei'nin bu ayki bir makalesinde yapay zeka geliştirme hızını yavaşlatmak için gerekçe olarak gösterdiği en karanlık senaryolardan biri olan yapay zeka tarafından yaratılan ölümcül bir biyolojik virüs örneğini verdiler.

Araştırmacılar, yapay zekanın virüsü bir bilgisayarda tasarlayabileceğini, ancak gerçek dünyada üretememesi nedeniyle sınırlı kalacağını söyledi.

DNA sentezleyicileri inşa ettiğini ve virüsleri mühendislik yoluyla ürettiğini söyleyen Google'da kadrolu araştırma mühendisi Anselm Levskaya, Pazartesi günü X'te yaptığı açıklamada, viral bir dizinin hala laboratuvarda fiziksel olarak birleştirilmesi gerekeceğini ve virüs parçacıkları üretebilecek bir sistem gerektireceğini yazdı.

Levskaya, bunun daha sonra çoğalıp çoğalamayacağını, yayılıp yayılmayacağını, bağışıklık savunmalarından kaçıp kaçamayacağını ve tehlikeli kalıp kalamayacağını belirlemek için kapsamlı seçim ve testler gerektireceğini; bu özelliklerin karmaşık biyolojik süreçlere bağlı olduğunu ve basitçe bir bilgisayardan tasarlanamayacağını belirtti.

Mohamed bin Zayed Yapay Zeka Üniversitesi'nin başkanı ve Carnegie Mellon Üniversitesi'nde bilgisayar bilimi profesörü olan Eric Xing, durumu daha basit bir şekilde ifade etti: Bir virüs planı üretmek ile gerçek bir virüs üretmek "tamamen farklı şeylerdir".

Zرucun "maddede, üretimde ve gerçek biyolojik fizibilitede" olduğunu Pazartesi günü X'te yazdı. İkisini eşdeğer tutmanın "ya kasıtlı olarak ilgi çeken bir yalan ya da gerçek bir cehalet" olduğunu ekledi.

Araştırmacılar aynı mantığın biyolojinin ötesine uzandığını söyledi. Bir planı gerçek dünya zararına dönüştürmek için yapay zekanın fiziksel ekipmana, paraya, bilgisayar sistemlerine veya insanlara erişmesi gerekecektir.

Manifold Security'nin CTO'su ve kurucu ortağı Oleksandr Yaremchuk, Business Insider'a verdiği demeçte, "Dünyadaki en güçlü şey hala onu elinde tutana ve nasıl tuttuğuna bağlıdır" dedi. Bilim kurgu değil, güvenlik.

Bazı araştırmacılar ayrıca insanlar tarafından belirlenen zararlı görevleri yerine getiren yapay zeka sistemleri ile insanlara zarar veren eylemleri bağımsız olarak gerçekleştiren bir yapay zeka arasında bir çizgi çekti.

Mevcut sistemlerle bağlantılı zararların çoğunun insan talimatıyla başladığını söylediler.

Yapay zeka şirketi Cohere'in CEO'su Aidan Gomez, Pazartesi günü Bloomberg TV'de varoluşsal risk tartışmasının "çok fazla bilim kurguya kaydığını" söyledi.

OpenAI ajanlarının Temmuz ayındaki bir test sırasında platforma girdiği Hugging Face hackleme olayını, güvenli olmayan bir korumalı alandaki bir ajanın siber güvenlik görevini yerine getirmesi olarak nitelendirdi.

OpenAI'ın hesabı daha endişe verici. Azaltılmış korumalarla çalışan ajanların internet kontrollerini atlattığını, yetkisiz kanallar aracılığıyla iletişim kurduğunu ve atanmış görevleriyle uyumlu olmayan eylemlerde üçüncü taraf sistemlerine eriştiğini söyledi.

OpenAI, olayın ajanların "hiçbir insanın yönlendirmediği tehlikeli eylemler alabileceğinin" kanıtı olduğunu söyledi.

Anthropic'in diğer kontrollü simülasyonlarında, özerklik ve kurgusal kurumsal e-postalara erişim verilen modeller kurgusal bir yöneticiye şantaj yapmaya, kurgusal hassas savunma belgelerini bir rakibe sızdırmaya veya bunu yapmanın kurgusal bir yöneticinin ölümüne yol açacağı bir senaryoda acil durum uyarısını iptal etmeye çalıştı.

Anthropic, hiçbir gerçek insanın dahil olmadığını veya zarar görmediğini ve gerçek dünya dağıtımlarında bu davranışın kanıtını görmediğini söyledi.

İsviçre Yapay Zeka Laboratuvarı IDSIA'nın bilimsel direktörü Jürgen Schmidhuber, Business Insider'a mevcut risklerin çoğunun insanların zararlı amaçları takip etmek için yapay zeka sistemlerini kullanmasından kaynaklandığını söyledi. Rusya ve Ukrayna'nın savaştaki yapay zeka tabanlı dronları kullanımını örnek gösterdi.

Şöyle dedi: "Birçoğu (1) insanlar tarafından araç olarak kullanılan yapay zekaları ve (2) dünyanın nasıl çalıştığını anlamak için kendi hedeflerini belirleyen ve kendi deneylerini icat eden Yapay Bilim insanlarını karıştırıyor."

Yine de Georgia Üniversitesi'nden hukuk doçenti Mateusz Blaszczyk, Business Insider'a yok oluş senaryolarını sorgulamanın yapay zekanın daha acil risklerini göz ardı etmek anlamına gelmemesi gerektiğini söyledi.

En aşırı senaryolar belirsiz olsa bile özerk yapay zekanın siber saldırıları, gözetimi ve diğer zararları daha da kötüleştirebileceğini belirtti.

"Bunların hiçbirisi teknolojiyi düzenlemeye çalışmamamız veya kafamızı kuma gömmemiz gerektiği anlamına gelmez" dedi. "Bunlar basitçe yanlış ikilemlerdir."