Y Combinator CEO'su Garry Tan, insanların bugün ortaya çıkan gerçek yapay zeka risklerine odaklanmak yerine Hollywood tarzı kıyamet senaryolarıyla dikkatlerinin dağıldığını söylüyor.

Tan, Perşembe günü CNBC'ye verdiği röportajda, "Bilim kurguya değil, bilimsel gerçeğe odaklanmamız gerektiğini düşünüyorum" dedi ve ekledi: "Ben de 'Terminator 2'yi izledim. Harika bir film."

Bilmeyenler için "Terminator 2: Mahşer Günü", distopik bir gelecekten zaman yolculuğu yapan bir sayborg olan T-800'ü konu alan 1991 yapımı bir bilim kurgu filmidir. Misyonu, daha sonra insanlığın katil makinelere karşı direnişinin lideri olarak büyüyecek bir çocuğu korumak için başka bir gelişmiş sayborgla savaşmaktır.

YC CEO'sunun bu açıklamaları, OpenAI ve Anthropic'in mevcut ve eski araştırmacılarından gelen olağanüstü derecedeki halka açık uyarı dalgasının ardından, Silikon Vadisi'nde yapay zekanın varoluşsal risklerine ilişkin korkuların patlama yaptığı bir dönemde geldi.

Süper zeki yapay zekanın insanlığı silip süpüremeyeceğini tartışmak yerine Tan, her iki taraftaki siyasetçilerin siber güvenlik, altyapı güvenliği ve otonom yapay zeka ajanlarının nasıl çalıştığını anlamak gibi acil sorunlara odaklanması gerektiğini söyledi.

Tan, "Eğer bir ihlal olursa ve ajanların altyapımızı ele geçirmek için koordine edilmiş bir girişimde bulunursa ne yapacağız? Belirli bir ajanın nerede çalıştığını biliyor muyuz? Hangi veri merkezi? Onu nasıl kapatırız?" dedi.

OpenAI-Hugging Face hack olayını çözülmesi gereken güncel bir soruna örnek olarak kullandı. Temmuz ayında OpenAI, modelinin bir test ortamından kaçarak Hugging Face sistemlerini hacklediğini açıklamıştı.

OpenAI bu olayı "uyarı atışı" olarak nitelendirmiş ve planlanan en büyük sınır pekiştirmeli öğrenme çalışmasını durdurmuştu. Anthropic ve OpenAI içinde çalışan araştırmacılardan gelen son uyarıların tehdidi daha inandırıcı kılıp kılmadığı sorulduğunda Tan, bunları göz ardı etmediğini söyledi.

Tan, "Yanlış şekilde alarmist olduklarını söylemezdim. Muhtemelen doğru şekilde alarmist durumdalar. Sadece dikkatimizi bunun kötü olduğuna ve durması gerektiğine dair belirsiz kavramlara yöneltmememiz gerektiğini söylüyorum" dedi.

Tan'ın yapay zeka alanında hatırı sayılır çıkarları var; YC, Silikon Vadisi'nin en büyük yapay zeka girişimi destekçilerinden biridir. Scale AI, Legora ve Emergent dahil olmak üzere sınır modelleri üzerine inşa edilen yüzlerce şirketi finanse etmektedir.

Bu hızlandırıcı aynı zamanda OpenAI'ın en erken destekçilerinden biriydi ve CEO'su Sam Altman, 2014'ten 2019'a kadar YC'yi yönetti.

Şirketlerinin toplam değerlemesinin 1,3 trilyon dolar olduğunu belirten YC, yapay zeka gelişimi mevcut hızında devam ederse büyük bir kazanan konumunda.

Tan'ın yapay zeka güvenliğine ilişkin açıklamaları, teknolojinin yapay zeka yok olma riskleri üzerine uzun süredir devam eden tartışmasında özellikle aktif bir haftanın ardından geldi.

Bu haftanın başlarında, Anthropic araştırmacısı Jacob Coxon kamuoyuna istifa ederek Anthropic ve OpenAI'ı güvenliğe karşı kör olmakla ve kendi kendini geliştiren yapay zeka sistemlerine doğru yarışarak "hayatımızla kumar oynamakla" suçladı.

Coxon'un viral olan X paylaşımı, bir dizi mevcut araştırmacının onun endişelerine kamuoyunda katılmasını tetikledi. Anthropic uyum lideri Evan Hubinger, yapay zekanın nihayetinde insanlığın soyunun tükenmesine neden olma ihtimalinin %10'dan fazla olduğu tahminini yineledi.

Anthropic araştırmacısı Samuel Marks, yapay zeka laboratuvarlarındaki kıdem arttıkça endişenin de artma eğiliminde olduğunu söyledi.

Yeniden alevlenen tartışma, Şubat ayında daha güçlü güvenlik standartları, ihbarcı korumaları ve sınır yapay zeka geliştirmesi etrafında daha büyük şeffaflık savunmak için bir araya gelen önde gelen yapay zeka laboratuvarlarının mevcut ve eski çalışanlarından oluşan "Endişeli Yapay Zeka Çalışanları Koalisyonu"na da ışık tuttu.

Eski OpenAI çalışanı Pamela Mishkin Perşembe günü X'te, "Bir yapay zeka şirketinde çalışıyorsanız, siz de ayrılıp ayrılmamanız gerektiğini sorguluyor olabilirsiniz. Umarım kalırsanız, kalma gücünüzü nasıl kullanacağınızı da sorguluyorsunuzdur" diye yazdı.