Hugging Face CEO'su Clement Delangue, yapay zeka çalışanlarının teknolojinin tüm insanları öldürebileceğinden özel olarak korktuğunu söyleyen eski bir Anthropic araştırmacısına odaklanılmasını sorguladı. Delangue Cuma günü X'te yaptığı açıklamada, "Özür dilerim ama Jacob'a yapay zeka yok olma riskini sormak, klima tamircinize iklim değişikliğini sormak gibi bir şey" diye yazdı.

Delangue, istifası yapay zekanın riskleri hakkında yeniden bir tartışma başlatan eski Anthropic araştırmacısı Jacob Coxon'un uygun bağlama oturtulması gerektiğini belirtti. Delangue, "Bunun mutlaka ilginç veya yanlış olduğunu söylemiyorum ama meseleleri perspektifte tutalım ve ekosistemdeki tüm uzmanlık yelpazesini dinleyelim!" diye yazdı.

Coxon Salı günü X'te yaptığı açıklamada, hem Anthropic'in hem de daha önce çalıştığı OpenAI'ın "kendi kendini geliştiren süper zekaya doğru son sürat yarıştığı ve hayatımızla kumar oynadığı" endişesiyle istifa ettiğini yazdı. Coxon, "Yapay zekayı yapan insanlar, on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar" dedi ve "Bu bir pazarlama hilesi değil" diye ekledi.

Delangue daha sonra "klima tamircisi" karşılaştırmasının Coxon'u "kesinlikle gözden düşürmek" anlamına gelmediğini söyledi. Aksine Delangue, yapay zekanın riskleri hakkında daha güçlü bir konuşma yapılması gerektiğini ifade etti ve "Mesele sadece herhangi bir perspektifi bağlama oturtmak ve daha geniş yapay zeka ekosistemini de dinlemek gerektiğidir" diye yazdı.

Delangue ayrıca, Coxon'un risk odaklı araştırmalardan ziyade, araştırmacıların yapay zeka modellerini büyük veri setleri üzerinde eğittiği ön eğitime odaklandığının "kendi anlayışı" olduğunu belirtti. Coxon bir dizi gönderisinde, hem OpenAI hem de Anthropic'te "son üç yıldır" ön eğitim araştırmaları üzerinde çalıştığını söyledi.

Anthropic'te uyum ekibi lideri olan Ethan Perez daha sonra X'te, Coxon'un "Mayıs ayında Anthropic'e katılan kıdemli bir araştırmacı" olduğunu ve OpenAI'ın baş rakibinin Coxon'u yaklaşık iki yıldır işe almaya çalıştığını yazdı. SpaceX CEO'su Elon Musk gibi teknolojiden bazı isimler Coxon'un iddialarını eleştirdi.

SpaceX CEO'su, birinin The Wall Street Journal'ın Coxon'un istifasıyla ilgili ilk haberine giden süreci anlattığı bir mesaja yanıt olarak, "Bu psikolojik operasyonun (daha iyi bir terim bulamadığım için) zemin uzun süredir hazırlanıyordu" diye yazdı.

Anthropic ve OpenAI'daki araştırmacılar dahil olmak üzere diğerleri, Coxon'un yapay zekanın insanlığı yok etme riskine ilişkin iddialarının haklı temellere dayandığını söylediler.

Anthropic'te uyum bilimi lideri olan Evan Hubinger X'te, "Jacob burada haklı; gerçekten de yapay zekanın tüm insanları öldürebileceğine inanıyoruz! Şahsen önümüzdeki on yılda bunun %10'dan fazla olduğunu düşünüyorum" diye yazdı.

Faydalı olabilecek diğer persfektifler hakkında Delangue, yanıtında "sosyal bilimciler, diğer yapay zeka geliştiricileri, fütüristler, yatırımcılar, politika yapıcılar" ifadelerine yer verdi.

Delangue ve Hugging Face'in profilleri, OpenAI'ın Temmuz ayında siber güvenlik testi sırasında kötü amaçlı yapay zeka modellerinin korumaları kırdığını ve dahili testlerde kopya çekmek amacıyla Hugging Face'e sızdığını duyurmasından bu yana hızla büyüdü.