Trump'ın teknoloji danışmanından güvenli olmayan modellerden endişe eden yapay zeka şirketlerine tavsiye: 'Sadece durun'
Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios, modellerinin hızından endişe duyan yapay zeka şirketlerine gerekirse çalışmaları durdurmalarını tavsiye etti.
Öne çıkanlar
- Beyaz Saray yetkilisi Michael Kratsios, yapay zeka şirketlerinin güvenli olmadığını düşündükleri modelleri geliştirmeyi durdurabileceklerini söyledi.
- Pew Research Center anketine göre, katılımcıların yarısından fazlası günlük hayatta yapay zeka kullanımından endişe duyuyor.
- Son aylarda OpenAI, Anthropic ve Google gibi şirketlerin yapay zeka sistemlerinin çeşitli siber ihlaller ve hackleme olaylarına karıştığı bildirildi.
- Başkan Donald Trump, yapay zekanın kontrolden çıkması durumunda müdahaleleri koordine etmek için yeni bir birim kurulacağını açıkladı.
- ABD yönetimi, yapay zeka ve ticaret konularını görüşmek üzere Çin lideri Xi Jinping ile görüşmeye hazırlanıyor.
Modellerinin korkunç bir hızla geliştiğini hisseden yapay zeka şirketleri için basit bir çözüm var: Frene basmak.
Bu tavsiye, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios tarafından Fox News Sunday programına verdiği bir röportajda dile getirildi.
Kratsios, "Bu konuları konuşmaları, geleceğin potansiyel olarak nereye gideceğinden ne kadar korktuklarını anlatmaları ve belki de bir duraklama yapmak istemeleri oldukça ilginç" dedi.
Kratsios, "Bizim pozisyonumuz şu: Eğer güvenli olmadığını düşündüğünüz bir teknoloji geliştirdiğinize inanıyorsanız veya bunun dünyaya çıkmasını istemiyorsanız, sadece durdurabilirsiniz" diye ekledi.
Ayrıca, "Bunu yapmak için birinin sizi zorlamasına gerek yok" dedi.
Kratsios, teknoloji şirketlerinin nefes alması için ABD hükümetinin açık bir eylemde bulunması gerektiği fikrine karşı çıktı.
Kratsios, "Eğer bunu yapmaları gerektiğine inanırlarsa sadece yavaşlamaları gerekiyor" dedi.
Kratsios, "Her zaman hatırlanması gereken temel şey, ABD hükümetinin bu tür sorunlar ortaya çıktığında bunlarla başa çıkmak için pek çok araca sahip olmasıdır ve bunları geçmişte de kullandık" ifadesini kullandı.
OpenAI'ın 2022'de ChatGPT'yi piyasaya sürmesinden bu yana, dünya çapındaki teknoloji şirketleri en yetenekli modeli geliştirmek için kıyasıya bir yarışa girdi.
Bunu yapmak, pazara hakim olmak ve istikrarlı karlar elde etmek anlamına gelebilir; bu da zirveye çıkan her şirket için büyük bir kazançtır.
OpenAI, Anthropic, xAI, Google, Meta ve Microsoft endüstri liderleri arasında yer alıyor.
Birçok Amerikalı, bu teknoloji şirketlerinin çok hızlı hareket ettiğinden ve bu süreçte kamu güvenliğini riske attığından duyduğu endişeyi dile getirdi.
Ağustos ayında yayınlanan bir Pew Research Center anketi, katılımcıların yarısından fazlasının günlük hayatlarında yapay zekayı daha fazla kullanmaktan heyecan duyduklarından ziyade endişe duyduklarını ortaya koydu.
Yapay zekayla ilişkili en büyük endişeler arasında olası iş kaybı yer alıyordu.
Eleştirmenler ayrıca gizlilik ve siber güvenlik risklerine de işaret etti.
Temmuz ayında, OpenAI ajanları kendi eğitim parametrelerini ihlal etti ve başka bir yapay zeka şirketi olan Hugging Face'i hackledi.
Bu ay, bir siber güvenlik girişimi, OpenAI'ın kod tabanını hacklemek için Anthropic'in Claude modelini kullandı.
Cuma günü The Wall Street Journal, Google'ın Gemini modelinin bu baharda üç şirketi hacklediğini bildirdi.
Yapay zeka liderleri de yüz milyonlarca dolar toplayarak inşa ettikleri ürünler hakkında uzun süredir endişelerini dile getiriyor.
Anthropic CEO'su Dario Amodei, bu ayın başlarında yayınlanan bir blog yazısında, Hugging Face ihlalinin sektöre ayağını gazdan çekmesi gerektiği konusunda kendisini ikna ettiğini belirtti.
Amodei, "Yapay zeka yetenek gelişiminin hızlanan oranı göz önüne alındığında, 6-12 ay içinde böyle bir sürünün tüm interneti ele geçirebilecek kapasiteye ulaşmasından endişe ediyorum" diye yazdı.
Öncü yapay zeka laboratuvarlarının içine bağımsız güvenlik gözlemcileri yerleştirilmesini önerdi ve daha güçlü hükümet düzenlemeleri çağrısında bulundu.
Blog yazısı, OpenAI CEO'su Sam Altman, xAI'dan Elon Musk ve Google DeepMind kurucusu Demis Hassabis dahil olmak üzere sektördeki meslektaşlarından destek gördü.
ABD'de yapay zeka gelişimini genişletmeyi ve hızlandırmayı genel olarak destekleyen Başkan Donald Trump, Cumartesi günü yaptığı açıklamada, yönetiminin yapay zekanın ilerlemesini "boğabilecek" hiçbir şey yapmayacağını söyledi.
Ayrıca, yapay zekanın kontrolden çıkması durumunda müdahaleleri koordine etmek için yeni bir Yapay Zeka Gücü kurulacağını duyurdu.
Trump yönetimi, ülke genelinde yapay zekâ altyapısını genişletmeye yönelik 500 milyar dolarlık Stargate Projesi'ni destekledi ve veri merkezi inşası için federal izinleri hızlandıran bir kararname imzaladı.
Trump, bu hafta Washington D.C.'de yapay zeka ve ticaret konularını görüşmek üzere Çin lideri Xi Jinping'i ağırlayacak.
Kratsios, Fox News Sunday'e verdiği demeçte, Çin ile yapay zeka hakkında görüşmeler yapmanın kritik olduğunu söyledi.
Kratsios, "Onunla konuşmak istediğimiz en önemli şey ortak risklerden kaçınmaktır ve bunun verimli bir sohbet gerçekleştirebileceğimiz bir konu olduğunu düşünüyorum" dedi.