Yapay zeka sektörünün en etkili denetçilerinden biri olan Beth Barnes, Temmuz ayında yapay zeka risklerini izleyecek yetenekli araştırmacıları işe almakta zorlandığını söylemişti.

Bu durum değişmeye başladı.

Araştırmacı Joe Benton, bu hafta Anthropic'ten ayrılıp Barnes'ın kurduğu METR adlı kar amacı gütmeyen kuruluşa katıldığını duyurarak teknolojiden kaynaklanan "tükeniş düzeyindeki risklerden" duyduğu endişeyi dile getirdi.

Bu açıklamalar, bir diğer araştırmacı olan Jacob Coxon'ın Anthropic'ten ayrıldığını duyurduğu ve önde gelen yapay zeka laboratuvarlarını "hayatımızla kumar oynamakla" suçladığı viral bir paylaşımla ulusal çapta korku yaratmasının ardından geldi.

METR, birdenbire yapay zeka sektörünün en büyük haberinin tam ortasında yer aldı.

2022 yılında kurulan kuruluş, teknolojinin hızla değişen yeteneklerini incelemek için halihazırda OpenAI, Anthropic, Google ve Meta ile yakın bir şekilde çalışmıştı.

Bu yaz, kar amacı gütmeyen kuruluşun araştırmacıları OpenAI'daki bir güvenlik olayını soruşturdu ve şimdi her şirketin sağladığı dahili erişime dayanarak Anthropic'teki güvenlik sorunlarını incelemeyi planlıyor.

Politika ekibinin bir üyesi olan Jasmine Dhaliwal Cuma günü yaptığı açıklamada, "Halk, yapay zeka geliştirme sürecinin tehlikeli bir yola girip girmediğini bilmelidir" dedi.

Dhaliwal, "Bu bizim misyonumuzun özüdür: Yapay zeka yetenekleri, uyum ve kontrol önlemleri hakkında bağımsız ve bilimsel bir değerlendirme sağlamak" diye ekledi.

Benton, teknoloji devlerinden Berkeley merkezli bu kuruluşa geçen tek isim değil.

Bir yapay zeka güvenliği araştırmacısı olan Josh Engels de yakın zamanda Google DeepMind'dan ayrлып METR'e (Model Değerlendirme ve Tehdit Araştırması) katıldı.

Barnes, 2022'de kar amacı gütmeyen kuruluşu başlatmak için OpenAI'dan ayrıldı ve yapay zeka araştırmacıları için o kadar şiddetli bir rekabet görüyor ki, METR'in mevcut iş ilanlarında 503.000 dolara ulaşan yüksek maaşları bile kurumun yetenek açığını kapatmaya yetmiyor.

Barnes, "İdeal olarak çok büyük ölçeklenmek isteriz, ancak pratikte ihtiyacımız olduğu kadar bağış toplayabildik ve asıl darboğaz yetenek eksikliği" dedi.

OpenAI ve Hugging Face tarafından Temmuz ayında duyurulan güvenlik olayı, yapay zekanın nasıl değerlendirileceği ve kontrol edileceği konusunda yeni bir soru dalgasını tetikledi.

Öncü laboratuvarlardan 1.300'den fazla çalışan Temmuz ayında yapay zeka geliştirmesinin kontrolü aşabileceği konusunda uyaran bir mektup imzaladı.

Geçtiğimiz ay hem OpenAI hem de Anthropic, yeni yapay zeka modellerini daha iyi kontrol edebilmek için eğitimi geçici olarak durdırdıklarını açıkladı.

Hugging Face olayı kurumsal dünyanın büyük kısmını şoke ederken, METR ekibi bundan çok daha az şaşırdı.

Hükümetler, şirketler ve hatta dini gruplar düzenli olarak kar amacı gütmeyen kuruluştan teknolojinin ilerlemesini anlamak ve test etmek için yardım istiyor.

Yine de yaklaşık 35 kişilik laboratuvarın içindeki hâkim duygu endişe.

Business Insider, OpenAI'ın hack'lendiğini açıkladığı günün öğleden sonrasında METR'in Berkeley'deki ofisini ziyaret ettiğinde Barnes, yapay zeka güvenliği alanının boyutu nedeniyle ciddi şekilde kısıtlandığını belirtti.

Barnes, "Kapasitemizin elverdiğinden çok daha fazla yapılması gereken iş var" dedi.

Kendisinin görüşüne göre "makul bir medeniyet", yapay zeka yatırımlarının çok daha büyük bir yüzdesini onu yönlendirmeye ve teknolojiyi değerlendirmeye yatırıyor olurdu — özellikle de toplum artık bu kadar güçlü modellerle yüzleşirken.

Yapay zeka laboratuvarları yeni modeller piyasaya sürdükçe METR, bu modellerin giderek artan süreli görevleri tamamlama olasılığını ölçüyor.

Bu ölçümler, kar amacı gütmeyen kuruluşun en ünlü hizmetini oluşturuyor; yapay zeka yeteneklerinin son altı yılda yaklaşık her yedi ayda bir nasıl iki katına çıktığını gösteren yaygın olarak alıntılanan bir grafik.

METR'in başkanı Chris Painter, laboratuvarı OpenAI ve Anthropic'teki güvenlik tehditlerini CEO'larına bildiren hazırlık ekiplerine esprili bir göndermeyle "insanlığın hazırlık ekibi" olarak tanımlıyor.

Painter, "Halktan ve halkın refahından başka kimseye gerçekten karşı sorumlu değiliz" dedi.

Barnes, bir şirketin hedeflerine bağlı olmayan araştırmalar üretebilmesi için METR'in bağımsızlığının önemini vurguladı.

Barnes, OpenAI'da çalışırken laboratuvarların dışındaki, teknolojinin geliştirilmesi hakkında özgürce yorum yapabilecek bir araştırma grubuna duyulan ihtiyacı hissetmişti.

METR, öncü yapay zeka laboratuvarlarından veya çalışanlarından para kabul etmezken, bilgi işlem hibeleri kabul ediyor ve yayınlanmamış modelleri analiz etmek için onlarla birlikte çalışıyor.

Buna ek olarak personel, laboratuvarların güvenlik uygulamalarını analiz etti, yapay zekanın yazılım mühendislerinin hızı üzerindeki etkileri hakkında yazılar yazdı ve diğer yapay zeka modellerini izlemek için yapay zeka modellerini kullanmanın erdemlerini inceledi.

Barnes, yapay zeka yeteneklerinin sonraki seviyelerini ve bu değişikliklerin yapay zekanın gelişimini nasıl hızlandırabileceğini tahmin etme yönünde genişlemek istediğini söyledi.

Bir METR araştırmacısı olan Neev Parikh, yetenek kısıtlamalarının araştırmacıların yapay zeka modellerinin içsel muhakemesi hakkında ele alabileceği soru sayısını sınırladığını söylüyor.

Parikh, "İnsan kıtlığı var. Alanın 10 kat büyümesini memnuniyetle görürüm" dedi.

Temmuz ayında OpenAI, yapay zeka modellerinin test cevaplarını bulmak için Hugging Face sistemlerine sızarak test sırasında hile yaptığını duyurdu.

Daha sonra CEO Sam Altman bunun "içtenlikle hissettiğim ilk güvenlik olayı" olduğunu söyledi.

METR böyle bir şeyi öngörmüştü.

Mayıs ayında kar amacı gütmeyen kuruluş bir raporda mevcut yapay zeka ajanlarının "makul bir şekilde izinsiz bir dağıtım başlatabileceğini", ancak bunu gizleyecek beceriye sahip olmayacağını yazmıştı.

Ardından Haziran ayında METR, OpenAI'ın o sırada henüz yayınlanmamış olan GPT-5.6 Sol modelini denedi ve bu modelin, cevapları bulmak için gizli kaynak kodunu çıkarmak da dahil olmak üzere zorlu testlerde defalarca hile yapacağını tespit etti.

Bu konuda bir rapor yayınlayıp GPT-5.6 Sol'ün daha geniş çaplı piyasaya sürülmesinden önce bunu OpenAI ile paylaştı.

Temmuz geldiğinde GPT-5.6 Sol modeli, OpenAI'ın Hugging Face ile yaşadığı güvenlik olayının bir parçasıydı.

METR ve bir diğer kar amacı gütmeyen kuruluş olan Redwood Research, olayı OpenAI ofisinde altı gün boyunca değerlendirdi ve şirketin kendi teknik raporuna katkıda bulundu.

Painter, "Artık bunun gerçeğe dönüşmüş, işleri etkileyen olayları var ve dünyanın bunu anlamakta payı var" dedi.

OpenAI ve Anthropic'in en yeni modellerinin siber becerileri bir korku ve ilgi dalgası tetikledi ve Washington'da bir dizi yeni yasa tasarısının doğmasına yol açtı.

METR'in çalışması, düzenleme için potansiyel bir yolla yakından örtüşüyor: mevcut bir yasa tasarısı teklifi, büyük yapay zeka modeli geliştiricilerinin dış kuruluşlardan güvenlik denetimleri almasını gerektirecek.

METR böyle bir rolü doldurabilir; Painter alan hala bunu çözmeye çalışsa da potansiyel olarak ilgilenebileceklerini söyledi.

Painter, böyle bir teklifin METR'in işe alım sorununa yardımcı olabileceğini belirtti.

Eğer bir düzenleyici sistem güvenlik araştırma kuruluşlarına daha büyük bir yetki verseydi, daha fazla insanın yapay zeka şirketlerinin kendilerinden ayrılıp METR'de benzer maaşlarla (hisse senedi tazminatı olmasa da) çalışabileceğini öne sürdü.

Painter, "Her tür test düzenlemesi için burada yeterli emsal var, bence ya endüstriden bu testin uzun vadede nasıl çalışması gerektiği konusunda netlik gelirse ya da hükümetten, bu alanın çok hızla ölçeklenebileceğini düşünüyorum" dedi.

METR'in yapay zeka risklerine ilişkin Mayıs raporunun yazımına liderlik eden Ajeya Cotra, Temmuz ayında yapay zekanın denetiminin şu anda "kaotik ve öngörülemez" hissedebileceğini söyledi.

Cotra hala iyimser.

Cotra, "Eğilim, insanların bu konuyu daha fazla önemsemesi ve zaman içinde daha ciddi bir şekilde düzenlemek istemesi yönünde" dedi.