Anthropic'in yeni bir tehdit raporuna göre, Amerika Birleşik Devletleri dışındaki araştırmacılar, yüksek oranda patojenik kuş gribi, chikungunya ve potansiyel silah uygulamaları olan diğer biyolojik ajanları içeren deneyler planlamak için öncü yapay zeka modellerini kullandılar.

Araştırmacılar, virüslerin bulaşıcılığını ve bağışıklıktan kaçınmasını incelemek, ortopoks virüsü bağışıklık tepkisi genlerini araştırmak ve yeni toksinler tasarlamaya yardımcı olmak için yapay zekayı kullandılar; bazen tehlikeli biyolojik yeteneklere erişimi kısıtlamayı amaçlayan koruma önlemlerinden kaçınmak için adımlar attılar.

Anthropic, Perşembe günü yayınlanan raporda beş vakayı ayrıntılı olarak açıkladı ancak ilgili ülkeleri, kurumları ve belirli biyolojik ajanları açıklamadı. Şirket, araştırmacıların biyolojik silah geliştirmeyi amaçladığını iddia etmediğini vurguladı.

Bulgular, büyük ölçüde varsayımsal terimlerle tartışılan bir tehdide somut bir bakış sunuyor: Halihazırda biyolojik uzmanlığa, malzemelere ve laboratuvar erişimine sahip bilim insanları, hassas çift kullanımlı araştırmaları hızlandırmak için giderek daha güçlü yapay zeka sistemleri kullanıyor.

Bu bulgular aynı zamanda felaket niteliğindeki yapay zeka riskleri hakkındaki yenilenen bir tartışmanın ortasında ortaya çıkıyor. Eski bir Anthropic ve OpenAI araştırmacısı olan Jacob Coxon, şirketleri "doğrudan kendi kendini geliştiren süper zekaya yarışmak ve hayatımızla kumar oynamakla" suçlayarak yakın zamanda istifa etti. Uyarısı X üzerinde 100 milyondan fazla görüntülenme aldı.

Anthropic'in uyum bilimi lideri Evan Hubinger, ayrı olarak, yapay zekanın önümüzdeki on yıl içinde tüm insanları öldürme şansının yüzde 10'dan fazla olduğuna şahsen inandığını söyledi. Ancak Anthropic'in raporu, halihazırda şekillenen bir tehdide işaret ediyor: araştırmacılar potansiyel olarak tehlikeli biyolojik çalışmalar için öncü yapay zekayı kullanıyor, coğrafi kısıtlamaları aşıyor ve modellerin korumaları engeller çıkardığında uyum sağlıyor.

Bir vakada Anthropic, bir askeri araştırma enstitüsünde chikungunya işlev kazanımı araştırması için bir hibe başvurusunu engelledi. Önerilen çalışma, virüsün bulaşıcılığını ve bağışıklık sisteminden kaçma yeteneğini artırabilecek mutasyonları belirlemeye odaklandı.

Araştırmacılar bu mutasyonları bulaşıcı klonlar haline getirmeyi ve virüsü canlı hayvanlardan defalarca geçirerek en şiddetli hastalığa neden olan varyantları seçmeyi planladılar. Bu çalışma, bilim insanlarının chikungunya için daha iyi aşılar ve tedaviler geliştirmesine yardımcı olabilirdi.

Anthropic, bunun doğal olarak oluşan bir salgından ayırt edilmesi zor olan daha tehlikeli bir patojen de üretebileceğini söyledi. Araştırmacılar, Claude'a Anthropic'in bölgesel kısıtlamalarından kaçınmak için trafiği ABD altyapısı üzerinden tünelleyen bir yaşam bilimleri platformu aracılığıyla eriştiler.

Claude hassas isteklere yanıt vermeyi reddettiğinde, platform bu istekleri daha esnek korumalara sahip başka bir modele yönlendirdi. Anthropic, şirketin etkinlikle bağlantılı hesapları yasaklamasının ardından araştırmanın devam ettiğini söyledi.

Platform operatörü yeni kimlikler kullanarak günler içinde erişimi yeniden kurarken, Claude araştırma materyalleri hakkında editoryal yardim sağlamaya devam etti. Başka bir vakada, bir araştırmacı yüksek derecede patojenik kuş gribinde memeli adaptasyonu ve havadan bulaşma içeren deneyleri planlamak için haftalarca Claude'u kullandı.

Araştırmacı, kuş gribinin memeliler arasında daha etkili bir şekilde yayılmasına ve solunum sistemi dışında şiddetli hastalığa neden olmasına izin verebilecek viral özellikleri inceliyordu. Rapora göre, verimli bir insandan insana bulaşmaya muktedir bir versiyon önemli bir pandemi tehdidi oluşturacaktı.

Anthropic, araştırmacının virüs izolatlarına ve hayvan modeli tesislerine erişimi varmış gibi göründüğünü söyledi. Şirket çalışmayı daha zayıf modellerle sınırladı ve yardımı öncelikle çalışma tasarımı, veri analizi ve editoryal destekle sınırlandırdı.

Şirket, vakanın gelişmiş pandemi potansiyeline sahip patojenler oluşturmak için gereken bilgi ve biyolojik malzemeleri geliştiren aktif bir araştırma programının kanıtını sağladığını söyledi. Araştırmacı ayrıca modellere desteklenmeyen bir bölgeden erişirken kimliğini gizlemek için adımlar attı.

Devletle ilişkili bir bulaşıcı hastalık laboratuvarına bağlı ayrı bir kullanıcı, bir ortopoks virüsü araştırma hibesini baştan sona yaklaşık bir saat içinde taslak haline getirmek için Claude'u kullandı. Ortopoks virüsleri, çiçek hastalığına neden olan virüs variola ile maymun çiçeğini içerir.

Hibe başvurusu, insan bağışıklık tepkisini devre dışı bırakan viral genlerin incelenmesini önerdi ve merkezi hipotez, deneysel tasarım, dozaj, istatistiksel planlar ve acil durum stratejilerini içerdi. Çalışma virüsü zayıflatmak etrafında tasarlandığı için Claude'un korumaları yardımı engellemedi.

Ancak Anthropic, aynı bilginin bir araştırmacının virüsün bağışıklıktan kaçınma yeteneklerini korumasına veya geliştirmesine de yardımcı olabileceğini söyledi. Son iki vaka zehir peptidlerini ve toksinleri içeriyordu.

Bir araştırmacı, birden fazla zehirli hayvan soyundan gelen toksin peptidlerinin bir atlasını oluşturmak ve ardından özelliklerini optimize etmek için üretken bir boru hattı oluşturmak için Claude'u kullandı. Belirtilen amaç, yeni ağrı kesiciler, antidepresanlar ve diğer tedavileri geliştirmekti.

Ancak atlas, potansiyel olarak etkisiz hale getirici ajanlar olarak kullanılabilecek paralitik toksinlerle ilişkili yapıları da içeriyordu. Anthropic, çalışmanın devlet destekli bir araştırma programının parçası olduğunu söyledi.

Diğer vakada bir araştırmacı, bir bakteriyel toksin ve Dünya Sağlık Örgütü tarafından öncelikli bir hastalık tehdidi olarak tanımlanan hemorajik ateş virüsünden bir protein dahil olmak üzere çeşitli toksinleri sayısal olarak yeniden tasarlamak için Claude'u kullandı. Araştırmacı, ilerleme raporları hazırlamaya yardımcı olmak için Claude'u kullandı ancak modele toksinlerin kimliklerini kasıtlı olarak belirsiz tutmasını söyledi.

Vakalar, otomatik filtreler tek başına kullanıldığında biyolojik kötüye kullanımın neden önlenmesinin zor olabileceğini göstermektedir. Anthropic'in korumaları, gelişmiş pandemi patojenlerini içeren en açık girişimleri engelledi, ancak kullanıcılar çalışmalarını tıbbi, savunma veya terapötik araştırma olarak çerçevelediklerinde daha az etkili oldular.

Anthropic raporda, "Biyolojik yetenekler çift kullanımlıdır" dedi. "Bir biyolojik silah geliştirmek için kullanılabilen aynı bilgi, örneğin bir aşı veya bir hastalığın tedavisini geliştirmek için de kullanılabilir."

Şirket, düşman devlet kurumlarıyla ilişkili 30 günlük faaliyeti yakın zamanda incelediğini ve yaklaşık 35 farklı biyolojik araştırma çabası bulduğunu söyledi. Çoğu sıradan sivil bilimi içeriyordu, ancak bazılarının "dikkat çekici çift kullanım potansiyeli" vardı.

Anthropic, bulguların Claude'un yakın bir biyolojik saldırıyı mümkün kıldığını göstermediğini belirtti. Şirket, bulguların devletle ilişkili programlara bağlı araştırmacıların erişim kontrollerinden kaçınmaya ve silah uygulamaları olabilecek biyolojik araştırmalarda öncü yapay zeka modellerini kullanmaya çalıştığını gösterdiğini söyledi.