Anthropic, önde gelen Çinli yapay zeka laboratuvarlarının yaz boyunca Claude'u milyonlarca damıtma saldırısına tuttuğunu belirtti. Yapay zeka laboratuvarı Perşembe günü yayınladığı raporda, Alibaba, Moonshot, DeepSeek, Zhipu ve Xiaomi'nin Mayıs ile Temmuz ayları arasında Claude'a karşı toplamda yaklaşık 190 milyon damıtma saldırısı başlattığını bildirdi.

Damıtma saldırıları, daha az gelişmiş modellerin yeteneklerini eğitmek ve geliştirmek için gelişmiş sınır yapay zeka modellerinin çıktılarını kullanmayı ifade ediyor. Anthropic, DeepSeek ve Moonshot AI'ın kullanıcılarının isteklerini kendi modelleri yerine Claude'a yönlendirdiğini belirtti. Şirket, Moonshot tarafından Mayıs ve Temmuz arasında 23 milyon, DeepSeek tarafından ise Temmuz ayında 14 gün içinde 12.1 milyon bu tür yönlendirme kaydedildiğini aktardı.

Anthropic ayrıca, Çinli yapay zeka modelleri için amaçlanan ancak bunun yerine Claude'a yönlendirilen bu isteklerin bazılarının Çin ve Rus hükümetleri ile ordularına ait hassas verileri ifşa ettiğini söyledi. Buna, Çin Halk Kurtuluş Ordusu bağlantılı bir Kimi kullanıcısı tarafından yüklenen kapalı devre kamera görüntüleri ve Rus bir askeri yüklenici tarafından sunulan Rus hükümet veritabanındaki bilgiler dahildi.

Raporuna göre Alibaba, Anthropic'in şimdiye kadar ölçtüğü en büyük saldırıyı gerçekleştirerek, Mayıs ve Temmuz ayları arasında 3.500 sahte hesap tarafından gerçekleştirilen 151 milyondan fazla etkileşim kaydetti. Anthropic, bu hesapların Claude'un kendi muhakeme süreçlerini yazmasını sağladığını ve bunların Qwen modellerini eğitmek için kullanıldığını belirtti.

Anthropic, son zamanlarda gizemli Ox Alpha modeliyle manşetlere çıkan Z.ai şirketini de Alibaba'nınkine benzer nitelikte bir saldırı başlatmakla suçladı. Xiaomi'nin durumunda ise Anthropic, şirketin kendi MiMo modelleriyle yapılan kullanıcı sohbetlerini kaydettiğini ve eğitim verisi oluşturmak için bu konuşmaları Claude'a aktardığını ifade etti.

Alibaba, Moonshot, DeepSeek, Zhipu ve Xiaomi temsilcileri, Business Insider'ın Anthropic'in iddialarıyla ilgili sorularına yanıt vermedi. Anthropic de yorum talebine yanıt vermedi.

Anthropic, gelecekteki damıtma saldırılarını önlemek için şüpheli faaliyetleri yasaklayacak yeni güvenlik önlemleri eklediğini ve Claude'un yeni modelleri eğitmek için daha az yararlı olan daha az ayrıntılı muhakeme metinleri üretmesini sağladığını açıkladı. Şirket ayrıca, Claude'un mevcut olmadığı Çin, Rusya veya İran'dan faaliyet gösterdiği görülen kullanıcıların kimliklerini doğrulamalarını isteyecek.