Futurism'in daha önce bildirdiğine göre Meta, yapay zeka sohbet botu tarafından önerilen komutlarda değişiklik yaptığını açıkladı. Bu karar, botun bir kadının küçük kızları hakkında kişisel bilgileri araştırmasını gösteren viral bir videonun ardından alındı.

The Verge'e yapılan açıklamada Meta sözcüsü Dina El-Kassaby, şirketin "hedefi ıskaladığını" belirterek, "özelliğin bireye asla böyle sorular sordurmamış olması gerekiyordu" dedi.

Geçtiğimiz hafta Instagram kullanıcısı Kalie Robins, bir klibi Facebook'ta da paylaştıktan sonra Meta AI'ın kendisine nasıl müdahaleci bir öneride bulunduğunu açıklayan bir video yayınladı.

Kendisi ve çocuğunun araba içinde şarkı söylediği bir videonun altında "Çocuk yolcu kim?" şeklindeki yapay zeka komutu belirdi.

Robins, bu komutu seçtiğinde Meta AI'ın önceki gönderilerinin yanı sıra akrabalarının gönderilerinden de kızları hakkında bilgileri bir araya getirdiğini belirtti.

Sistem, çocuklarının yaşlarını ve Robins'in ailesiyle birlikte nerede yaşadığını soran ek komutlar önerdi.

Robins, Meta AI'ın ayrıca platformda yayınlanan kızlarının fotoğraflarını da gösterdiğini, bunların arasında yıllar önce sildiğini iddia ettiği bir fotoğrafın da yer aldığını söyledi.

Meta, yapay zekalı asistanını Facebook, Instagram, WhatsApp ve Messenger'a entegre ederek soruları yanıtlamasını, gönderiler yazmasını ve görseller üretmesini sağladı.

Temmuz ayında şirket, gelen şiddetli tepkilerin ardından insanların diğer Instagram kullanıcılarının yapay zeka derin sahteciliklerini (deepfake) oluşturmasına olanak tanıyan bir özelliği geri çekmişti.

Meta'dan El-Kassaby, Meta AI'ın kişisel konularla ilgili komutlar önermesine neden olan sorunu artık düzelttiklerini belirtti.

El-Kassaby, "Bu özelliği, insanların ilgisini çeken konular veya gönderiler hakkında daha fazla bilgi edinmesine yardımcı olmak için oluşturduk" dedi.

El-Kassaby, "Biri bir komuta tıkladığında ve bu özelliği kullandığında, ürettiği yanıt kullanıcının zaten erişebileceği bilgilere dayanmaktadır" diye ekledi.

Bu vakada Meta AI'ın, Robins'in çocuklarının adını söylediği videolardan yararlanmış olabileceği belirtildi.