Çocukların yüzlerinin sosyal medyada paylaşılıp paylaşılmaması gerektiğine dair tartışma yeni değil. Çocukları şu an üniversitede olan ve Instagram'da bebek fotoğrafları paylaşıp paylaşmama konusunda bocalayan arkadaşlarım olduğunu hatırlıyorum.

Ancak çok yakın zamanda bu sohbet, yapay zeka ile ilgili endişeler nedeniyle önemli bir yön değiştirdi ve hatta Meta'yı harekete geçmeye zorladı. Son bir hafta içinde Instagram'da birbirinden oldukça farklı kökenlere sahip ancak sonuçta aynı sonuca varan iki viral olay yaşandı: Ebeveynler artık internette çocuklarının fotoğraflarını paylaşmamaları gerektiğini söylüyor.

Bunlardan ilki, Utah'lı bir anne olan Kalie Robins'in viral olan Instagram gönderisiydi. Robins, kendisinin ve çocuğunun yer aldığı bir videoda Meta AI önerilerini fark ettiğinde şoke oldu ve ürktü.

Meta AI sohbet botu "çocuk yolcu kim?" gibi sorular önerdi. Meta AI'ın sorularını incelemeye devam eden Robins, silindiğine inandığı fotoğraflarının ve annesinin Facebook sayfasından çocukları hakkındaki bilgilerin çekildiğini gördü.

Evet, Meta AI halihazırda internette var olan bilgileri çekiyordu, ancak aynı zamanda çocukların kimlikleri hakkında sorular da öneriyordu ve potansiyel olarak bunu yabancılara öneriyordu (bu Meta AI soruları setini yalnızca Kalie'nin mi gördüğü yoksa bir yabancıya farklı soruların mı önerildiği belirsiz).

Meta bana, bu yapay zeka önerilerinin daha sonra düzeltilmiş bir hata olduğunu söyledi. Meta sözcüsü Andy Stone, "Biri bir komuta tıkladığında ve bu özelliği kullandığında, oluşturduğu yanıt halihazırda kullanıcının erişimine sahip olduğu bilgilere dayanmaktadır" dedi.

Stone, "Ancak bu özellik asla bireye böyle sorularla yaklaşmamalıydı ve bu sorunu düzelttik, bu yüzden hedefi ıskaladık" diye ekledi. Meta AI çocukları hakkında sorular önerdi.

Robins ile görüştüm ve Meta AI'ın bilgileri nasıl çekebildiğinin farkında olmadığını dile getirdi. Ona göre bu, farkında olmasak bile verilerimizin ne kadarının sosyal medyada olduğunun sert bir hatırlatıcısıydı.

Bana, "Okul ve öğretmen adının olduğu okula dönüş fotoğraflarını hiç çekmediğim için çok dikkatli olduğumu düşünmüştüm" dedi. "Hiçbir simgenin önünde veya cadde tabelaları olan evimizin önünde paylaşım yapmadım. Bunların hiçbirini yapmadım" diye ekledi.

Robins, "Çok dikkatli olduğumu düşünüyordum ve sonuçta bunun bir önemi yoktu" dedi. "Bu bilgiyi benden bile almadı. Diğer insanlardan aldı, yani bu durumda ne kadar dikkatli olduğumun bir önemi yoktu" diye konuştu.

Robins'in videosuna internetteki tepki iki yönlü oldu: İlk olarak, Meta AI'ın ürkütücü ve rahatsız edici bir şey yaptığı (Meta'nın da katıldığı) ve bunun ebeveynlere çocukları hakkında orada hangi bilgilerin ve yayınladıkları fotoğrafların bulunduğuna karşı dikkatli olmalarını hatırlatan iyi bir şey olduğu yönündeydi.

Aynı zamanda, Instagram'daki bir başka viral trend, insanların çocukların görüntülerinin internette nasıl paylaşıldığını yeniden düşünmesine neden oluyor. Neredeyse tamamı kadın veya anne olan bir grup profesyonel aile fotoğrafçısı, artık sosyal medyada veya profesyonel web sitelerinde çocukların yüzlerini paylaşmayacaklarına dair yeni bir politika duyuran bildirimler yayınlıyor.

Buradaki endişe, yapay zeka tarafından oluşturulan çocuk cinsel istismarı materyalleri (CSAM) ve sosyal medyada yayınlanan fotoğrafların belirli çocukların derin sahtekarlıklarını (deepfake) oluşturmak için kullanılabileceği veya yüzlerinin bu tür içerikler oluşturan yapay zeka modelleri için veri eğitimine girebileceği riskiyle ilgilidir.

Bu meşru bir endişedir ve yapay zeka tarafından oluşturulan CSAM'yi içeren, bazıları ulusal medyanın ilgisini çeken ceza davaları olmuştur.

Yapay zeka tarafından üretilen CSAM hakkında son yasal karar Yapay zeka tarafından üretilen CSAM ile ilgili bir ceza davasında bir hakimin yakın zamanda verdiği karar, bazı Instagram ebeveynlik çevrelerinde viral hale geldi.

Yasal kararın ayrıntıları karmaşıktır (Washington Post'un bu konudaki haberinde harika ayrıntılar var), ancak kısa versiyonu, hakimin yapay zeka tarafından üretilen çocuk pornografisine sahip olmanın (üretimi veya dağıtımı değil) ifade özgürlüğü olarak korunduğuna dair yasal bir emsal olduğunu yazmasıdır.

Kararın çıkış noktaları ve bunun masum çocuk fotoğrafları için ne anlama geldiği şu anda Instagram'da viral olan şeydir.

Kentucky'de yaşayan bir aile ve düğün fotoğrafçısı olan Hannah Haggard, Instagram'da politikalarını değiştirdiğini ve ebeveynlerin izniyle bile çocukların yüzlerini paylaşmayacağını yayınladı.

Haggard bana, "Fikirle zaten oynuyordum" dedi. "İzin olmadan asla paylaşmıyorum, ancak yine de bunu zaten düşünüyordum." Haggard, "Sonra karar çıktığında, yapılması gerekenin bu olduğunun doğrulaması oldu" diye ekledi.

Gördüğüm çevrimiçi tepkilerin çoğu karara öfkeli görünüyor, bu da ilk bakışta çocuk avcıları için iyi bir haber gibi görünüyor.

Ancak Amerikan Barosu için yapay zeka tarafından üretilen CSAM yasal sorunları hakkında yazan insan hakları ve çocuk hakları uzmanı avukat Mariefaye Bechrakis, bunun daha incelikli olduğunu söylüyor.

Bechrakis, hakimin kararı hakkındaki görüşü hakkında bana, "Not edilmesi gereken önemli şey, hakimlerin gelecekteki bir temyiz için yeşil ışık yakmasıdır" dedi.

Bechrakis, "Esasen gelecekteki savcılara geleceğe yönelik bir yol haritası ve gerçek bir fırsat verdiler" dedi. "Modern yapay zeka modellerinin yoktan var olmadığını, ancak büyük veri setleri üzerinde eğitilmesi gerektiğini belirttiler" diye ekledi.

Missouri'de aile fotoğrafçısı olan Katey Sutton da çocukların yüzlerini internette göstermeme politikası hakkında paylaşımda bulundu.

Sutton bana, "Yapay zekanın gerçekten 'sentetik' olduğuna inanmıyorum" dedi. "Yapay zekanın interneti taradığı ve bilgilendirmek, önermek, oluşturmak vb. için kendisine verilen/bulunan bilgileri kullandığı bilinmektedir" diye konuştu.

Facebook veya Instagram'da gezinin ve tüm ebeveynlerin çocuk fotoğrafları yayınlamayı bırakmadığını açıkça göreceksiniz. Ancak bazı insanlar için bu son yapay zeka korkuları, paylaşım yapmadan önce riskleri dikkatlice düşünmelerini sağlıyor. Ve bu muhtemelen iyi bir şeydir.