AB, çocukların teknolojiye duygusal bağımlılık geliştirmesini önlemeye çalışırken, 18 yaşın altındaki herhangi biriyle etkileşimde sohbet botlarının duyguları veya kişilerarası ilişkileri taklit etmesini yasقlamayı planlıyor.

Kurallar, Perşembe günü önerilen ve reşit olmayanların sosyal medya ile video paylaşım platformlarına erişimine benzer kısıtlamalar içeren AB Çocuk Yasası'nın (EU Kids Act) bir parçası olacak.

WIRED tarafından görülen yasa taslağına göre, 13 yaşın altındaki çocukların ebeveyn denetimi olmadan sohbet botlarına erişmesi yasaklanacak ve dijital platformlar ürünlerine çocuk güvenliği korumaları inşa etmek zorunda kalacak, aksi takdirde toplam dünya çapındaki cirolarının %6'sına varan para cezalarıyla karşı karşıya kalacaklar.

Yeni kurallar altında, AB'de faaliyet gösteren sohbet botlarının ayrı konuşmalar arasındaki etkileşimlerin hafızasını tutmasına da izin verilmeyecek; çünkü Komisyon bunun sistemlerin zaman içinde reşit olmayanların hassas verilerini biriktirmesine ve potansiyel olarak zararlı etkileşim kalıplarını pekiştirmesine yol açabileceğinden endişe ediyor.

Önerilen yasa ayrıca çevrimiçi sosyal ağ siteleri, video paylaşım platformları ve oyun sağlayıcılarının hizmetlerinde yapay zeka sohbet botlarının kullanımını otomatik olarak etkinleştirmemesi veya teşvik etmemesi gerektiğini şart koşacak.

Bu, Snapchat tarafından yapıldığı gibi, yapay zeka yol arkadaşlarının ve genel sohbet botlarının reşit olmayan bir kişinin kişiler listesinin en üstüne sabitlenmemesini de içeriyor.

Teklif, Komisyon tarafından reşit olmayanların sağlığı, güvenliği ve esenliği için ciddi riskler oluşturduğu görülen yapay zeka yol arkadaşları ve genel sohbet botları ile sınırlıdır.

Brüksel merkezli savunma grubu Avrupa Dijital Haklar'da politika danışmanı olan Simeon de Brouwer, sohbet botu önlemlerini memnuniyetle karşılıyor, ancak WIRED'e şunları söylüyor: "Bunları yalnızca gençlerle sınırlamak mantıklı değil."

"Bağımlılık yapıcı olacak şekilde tasarlanmış yapay zekalardan, duygusal bağımlılıklar yaratan yapay zekalardan veya kullanıcılara varsayılan olarak etkinleştirilen ve dayatılan yapay zeka özelliklerinden hepimiz korunmayı hak etmiyor muyuz?"

AB, bu yılın ilerleyen günlerinde açıklanması beklenen Dijital Adalet Yasası'nın bağımlı hale getirici tasarımlara karşı daha geniş çapta kısıtlamalar önermesinin beklendiğini söylüyor.

WIRED tarafından görülen belgelerde Avrupa Komisyonu, sohbet botlarına olan bağımlılığın bir çocuğun gelişimini ve diğer insanlarla olan ilişkilerini olumsuz yönde etkileyebileceğinden endişe duyduğunu belirtiyor.

Komisyon ayrıca sohbet botlarının reşit olmayanlara akıl sağlığı ve kişisel gelişimleri de dahil olmak üzere tehlikeli tavsiyelerde bulunmasından ve bunun riskli davranışı şekillendirip teşvik edebilmesinden endişe duyuyor.

Başkan Ursula von der Leyen Perşembe günü düzenlediği basın toplantısında, "Platformlar çocukların akıl sağlığıyla pervasızca oynuyor" dedi.

Fransa, Almanya, İsveç ve İrlanda'da yapılan bir Ipsos BVA anketine göre, 11 ila 25 yaş arasındaki Avrupalıların yaklaşık yarısı yapay zeka sohbet botlarıyla samimi veya kişisel meseleleri tartışt.

Avustralya ve Birleşik Krallık, sosyal medya yasakları aracılığıyla reşit olmayanların sohbet botlarına erişimini kısıtlamaya çalışıyor.

Raporda ayrıca, von der Leyen'in Çarşamba günkü Birliğin Durumu konuşmasında değindiği sohbet botları tarafından üretilen deepfake'lerin zararlarına da dikkat çekildi: "Kızların fotoğraflarının yapay zeka tarafından oluşturulan cinsel içerikli görseller için kullanılmasına razı olmak zorunda değiliz... Avrupa'nın harekete geçme gücü var."

AB Yapay Zeka Yasası Ağustos ayından bu yana sentetik içeriğin yapay zeka ürünü olarak etiketlenmesini zorunlu kılmış olsa da, kurallar şu anda yalnızca ticari kullanım için üretilen deepfake'ler için geçerlidir.

Komisyon ayrıca dijital dikkat dağınıklığını gençlerdeki temel becerilerdeki düşüşün suçlusu olarak gösteriyor.

Ekonomik Kalkınma ve İşbirliği Örgütü'nün (OECD) 91 ülkeyi kapsayan araştırmasına göre, okul ödevleri için yapay zeka sohbet botları kullandığını söyleyen çocuklar, kullanmayanlara göre daha düşük test puanları alıyor.

Bağımsız ağ EU Kids Online'dan araştırmacılar bir raporda, bilişsel etkiler ve vasıfsızlaşma hakkındaki endişelerin "çocuk haklarının Üretken Yapay Zeka araçlarının tasarımında yer almadığını açıkça ortaya koyduğunu" yazdı.