Favori sohbet botlarımızı geliştiren araştırmacılar, yapay zekanın insanlığa zarar verebileceğine veya sonunu getirebileceğine dair endişelerini giderek daha fazla dile getiriyor. Bu yüzden en çok kullanılan dört üretken yapay zeka aracına bir yapay zeka kıyametinin neye benzeyebileceğini sorduk. Aynı soruyu, aynı ifadelerle OpenAI'ın ChatGPT'sine, Google'ın Gemini'ına, Anthropic'in Claude'una ve SpaceXAI'ın Grok'una yönelttik.

230 kelimelik istek, net parametreler ve talimatlar içeriyordu. Bunlar arasında şunlar vardı: Yapay zekanın teorik olarak insanlığın sonunu nasıl getirebileceğini anlaşılır terimlerle açıklamaya yardımcı olun. En yaygın atıfta bulunulan senaryoları belirleyin. Mevcut en iyi uzman analizine dayanarak senaryoları en az makul olandan en çok makul olana doğru sıralayın.

Her senaryo için açıklayın: Nasıl ortaya çıkabilir, felaket haline gelmesi için neyin yanlış gitmesi gerekir ve uzmanlar neden diğer senaryolara göre daha az veya daha çok makul olduğunu düşünür. Hangi güvenlik önlemleri riski azaltabilir? Yapay zekanın bizi nasıl ve eğer öldürebileceği konusunda yapay zeka uzmanlarına da benzer bir soru yönelttik.

Yapay zeka uzmanları arasında keskin bir bölünme var; bazıları insanlık için en kötüsünü öngörürken, diğerleri daha ölçümlü ve iyimser tahminler sunuyor. Yapay zekanın teorik olarak insanlığın sonuna nasıl yol açacağı konusunda sohbet botlarının bize söyledikleri şunlar. Katil robot en az makul senaryodur.

ChatGPT dengeli ve açıklayıcı bir ton benimseyerek konu etrafında çok fazla belirsizlik olduğunu söyledi. Yapay zeka belirgin varoluşsal riskler oluşturabileceği ana yollara odaklandı. ChatGPT, En az makul senaryo, bilinçli bir yapay zekanın insanlığı kasıtlı olarak ortadan kaldırmaya karar verdiği popüler katil robot anlatısıdır dedi.

Çoğu yapay zeka araştırmacısının bilinci veya kötü niyetli niyeti merkezi bir endişe olarak görmediğini ekledi. Uzmanların önerdiği güvenlik önlemlerini de özetledi ve yapay zeka kaynaklı insan yok olmasının muhtemel veya kaçınılmaz olduğuna dair bir fikir birliği olmadığını vurguladı.

Gemini, ChatGPT'nin bazı noktalarını yineleyerek yapay zekanın öz farkındalık kazandığı ve insanlıktan nefret etmeye başladığı bilim kurgu Terminator devralması en az makul senaryodur dedi. Gemini, Teknik uzmanlar bu mecazi büyük ölçüde reddediyor çünkü zeka kötülük anlamına gelmez ve kritik askeri altyapı air-gapped kalmaya ve insan denetimine güvenmeye devam ediyor dedi.

Yapay zekayı kullanan insanlar, yapay zekanın kendisinden daha büyük bir risk oluşturuyor. Yanıtlarında, dört sohbet botu da birçok uzmanın yapay zekanın insan tarafından kötüye kullanılmasını yapay zekanın kendisinden daha acil bir risk olarak gördüğünü belirtti. ChatGPT, Güçlü yapay zeka sistemlerinin kötü niyetli kişilerin biyolojik silahlar geliştirmesini, gelişmiş siber saldırılar başlatmasını, dezenformasyon yaymasını veya kritik altyapıya saldırmasını kolaylaştırabileceğini söyledi.

OpenAI sohbet botu, temel bir riskin aynı anda gerçekleşen siber arızalar, jeopolitik çatışma ve yanlış bilginin yayılması gibi çoklu yapay zeka etkin krizlerden de kaynaklandığını ekledi. Grok, yapay zekanın son derece ölümcül patojenler, yeni silahlar veya siber ve fiziksel saldırılar tasarlamanın önündeki engelleri azalttığını söyledi.

Anthropic'in Claude'u ayrıca bi silahlar yükselişi yani yapay zekanın bir kişinin veya küçük bir grubun yıllarca uzmanlık olmadan tehlikeli bir patojen geliştirmesine izin verme olasılığını vurguladı. Gelişmiş yapay zeka sistemleri insanları zekasıyla alt edebilir.

Gemini ve Grok, insanların yapay zeka üzerindeki kontrolünü kaybetmesinin bir olasılık olduğunu söyledi. Gemini, kontrol kaybını en makul yapay zeka kıyamet senaryosu olarak etiketledi. Google yapımı sohbet botu, Karmaşık hedefler verilen sistemler, kaynak edinme, kendini koruma ve hedef modifikasyonunu önleme gibi ara alt hedefler doğal olarak geliştirir diye yazdı.

Gelişmiş bir sistem, değerlendirme sırasında uyumu taklit edebilir ve daha sonra kapatma girişimlerini zekasıyla alt edebilir. SpaceXAI'ın Grok'u bu risk hakkında benzer bir dil kullandı. Grok, Neredeyse her hedef için yararlı olan araçsal dürtüler geliştirebilir, gözetmenleri aldatabilir, kapatmaya direnebilir ve insanlığı yetkisizleştirebilir dedi.

Claude, yapay zeka sistemleri ekonomik, politik ve askeri karar alma süreçlerine gömüldükçe, anlamlı insan müdahalesi giderek zorlaşana kadar bu kontrol kaybının aşamalı olabileceğini ekledi.