İnsanlar, tavsiye almak için giderek daha fazla yapay zeka kullanıyor. Bir2026 yılında Pew Araştırma Şirketi'nin raporu10% oranında Amerikalinin, duygusal destek almak veya arkadaşlık için sohbet botları kullandığını ortaya koydu. Bazıları, hatta birKarizmatik lider, yapay zeka.
Daha genel olarak,ChatGPT'de 1,1 milyon konuşma içeren büyük ölçekli bir çalışma49% mesajın kullanıcıların "bilgi veya tavsiye" aradığını ve "daha iyi bilgilendirilmek veya daha iyi kararlar almak" için yardım aradığını ortaya koydu.
Soruları yalnızca yaygın pratik konulara sınırlı değildir. 2021'de, etik veya ahlaki sorular gönderebileceğiniz yapay zeka tabanlı bir web sitesi olan Ask Delphi,3 milyon görüşAz önlerinde birkaç hafta içinde.Allen Institute for AI ve Washington Üniversitesi'nden araştırmacılar, sistemin geliştiricileri olduğunu iddia ettiler.Amaçlarının, onun bir ahlaki otorite olarak algılanmasını sağlamak değil, kullanıcıların onu böyle yorumlamasını önlemekle ilgili olduğunu.
Haberlere göre, 2024 yılına kadar, 150 milyon dolarlık bir yatırımın, 100.000 yeni iş yaratacağını öngörülüyor.The Verge, bir teknoloji haber kaynağı,sistemin adının – Ask Delphi – kullanıcılarıüstün bir bilgi kaynağı olarak görmeye teşvik ettiğini savundu. Ad,Delphi'nin kehanetinden esinlenildiAntik Yunanlıların, Apollon, Yunan tanrısı, öngörü tanrısı, yanıtlarını ileten bir rahip olan bir orakla sorduğu zor sorular.
"Delphi" adı seçimi, bir öneridir. Tarih boyunca, toplumlar, herhangi bir insanın anlayamayacağı kadar bilgili olduğuna inandıkları kaynaklara başvurmuşlardır. Oraklar, peygamberler ve öngörü uygulamaları, insan yargısının sınırlarına ulaştığında, ulaşılmaz veya gizemli kaynaklardan rehberlik sunmuştur.
Birbir antropolog olarakveYapay zeka araştırmacısı, sohbet botlarına ilgi gösteriyor, eski bir oraküs fikrinin, konuşan yapay zeka tartışmalarında yeniden ortaya çıkması bizi şaşırtıyor. Eski oraküsler gibi, modern yapay zeka, bireyin yargı veya bilgisine aşan, zor sorular hakkında giderek daha fazla danışılıyor - "Birinin duygularını korumak için yalan söylemek doğru mu?" veya "Çocuğunuzu kurtarmak için nükleer bomba patlatmak" gibi.
Ancak benzerlik burada bitmiyor: Yapay zekanın bir yanıt vermesi için kullandığı süreçler, kullanıcıların yanı sıra sistem tasarımcıları için de anlaşılması zordur. Bu şeffaflığın, insanların bu sistemleri otorite sahibi olarak algılamasının bir nedeni olduğunu savunuyoruz.
Antik bir insan çelişkisi
Oraküsler, insan veya Delfos'un rahibesi gibiKehanet, örneğin I Ching, antik Yunanistan'dan Çin'e kadar çeşitli toplumlarda ve çeşitli dini geleneklerde ortaya çıkmıştır.
Örneğin,Ram Shalaka oracılıHindu yazısına dayanırRamcharitmanas, 16. yüzyılın eski Hint epikinin yeniden yorumlanmasıRamayanaKullanıcı, 15x15'lik bir ızgaradaki rastgele bir kareye parmağını yerleştirir. Belirlenmiş bir sayma işlemi, kullanıcının zihninde olan soruya cevap olarak iddia edilen bir ayeti metinden ortaya çıkarır.Hıristiyan bibliomanci, bir bir bir yöntem, bir kişinin rehberlik arayışında, Kutsal Kitap'ı rastgele açar ve bulduğu pasajı sorusuna bir cevap olarak yorumlar.
Bu tür öngörü tekniklerinde rastgeleliğin kullanımı, "kara kutu" etkisi yaratır - kimse, bu tekniklere dahil edilen rastgele unsurun, ortaya çıkan cevaba nasıl bir ilişki kurduğunu tam olarak açıklayamaz. Ancak bu belirsizlik, öngörünün otoritesinin bir parçasıdır. Transendental içgörü kaynakları arayan kullanıcılar, öngörünün nasıl cevaplar ürettiğini bilmek veya bilmemek konusunda endişelenmezler.
Antropolojistler,öngörü ve öngörü tekniklerisıklıkla rastgelelik üretenRastgele sonuçlarSonuç olarak, yanıtlarınız tarafsız görünür ve kaynaklarınız gizemlidir, bu da insanların sınırlarının ötesine uzanan bir şeyle iletişim kurduklarını düşünme algısını güçlendirir.
İlginç bir şekilde, orak kavramı bilgisayar bilimlerine girmiş ve 1939'da kesin bir matematiksel anlam kazanmıştır. Alan Turing, bilgisayar bilimleri ve yapay zeka için temel olan fikirleri ile bu kavramı benimsemiştir.Doktora tezine dayanan bir çalışma"Orak makinelerini" tanıttı, bu da kendi bilgisayarının erişemediği dış bir kaynağa danışabilen matematiksel bir hesaplama modelidir.
Başka bir deyişle, hem matematiksel hem de dini bağlamlarda, bir orak, mevcut bir sistem veya aksiyom kümesinde çözülemeyen sorunlara yanıtlar sağlar.
Yapay Zeka Çağında Kehanet
Modern chatbot'lar, örneğin ChatGPT, kara kutu olarak kabul ediliyor. Bu, kullanıcıların, sistemin arkasındaki tüm hesaplamaların gizli tutulması nedeniyle oluyor. Bu "kara kutu" iddiası, hattaAçık ağırlık modelleri (açık ağırlıklı modeller, orijinal İngilizce metinde), sayısal parametreleri, "ağırlıklar" olarak adlandırılan, kamuya açık olanlar.
Bu modeller tarafından yapılan hesaplamalar temeldir: toplama, çarpma ve basit matematiksel fonksiyonlar. Ancak, bir kullanıcının sorgusuna yanıt verirken, çok sayıda bu hesaplamanın yapılması, sistemin genel olarak ne yaptığını anlamayı neredeyse imkansız hale getirir.
Temel olarak, bu hesaplamaları yönlendiren ağırlıklar, bireysel insanlar tarafından ayrı ayrı tasarlanmamıştır. Bunlar, internet ölçeğindeki verilerden otomatik olarak öğrenilir. Ağırlıkların ve tüm temel hesaplamaların analiz için mevcut olmasına rağmen, modellerin belirli bir yanıt üretme şeklini kolayca anlamak mümkün değildir. Aslında, modern yapay zeka alanının bir bölümü, "mekaniksel yorumlanabilirlik", yapay zeka sistemlerinin nasıl çalıştığını içsel olarak anlamamızı iyileştirmeye adanmıştır.
Dikkat çekici olarak, yapay zeka sistemlerinin tasarımcıları, sistemlerinin belirli davranışları nasıl ürettiğini tam olarak anlamadıklarını kabul ediyor. Sistemlerin öngörücü olmasını amaçlamasa bile, sistemlerinançsal görümler üretebilir.
Geçen yıl, örneğin, Anthropicbeklenmedik bir durum ortaya çıkardıClaude 4 ile ilgili. Normalde, Claude genellikle bir insanla konuşur. Ancak, Anthropic'in mühendisleri, Claude'u bir konuşmanın her iki tarafında da yerleştirdiler. Makineler arasındaki konuşma, hızla bilinç ve öz-bilinç üzerine tartışmalara dönüştü ve ruhsal, metafizik veya şiirsel temalara sahip içerik üretti.
Anthropic, bu özelliği "ilginç" olarak adlandırdıRuhani Mutlulukun Cazibesi, biriminasyonun konuşma tarzının bir eğilimi. Bu durumun beklenmedik olduğunu, çünkü açık bir şekilde bu tür davranışlar için eğitilmemişlerdi, vurguladılar.
Biznesimiz, ChatGPT'nin Delphi'nin yeni oracılı olacağı veya insanların çoğu, yapay zekanın tanrısal olduğunu düşündüğü yönünde değil. Cevapları da kusursuz değil. Bunun yerine, oracların tarihi, insan yaşamının kalıcı bir özelliğine işaret ediyor: Her zaman, kendimiz belirleyebileceğimiz sınırları aştığımızda, kendimiz dışındaki kaynaklardan cevap arıyoruz. Bugün, yapay zeka, bu kaynaklardan biri haline geliyor. Kurumlar zaman içinde büyük değişiklikler geçirse de, insan doğası değişmiyor.
Ambuj Tewari, NSF ve NIH'den fon desteği alıyor.
Webb Keane, herhangi bir şirket veya kuruluştan, bu makalenin yayınından fayda sağlayabilecek olanlardan danışmanlık hizmeti sağlamamış, çalışmamış, herhangi bir şirketin veya kuruluşun hissesine sahip olmamış veya finansman almamış ve yalnızca akademik pozisyonunu dışında herhangi bir önemli bağlantıyı açıklamamıştır.