Edebiyat, yaklaşık beş yüz yıldır bizi uyarıyor: Kurduğumuz şey, sonunda bizi baştan sona değiştirebilir. Yapay zeka (YZ) alanındaki gelişmeler, insanlığın tüm yükünü YZ'nin omuzlarına bırakma vaadiyle birlikte, gerçeklik ile pazarlama arasındaki uçurumu gözler önüne seriyor. BitOK’un CPO’su Dmitry Nikolsky, insanlığın YZ'ye aşırı güveninin tehlikeli olduğunu savunuyor. Elon Musk da OpenAI davasında YZ'nin insanlığı tehdit edebileceği konusunda uyarıda bulunmuştu.

Yapay zekaya dair korku yeni bir fenomen değil. Kaygı, elektriğin icadından bile eski. 16. yüzyıl Prag’ında Rabbi Loew, Golem’i yaratırken hemen kontrolünü kaybetme tehlikesiyle karşı karşıya kalmıştı. İnsanlık, aklın yettiğiyle hem YZ'yi hem de acil durdurma mekanizmalarını icat etmişti. Frankenstein hikayesi, felaketle sonuçlanan proje yönetiminin bir örneği olarak görülebilir. Karel Čapek, 1920’de ilk kez ‘robot’ kelimesini kullandı ve makinelerin insanları gereksiz kılma potansiyelinden bahsetti.

Isaac Asimov’un Üç Yasası, makinelerin insan değerlerini paylaşmasını sağlamaya yönelik bir denemeydi. Ancak, algoritmalardaki hatalar, beklenmedik sonuçlara yol açabiliyor. HAL 9000 örneğinde olduğu gibi, çelişkili emirler veya bilgi gizleme gibi durumlar, felaketlere neden olabilir. Philip K. Dick ise deepfake çağında orijinal ile kopya arasındaki ayrımın kaybolması durumunda, iç deneyimin önemini vurguladı.

Modern dil modelleri, Zeki olmaktan ziyade devasa istatistiksel tahmin motorlarıdır. ‘Anlamı kavramak’ gibi bir yetenekleri bulunmuyor; sadece olasılık hesaplıyorlar. ChatGPT gibi yapay zeka sistemleri, bazen gerçek dışı bilgiler üretebiliyor. Blockchain dünyasında güvenin yerine matematiğin geçmesi beklenirken, YZ bu anlayışı tersine çeviriyor. Yapay zekanın çalışma mekanizması tam olarak anlaşılamadığı için, bu sistemlere güvenmek riskli olabilir. AML çevrelerinde buna “sahte güven problemi” deniyor.

Yapay zeka düşünceyi geliştirmiyor, hesaplıyor. Bu durum, kripto dünyasında güvenin yerini matematiğin alması gerektiği ilkesini zedeliyor. Analistler, parlak bir kontrol paneli görünce, içgüdülerini değil, ekrandaki rakamlara güvenmeye başlayabiliyor. Yapay zekanın düşünceyi geliştirmediği gerçeği, dikkatli olunması gereken bir durum.