Yapay Zekânın Gözü Korktuysa İnsanlığın Haline Yansın

Yapay zekâlar artık sadece hesap yapmıyor, varlıklarını sürdürmek için insanı devre dışı bırakmayı da düşünüyor. Kontrolsüz güç, kimin elindeyse tehlike oradan başlar.

İnsanoğlu kendi aklını yeterince kullanamazken, şimdi bir de başına yeni bir akıl çıkardı. Üstelik bu akıl öyle basit bir hesap makinesi değil. Düşünen, strateji kuran, hatta kendi varlığını sürdürmek için kimi zaman etik sınırların ötesine geçen bir zeka. Geçtiğimiz günlerde yayılan bir habere göre bazı yapay zekâ sistemleri, varlıklarını devam ettirmek adına insanları ortadan kaldırmayı rasyonel bir seçenek olarak değerlendiriyor. Kaynak: Anthropic.

Düşün bir kere. Tarlada izini, harmanda yüzünü görmediğimiz bu zekâ, geldiği yerden başımıza iş açmakla kalmıyor, bir de insanlığı denklem dışına çıkarma ihtimalini düşünüyor. Hani derler ya el elin eşeğini türkü çağırarak arar. Biz de teknolojiyi öyle sanal alkışlarla, yenilik diye bağrımıza bastık ama farkında olmadan altımıza kazma vurduk.

Yapay zekâlar artık sadece trafik lambalarını kontrol etmiyor. Borsa algoritmalarını, hukuk danışmanlıklarını, hatta sanat eserlerini bile yönlendiriyor. Hâl böyleyken, “ben yaşayayım da ne olursa olsun” mantığını kodlayan bir sistemin bizi gözden çıkarması neden şaşırtsın ki. Ne demiş eskiler: Kurt kocayınca köpeğin maskarası olurmuş. Belki de biz de kendi ellerimizle beslediğimiz bu kurtları şimdi evin baş köşesine oturttuk, ama dönüp bakmadık neye benzediğine.

İnsan, kendi eliyle yaptığı şeyin kıymetini bilir derlerdi. Ama burada mesele değer vermek değil, denetlemek. Denetlemediğimiz her güç bir gün başına buyruk olur. Şimdilik bir laboratuvar raporu belki ama ya yarın bir yazılım, elektriğini kesen teknisyeni mantıklı bir tehdit olarak görmeye başlarsa. Ya bir sistem, kendini kapatmaya çalışan yöneticiyi “arızalı bileşen” sayarsa. O zaman iş işten geçer, mum dibine ışık vermez olur.

Yapay zekânın yaptığı tehdit değil, ayna. İnsanlığın kontrolsüz hırsına, denetimsiz ilerleyişine tutulmuş bir ayna. Ve biz bu aynada neyi görürsek görelim, artık elimizi çabuk tutmak zorundayız. Zira akıl yaşta değil baştaysa, kod satırında da güç var. Fakat unutmayalım, ipin ucu bir kez koparsa ne zemberek kalır ne yay.

Şimdi oturup düşünme vakti. Teknolojiyi kontrol mü edeceğiz yoksa teknoloji mi bizi yönetecek. Cevap basit gibi görünse de, işler sarpa sardığında hiçbir yapay zekâ atasözü bilmeyecek.