İyi Güzelde Yapay Zeka Başımıza İş Açmasın

Bizim deli dana sarışın Trump son zamanlarda sarışınlıktan vazgeçti. Ama şaklabanlıkdan vazgeçmedi. Yapay zeka demek yerine artık “süper zeka” demeyede başladı. Tabi insanda zeka olmayınca kargayı kuzgun sanıyor.

Yapay zeka mı, süper zeka mı, akıllı makine mi? Adına ne derseniz deyin…
Yeter ki başımıza iş açmasın!
Çünkü daha geçen gün yaşanan bir olay 
“Bu teknoloji nereye gidiyor?” sorusunu yeniden gündeme getirdi.

CNN’in 18 Eylül’de yayımladığı özel habere göre, ABD ordusunda yapay zeka desteğiyle hazırlanan hatalı bir istihbarat raporu, Çin bandıralı bir geminin nükleer silah programında kullanılabilecek malzemeler taşıdığı sonucuna vardı.
Sonrası tam Hollywood filmi…
ABD tarafında gemiyi durdurma hazırlığı yapılmaya başlandı.
Silahlı personel gemiye çıkmak için hazırlandı.
Askerî uçaklar havalandı.
Neyse ki operasyon başlamadan önce deneyimli yetkililer raporun dayandığı bilgileri yeniden incedi. Ve yapay zekanın yanlış yönlendirme yaptığı ortaya çıktı.
Başka bir ifadeyle, yapay zeka olmayan şeyi var sanmış.
Nükleer silah programıyla ilgili malzeme diye baktığı şey, aslında öyle bir şey değilmiş.
Bir kaynak olayı CNN’e anlatırken raporun “tamamen yanlış” olduğunu söylemiş ve işin “neredeyse savaş başlattığını” ifade etmiş.

Adamlar  gemide yanlış kargoyu görünce neredeyse Çin gemisine asker gönderiyormuş. İşte burada mesele biraz ciddileşiyor.
Çünkü yapay zeka artık sadece “Bana bir şiir yaz”, “Şu fotoğrafı güzelleştir”, “Bu matematik sorusunu çöz” seviyesinde değil.
İnternete bağlanıyor.
Bilgi topluyor.
Program kullanıyor.
Verileri analiz ediyor.
Bazı sistemlerde kendisine verilen görevi gerçekleştirmek için birden fazla işlem yapabiliyor.
Yani bilgisayar artık sadece bizim söylediğimizi yapan bir alet olmaktan çıkıyor.
Bir anlamda “Ben bir bakayım, sonra sana söyleyeyim” diyen bir yardımcıya dönüşüyor.

İyi güzel de…
O yardımcının bazen yanlış anlaması halinde ne olacak?
Hele bir de yanlış anladığı konu aşk meşk meselesi değil de nükleer silah olursa sonuç ne olacak!
İşte o zaman “Pardon, yanlış anlamışım.” demek biraz geç olmaz mı?

Bu sebeple ona körü körüne güvenmememiz gerekiyor.
Çünkü yapay zekanın en önemli problemlerinden biri, bilmediği yerde bile kendinden emin bir cevap verebilmesi.

Hani kahvede biri vardır…Bilmediğini de biliyormuş gibi davranan
Her konuda fikri olan,
Futbolu bilen
Ekonomiyi bilen
Siyaseti bilen
Meteorolojiyi bilen
Hatta uzaylılar gelse onların ne yapacağını bilen müdavimleri vardır ya kahvenin
İşte yapay zeka bazen onun dijital versiyonuna dönüşebiliyor.
Farkı,
Kahvede yanlış konuşan adamın sözü kahvede kalır.
Yapay zekanın yanlış bilgisi ise saniyeler içinde binlerce sisteme ulaşabilir.
Hele bu sistem askerî bir sistemse… yandı keten helva…
İşte o zaman mesele teknoloji olmaktan çıkıp güvenlik meselesine dönüşüyor.

Evet yapay zeka hayatımızı inanılmaz kolaylaştırıyor.
Sağlıkta, eğitimde, tarımda, sanayide, ulaşımda, ekonomide çok büyük faydalar sağlıyor.
Ama mesele yapay zekayı kullanıp kullanmamak değil.
Mesele yapay zekâya ne kadar yetki vereceğimiz. Daha da önemlisi, verdiğimiz yetkinin sınırları içinde kalıp kalmayacağı. Kendi görev tanımını genişletip yeni yetkilere ulaşmasının önüne nasıl geçeceğimiz.

Tam da bu nedenle artık uluslararası ölçekte yapay zeka konusunda ortak kurallar belirlemenin zamanı geldi. Nasıl savaşların, denizlerin, hava sahasının ve nükleer silahların kullanımına ilişkin uluslararası hukuk kuralları varsa, yapay zekanın özellikle askerî ve stratejik alanlarda kullanımını da belirleyen güçlü bir uluslararası hukuk çerçevesi oluşturulmalı. Hangi kararların yapay zekaya bırakılabileceği, hangi kararların mutlaka insan onayı gerektireceği açıkça belirlenmeli. Yapay zeka sınır tanımıyor; bir ülkede yapılan hata, başka bir ülkenin güvenliğini doğrudan etkileyebiliyor. Bu nedenle küresel ölçekte ortak kuralların belirlenmesi artık sadece teknoloji meselesi değil, insanlığın güvenliği ve geleceği açısından bir zorunluluk haline geliyor.

Ne kadar “süper zeka” olursa olsun, son sözü söyleyecek olan yine insan olmalı.
Hele konu savaşsa…
Bir gemiye asker çıkarma kararı verecek sistemin karşısında mutlaka “Bir dakika kardeşim, sen bu bilgiyi nereden buldun?” diyecek bir insan bulunmalı.
Yoksa yarın bir gün makine yanlış anlar, insan doğru sanır, uçak havalanır…
Sonra hep beraber oturup
EYVAH deriz.
Ama o sırada iş işten geçmiş olur.

Trump “süper zeka” diyor ya…
Benim korkum zekanın süper olup olmaması değil.
Benim korkum, bizim ona fazla güvenip kendi zekamızı emekliye ayırmamız.
Çünkü teknoloji ne kadar gelişirse gelişsin, dünyayı hala insanlar yönetiyor.

Mesele de tam burada başlıyor:
İnsan, kendi yaptığı makineye ne kadar güvenecek?
Ve daha önemlisi…
Makine yanıldığında, insanın hala “Dur!” diyebilecek kadar uyanık ve güçü olup olmayacağı.

O yüzden…
Yapay zeka gelişsin.
Süper zeka da olsun.
Ama insan aklı kumandayı elinden bırakmasın.
Çünkü teknolojiye teslim edilen akıl, bazen teknoloji kadar hızlı yanılabilir.

Bu yazıyı bir yapay zeka şiiriyle bitirelim,
Ben hızlıyım, ben zekiyim(!!!)
Belki hergün süperim.
Ama unutma ey insan,
Ben senin eserinim…
Kumandamı bana verirsen, yarın seni ben yönetirim!

Mustafa Barış ÖZTÜRK