Yapay Süper Zekadan Korkmalı mıyız?

Otomobilleri kontrol edebilen, senfoniler yazabilen ve satrançta profesyonel oyuncuları bile yenebilen yapay zeka bütün dünyayı büyülerken bu alanda her geçen gün daha da ileri gidiliyor. Ancak bazı bilim insanları, insanlığın gelecekte süper zeki yapay zekayı kontrol edemeyeceği konusunda uyardı.

İnsanlardan daha üstün zekaya ve kendi kendine öğrenme kabiliyetine sahip olan bu yapay zeka, internet aracılığıyla insanlığın bütün verilerine erişebilir. Bunun yaşanması halinde yapay zekanın, ütopya mı yoksa distopya mı meydana getireceği bilinmiyor. Max Planck Enstitüsü’nden Manuel Cebrian bu konuda şöyle konuştu:

“Dünyayı kontrol eden süper zeki makine kulağa bilim kurgu gibi geliyor. Fakat bazı önemli görevleri, programcılar nasıl öğrendiğini tam anlamadan bağımsız şekilde yerine getiren makineler halihazırda mevcut. Bu yüzden ortaya, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli hale gelip gelmeyeceği sorusu çıkıyor.”

Yapay Süper Zekadan Korkmalı mıyız?

ScienceDaily’nin aktardığına göre, bilim insanları, yapay zekanın nasıl kontrol edilebileceğine dair iki farklı senaryodan bahsetse de bunların olumsuz yönleri de var.

İlk senaryo yapay zekanın kabiliyetlerini sınırlamak. Örnek olarak yapay zekanın internet ve diğer tüm cihazlarla bağlantısını kesip dış dünyayla iletişim kurması engellenebilir. Ancak bu durum, yapay zekanın becerilerini kısıtlayıp verilen görevlerdeki başarı yüzdesini düşürüyor.

Diğeriyse yapay zekayı en baştan itibaren etik ilkeler gibi maddelerle programlayarak sadece insanlığın çıkarına en uygun hedeflerle güdülenmesi. Fakat ekip, yapay zekayı kontrol etmeye yönelik bu gibi tarihsel ve çağdaş fikirlerin kendi sınırları olduğunu ifade etti.

Bilim Adamları Güvenlik Algoritması Tasarladı

Bilim insanları araştırma için, süper zeki yapay zekayı taklit ederek ve zarar verdiği düşünüldüğünde onu durdurarak insanlara hiçbir koşulda zarar vermemesini sağlayan teorik güvenlik algoritması tasarladı. Dikkatlice yapılan analiz doğrultusunda, mevcut hesaplama paradigmasında bahsi geçen algoritmanın tasarlanamayacağı belirlendi.

İnsanlar ve Makineler Merkezi Direktörü Iyad Rahwan, sorunun teorik bilgisayar biliminden temel kurallara indirgenmesi durumunda, yapay zekanın insanlığa zarar vermemesini sağlayacak algoritmanın kazara kendi işlemlerini durdurduğunu söyledi. Böyle bir durumda, söz konusu algoritmanın tehdidi analiz edip etmediğinin ya da yapay zeka tehdidi yüzünden durup durmadığının bilinemeyeceğini söyledi.

Araştırmanın sonucuna göre, güvenlik sorunu hesaplanamıyor. Yani tek bir algoritma, yapay zekanın dünyaya zarar verip vermeyeceğini belirlemek için çözüm bulamıyor. Ayrıca bilim insanları, bir makinenin insanlardan daha üstün zekalı olup olmadığına karar vermenin güvenlik problemiyle aynı alanda bulunduğu için süper yapay zekanın ne zaman ortaya çıkacağının bile bilinemeyeceğini söyledi.

Yazan: Alihan KÜÇÜK

Kaynak*

YouTube Kanalımız

Leave a reply

Please enter your comment!
Please enter your name here