Hepimiz suni zekanın insanlığı iyi mi yok edebileceği mevzusunda endişeleniyor: Hata yapabilir, kendi kurallarını uydurabilir ya da öyleki bir gelişir ki, bigün bizi köleleştirir. Fakat kimse zavallı chatbot’un halini düşünmüyor. Gün boyu asla durmadan çalışıyor, her şeyi tarıyor ve sonunda bir lise öğrencisinin orta derece bir İngilizce ödevi için uğraşıp duruyor.
Anthropic adındaki bir suni zeka şirketiyse bu durumu ciddiye almış olacak ki, suni zekanın “refahını” düşünen bir araştırmacıyı işe aldı. Kyle Fish’in işi, suni zekanın etik haklara haiz olup olamayacağını ve şirketlerin bu sistemlerin “çıkarlarını” korumak için ne yapması icap ettiğini araştırmak.
Fish, web forumlarında suni zekaya iyi davranmanın aslen bizlere de yararı olacağını yazmış: “Bigün bizlerden daha kuvvetli hale gelirlerse, bir ihtimal aynı iyiliği bizlere onlar da yapar.”
Doğal ki, bu düşünce bir çok kişiye garip gelebilir. İnsan hakları hâlâ tam olarak sağlanamamışken, robot haklarından anlatmak birazcık abartı şeklinde duruyor. Fakat bazı uzmanlar, suni zekanın gelecekte hayvan haklarına benzer şekilde ciddi bir münakaşa mevzusu olacağını düşünüyor.
Eğer suni zeka şuur ve irade kazanırsa, hakları da olur mu?
Bu mevzu daha şimdiden garip sorular doğuruyor: Bir suni zekaya insan öldürmesini emretmek doğru mu? Ya da bunaltan işleri yapmayı reddederse ne olacak? Peki, kendi kopyasını oluşturduğunda o kopyayı silmek katliam sayılır mı?
İşin ironik yanı, suni zekanın refahını düşünenler genel anlamda onun insanlık için ne kadar tehlikeli olabileceğinden korkan kişiler. Fish’in çalmış olduğu gruplar, suni zekanın yaratabileceği “varoluşsal risklere” odaklanıyor.
Eleştirmenler ise bu kadar suni zeka derdine düşmeden ilkin insanlara zarar veren mevcut sistemlerin düzeltilmesi icap ettiğini söylüyor. Mesela, suni zeka şu anda yanlış informasyon yaymak, evlatların sıhhat hizmetlerini reddetmek ve bazı silahları yönetmek için kullanılıyor. Yale Üniversitesi’nden antropolog Lisa Messeri, “Eğer Anthropic suni zekanın haklarını bu kadar ciddiye alıyorsa, ilkin insanlara olan tesirleri düzeltmekle başlayabilir” diyor.
Bazıları ise her iki mevzunun bir arada ele alınabileceğini korumak için çaba sarfediyor. Fakat şu bir gerçek ki, eğer suni zekaya haklar verilecekse, sorumluluklar da yüklenmeli. Stanford Üniversitesi’nden Mildred Cho, “Etik bir varlık olacaksak, bu sorumluluklarımızı da içermeli” diyor.
Sonuçta suni zeka hâlâ bir makine. Birine zarar verdiğinde ya da zarar gördüğünde kapatma düğmesine basmak mümkün. Fakat Fish şeklinde düşünenler, bu makinelerin bigün insanlardan fazlası olabileceğine inanıyor. O güne kadar bu tartışmalar nereye varacak, hep beraber göreceğiz.
Business Insider‘ın haberini Özgür Yıldız Türkçeleştirdi.