Kelimenin İçine Ne Sıkıştırmışlar?
Kelimede ses var, anlam, hafıza var. Bazen korku, bazen vaat var. Bir şeyi tarif ettiğimizde ona isim vermekle kalmıyoruz; sınırlarını çizmeye başlıyoruz. Kelime ürüne bir anlam mı verir, ürün zamanla kelimenin içini mi doldurur?
“Zekâ” dediğimizde aklımıza gelenle “yapay zekâ” dediğimizde düşündüğümüz aynı şey mi? Donald Trump “artificial intelligence” yerine “superintelligence” demeyi önerdiğinde yalnız daha havalı bir isim mi seçiyor, yoksa teknolojinin ne olduğuna ilişkin çerçeveyi de mi değiştiriyor?
Kelimeler masum mu? Güç, teknoloji, savaş, güvenlik, demokrasi gibi alanlarda pek de masum değil. Bir olgunun adını koyduğunuz anda taşı da yerine koyuyorsunuz.
Bir teknolojiyi “ürün” diye tarif ederseniz pazarı düzenlemeye başlarsınız. “Silah” derseniz kontrol rejimi kurarsınız. “Altyapı” derseniz kimin erişebildiğini, kimin dışarıda kaldığını sorarsınız. “Ulusal güç” dediğiniz anda yarış başlar. “İnsanlık riski” derseniz uluslararası denetim istersiniz. “Konuşmanın yeni tarafı” derseniz teknoloji tartışması olmaktan çıkar; demokrasiye, hakikate, iletişime ve nihayet insana gelir.
AYNI YZ, BAŞKA BAŞKA DÜNYALAR
Geçen hafta dünya liderleri, teknoloji şirketlerinin yöneticileri, bilim insanları ve uluslararası kurumlar Birleşmiş Milletler 81. Genel Kurulu’nda ki, siyası show bitse de hala sürüyor (18–28 Eylül); yapay zeka (YZ) beklendiği üzere savaş, iklim ve küresel yönetişimle birlikte ana tartışma alanlarından biri haline geldi.
Görevi devretmek üzere olan BM Genel Sekreteri António Guterres’in sözlüğünde YZ; insan, kontrol, hukuk, işbirliği oldu. Guterres konuşmasında yaşam ve ölüm kararlarının makinelere bırakılamayacağını söyledi; YZ için bağlayıcı uluslararası işbirliği çağrısında bulundu. YZ onun cümlesinde insanlığın yönetişim altına alması gereken bir güç şeklinde ifade buldu.
Donald Trump aynı teknolojiye başka yerden baktı; “Artificial intelligence” yerine “super intelligence” demeyi tercih etti; küresel düzenleme girişimlerine karşı çıktı. Kelime değişince hikâye de değişti. “Yapay” olan bir şeyin güvenilirliğini, sınırını, insanla ilişkisini tartışabilirsiniz; “süper” dediğinizde kapasite ve üstünlük öne çıkıyor. Trump’ın siyasi pozisyonu da buna eşlik ediyor: küresel yönetişimden ziyade Amerikan teknolojik üstünlüğü ve daha sınırlı düzenleme. ABC News
OpenAI CEO’su Sam Altman önemli YZ kararlarının yalnız laboratuvarlara bırakılamayacağını söyledi. Dario Amodei daha ileri giderek kötü yönetilen YZ’nin insanlığın bütünü için risk yaratabileceğini savundu. Yoshua Bengio kontrol kaybı ihtimalini öne çıkardı. Hugging Face CEO’su Clément Delangue’ın kaygısı ise gücün ve kapasitenin birkaç aktörün elinde yoğunlaşmasıydı.
Bu kelime karmaşasını en iyi ve çarpıcı resmi BM özeti tarif etti: “güçlü YZ geliştirme yarışı, herkesin kaybettiği bir yarışa dönüşebilir.” United Nations Press Release
Aynı teknoloji, aynı mesele değil; Guterres’in YZ’si yönetilmesi gereken küresel güç. Trump’ınki kazanılması gereken teknolojik üstünlük. Altman’ınki demokratik meşruiyet problemi. Amodei’ninki insanlık riski. Bengio’nunki kontrol sorunu. Delangue’ınki güç yoğunlaşması meselesi. Kimin YZ’sinden söz ediyoruz?
KELİME POLİTİKAYA DÖNÜŞÜYOR
YZ’yi ulusal rekabet aracı olarak tanımlayan devletin çip, enerji, veri merkezi, yetenek ve sermaye politikası başka olur. İnsanlık riski olarak tanımlarsanız test, doğrulama, kırmızı çizgiler ve uluslararası koordinasyon öne çıkar. Ekonomik kalkınma aracı derseniz erişim ve yatırım konuşursunuz. Demokratik risk derseniz dezenformasyon, siyasi manipülasyon, platform gücü ve ifade alanına gelirsiniz.
OpenAI, Genel Kurul haftasından hemen önce ABD’nin gelişmiş YZ için uluslararası teknik standartlara liderlik etmesini; özellikle ileri modeller ve recursive self-improvement gibi alanlarda ortak standartlar ve olay bildirim mekanizmaları kurulmasını istedi. Reuters
KELİME MEVZUATA YÜRÜYOR
“Risk” dediğiniz bir test standardına, “güvenlik” dediğiniz raporlama yükümlülüğüne, “insan kontrolü” dediğiniz kavram kurumsal sorumluluğa dönüşebilir. İletişim kuruluş biçimi.
New York’taki kelime savaşında ortaya saçılan kelimler; “risk”, “kontrol”, “süper zekâ”, “demokrasi”, “insanlık”, “güvenlik”, “egemenlik” oldu. Nasıl bir YZ dünyasında yaşayacağımıza ilişkin rakip hikâyelerin kelimeleri bunlar.
DİL, UYGARLIĞIN İLETİŞİM SİSTEMİ Mİ?
Tarihçi Juval Harari insanın üstünlüğünü dil aracılığıyla fiziksel olarak ortada olmayan şeylerden söz edebilmesine ve çok sayıda insanı ortak hikâyeler çevresinde örgütleyebilmesine bağlıyor. Devlet, şirket, para, hukuk; bunların tümü kelimeler, kurallar ve ortak kabuller olmadan çalışmıyor.
Demokrasilerin gelişimini matbaa, gazete, telgraf, radyo, televizyon ve internet gibi iletişim teknolojilerinden ayıramayız. Çünkü her yeni iletişim teknolojisi yalnız bilginin hızını değiştirmedi; kimin konuşabildiğini, kimin duyulduğunu ve milyonlarca insanın hangi konuşmaya katılabildiğini değiştirdi. Matbaa bastı, radyo taşıdı, televizyon gösterdi, internet bağladı, sosyal medya seçti sıraladı… YZ konuşuyor; üretiyor, seçiyor, yanıtlıyor, öğreniyor ve eyleme geçiyor.
Bu düşünce, gazeteci – iletişimci olarak bana dokunan tarafı daha da rahatsız edici. Gazete çağında dünyada milyonlarca olay olur, editör birkaçını seçerdi. Hangisinin manşete çıkacağını bilirdik; kararı kimin verdiğini de. Editörün adı künyede yazardı. Kararına kızabilir, gazetesini eleştirebilirdik. Editörlüğün önemli bir bölümü algoritmaya geçti. Adını bilmiyoruz. Nasıl seçtiğini tam bilmiyoruz.
Geçen hafta New York’ta yapılan kelime mücadelesi daha da önemli hale geliyor. YZ hakkında konuşurken yalnız yeni bir teknolojiyi adlandırmıyoruz. Yarın konuşmanın kendisini kimin düzenleyeceğini tarif ediyor olabiliriz.
HAKİKAT EŞİT ŞARTLARDA YARIŞMIYOR
“Hakikat Yorulmadan; Birlikte Var Olma Çabası”nı Yazar Ece Temelkuran’la konuşurken meselenin dönüp dolaşıp algoritmalara ve güce gelmesi ufkumu açmıştı. “Gördüğüm Şey Gerçekten Oldu mu?” diye sormuştum. Deepfake’i, algoritmik görünürlüğü, dezenformasyonu ve sansürden “görünürlük mühendisliğine” geçişi tartışırken mesele zaten yalnız içeriğin doğru olup olmadığı değildi. Kimin neyi görmemizi sağladığı hakikatin parçasına dönüşüyordu. Bir adım gerideyiz: Gördüğümüz şeye hangi adı vereceğimizi kim belirliyor? Ece Temelkuran söyleşimde şu acı gerçeklerle de yüzleştik; Hakikat pahalı. Araştırmak, doğrulamak, kaynak bulmak, yanlışsa düzeltmek gerekiyor. Kurgu bunların hiçbirini yapmak zorunda değil, yapmıyor! YZ inandırıcı kurgu üretmenin maliyetini ve ölçeğini değiştirdi.
Kelimeler üzerinde neden bu kadar durduğum açık değil mi; gerçekliği yalnız yanlış bilgi bozmuyor. Gerçeğin hangi kelimelerle çerçevelendiği de ne gördüğümüzü değiştiriyor.
Bu düşünce zincirini yakın gelecekte Doç Dr. Orkun Saka‘yla yaptığım söyleşide sürdürdürdüm. Meseleyi, güven üzerinden tartıştık, bir zamanlar bolluğunu yaşadığımız duygunun adeta nadir bir element olduğunu saptadık; bir teknoloji modelinin söylediğine güveniyor muyuz? Modeli yapan şirkete? Onu denetleyen devlete? Devletin koyduğu kurala? Haberi aktaran medyaya? YZ’nin kullandığı veriye? Özetle güven zincirinin bir halkası kırıldığında teknik performans tek başına yetmiyor; YZ hakkında bize konuşanlara güveniyor muyuz?
KELİMEYE GELECEĞİ SIĞDIRABİLİR MİYİZ?
İnsan kontrolü diyorsak neden kontrolü kaybetmekten korktuğumuzu; süper zekâ diyorsak güce ne kadar hayran olduğumuzu; insanlık riski diyorsak hangi geleceği korumak istediğimizi; demokrasi diyorsak konuşma hakkının kimde kalmasını önemsediğimizi anlatıyoruz.
İnsan uygarlığının üzerine kurulduğu dili başka bir zekâyla paylaşmaya başladığında güç, egemenlik, hakikat ve insanın kendisini tarif etme biçimi nasıl değişecek?
YZ’nin isim babası kim olacak, adına nasıl bir gelecek yerleştirecek?
