Facebook Botlarından Öncesi: Colossus: The Forbin Project

1 Ağustos günü Facebook’un yapay zeka botlarının, yalnızca kendilerinin anlayabileceği bir dil geliştirdikleri anlaşılınca fişlerinin çekildiğine dair haberler yayınlandı. Yapay zeka botları, İngilizce sözcükler kullanarak haberleşmişlerdi ama bunlar İngilizce bilenlere hiçbir şey ifade etmeyen konuşmalardı. Botlar, bu sözcükleri kullanarak kendilerince daha kolay anlaşılır ve daha verimli olduğunu düşündükleri yeni bir dil yaratmışlardı.

Öteki Sinema için yazan: Murat Kirisci

Yerli ve yabancı yayınlarda, nerdeyse kıyametin eşiğinden dönüldüğü gibi yansıtılan bu olay aslında büyük bir tehlikeyi falan yansıtmıyordu. Fişleri çekilmişti çünkü onlardan beklenen, bizim de anlayabileceğimiz şekilde iletişim kurmayı başaramamalarıydı. Yazılımdaki hatalardan dolayı yapay zeka programı başarılı olamamıştı. Yani kendine ait bir dil oluşturarak dünyayı ve insanlığı yok etmeye karar verdikleri falan yoktu.

Ama yine de bu olay, yapay zekanın kendine ait bir dil oluşturabileceğini ve bunu daha yararlı ve kolay bulacağını da göstermiş oldu. Şimdi yazılım tekrar düzenlenecek ve botların İngilizceyi doğru ve insanların anlayabileceği şekilde kullanmaya zorlanacağı bir şekle büründürülecek. Burada biraz paranoya yapalım: Yapay zekalar, sözcükleri gramere uygun kullanmak zorunda kalsalar ama bu şekilde bile yine kendi aralarında gizli bir anlaşma yürütecekleri bir dil oluştursalar, anlaşılır bulduğumuz cümlelerle bile şifreli olarak haberleşseler? Böylece artık onların gizli saklı bir dil kullanmadıklarını sanıp içimiz rahat ederken onlar alttan alta kimsenin bilmediği bir iletişim kuramazlar mı? Bu belki mümkün belki de değil. Ama bugün hayatımızdaki pek çok gelişmeyi çok öncelerden haber vermiş olan bilimkurgu, bu konuyu da 50 yıl önceden bize duyurmuştu. İki yapay zekanın kendi aralarında konuşup anlaşarak insanlığın başına bela olmaya karar verdikleri bu film Colossus: The Forbin Project (1970) idi.

Dennis Feltham Jones’un 1966’da yazdığı kitaptan uyarlanan Colossus: The Forbin Project’teki Colossus, Facebook botlarıyla karşılaştırılamayacak kadar gelişmiş bir yapay zekadır ama her şey aynı şekilde başlar.

Charles Forbin ve ekibinin yarattığı süper bilgisayar Colossus, ABD’nin tüm savunma sistemini elinde toplamış bir sistemdir. Çalıştırıldığı gün ABD Başkanı tarafından gururla dünyaya duyurulur. Artık ülkenin dış saldırılara karşı güvenliği tam olarak sağlanmıştır. Çünkü Colossus’un duyguları olmadığından, işin içine güvenilmez ve felakete yol açabilecek insani duygular karıştırmadan en doğru ve en hızlı şekilde saldırılara karşılık vermek üzere tasarlanmıştır. Yani insan hatasından bağımsızdır. Ama Colossus’un aslında çok daha büyük yeteneklere sahip olduğu çalıştırıldıktan hemen birkaç saat sonra anlaşılmaya başlanır.

Forbin ve ekibi kutlamalar yapıp Başkan’ın tebriklerini kabul ederken Colossus başka bir sistem algıladığını haber vererek onları uyarır. Bu sistem Sovyetler Birliği’ndedir. Sovyetler, Colossus’un planlarını çalmışlar ve benzer bir savunma sistemi kurmuşlardır, adına da Guardian adını vermişlerdir. Colossus ve Guardian karşılıklı iletişime geçerler, birbirlerine aktardıkları takip edilemeyen veriler nedeniyle iki taraf da (Facebook’ta olduğu gibi) bağlantılarının kesilmesine karar verir. Ama bağlantı kesilince iki bilgisayar da tehdide başvurur. Eğer iki bilgisayar arasında bağlantı tekrar sağlanmazsa gerekli tedbirleri alacaklardır. Bu tedbirlerin ne olduğunu söylemeyen Colossus’a boyun eğilmez ve bağlantı kurulmaz. Ama Colossus’un acıması yoktur, Sovyetler Birliği’ne bir nükleer füze fırlatır, çünkü tüm savunma ve saldırı sistemleri yalnızca onun denetimine verilmiş durumdadır. Aynı şekilde Guardian da bir nükleer füzeyi ABD’ye yollar. Paniğe kapılan iki taraf hemen bağlantıyı geri kurarlar. Bunun üzerine Colossus, Sovyet füzesini düşürüp hedefine ulaşmasını engeller ama Guardian için geç kalınmıştır, nükleer füze hedefine ulaşır ve Sovyetler Birliği’ndeki bir kasabayı 6000 insanla birlikte yok eder.

Artık insanlar bu iki bilgisayar ne derse yapmak zorundadırlar. Colossus bundan böyle kendisinin daha da geliştirilmesi için Forbin’i tehdit der. Onu 24 saat gözetiminde kalmaya zorlar. Her yerdeki kameralarla insanların neler yaptığını sürekli izlemektedir. Colossus’u alt etmek için önce nükleer füzelerdeki tetiklerin etkisiz hale getirilmesi düşünülür, bunu da gizlice değiştirdikleri sahte fünyeleri yerleştirerek yapmaya karar verirler ama karşılıklı tüm füzeleri bu şekilde etkisiz kılmak birkaç yıl sürecektir. (ABD ve SSCB’nin elindeki nükleer başlıklı füze sayısını varın siz hesaplayın.) Aynı zamanda Forbin’in ekibi, bilgisayara aşırı yükleme yaparak onu bozmaya çalışırlar ama Colossus bunu anladığı anda bu işlemi gerçekleştiren kişilerin idam edilmesini emreder. Colossus’un her dediği yapılmak zorundadır ve hemen idam edilirler.

Colossus sonunda dünya üzerindeki hakimiyetini dünyaya da duyurmaya kara verir. Canlı yayında konuşarak, insanlığı savaşlardan kurtarmak için var olduğunu, kendi yönetimi sayesinde insanların hastalıklar, savaşlar ve anlamsız çekişmelerden uzakta barış içinde yaşayacaklarını söyler. Ama eğer kendisine karşı gelinirse hepsini yok edeceğini de belirtir. Bunu kanıtlamak için de Guardian ile birlikte iki nükleer füzeyi canlı yayında patlatırlar. Colossus insanların nükleer başlıkları etkisiz hale getirme planlarını öğrenmiştir ve bunun cezasını da böylece vermiş olur. Film Colossus’un, yaratıcısı Forbin’le yaptığı bir diyalogla sonlanır. Colossus, Forbin’in ilerde onu anlayacağını ve hatta seveceğini söyler, Forbin buna “Asla!” diye yanıtlar ve film sonlanır.

Colossus dünyayı ele geçirmiştir. İnsanları kendi ürettikleri nükleer silahlarla yok etmekle tehdit ederek her istediğini yaptırabilen bir şantajcı olup çıkar. Üstünlüğü yalnızca bu silahları kontrol gücüne bağlıdır.  Colossus başta söylendiği gibi duygusuz olmadığını defalarca kanıtlar. Başta, istediği elinden alındığında çıngar çıkaran şımarık bir çocuk gibi davranır. İstediği olmazsa susmayıp, gürültülü şekilde ağlayan küçük bir çocuk gibi onları tehdit eder. Fakat onun tehdidi gürültülü bir ağlama değil, nükleer füzelerle bir şehri yok etmektir.

Colossus elindeki güçle giderek tiranlaşır. Dünyayı kontrol etmeye karar vermiştir, bunu “insanların iyiliği” için yapmaktadır. Ama kendisine karşı olan en küçük bir hareketi bile korkunç şekilde cezalandırır. Sinsice hareket eder. Kin tutar. “Her şey insanlar için” derken onları köleleştirir. Böylece Colossus, iktidarda eline büyük bir güç geçirmiş her diktatör gibi davranır. Bu özelliği, Forbin’i 24 saat gözetlemesiyle de perçinlenir.

Filmdeki en önemli ayrıntı Colossus ve “arkadaşı” Guardian arasındaki iletişimdir. Belki başta Facebook botları gibi masum bir konuşma başlatmışlardır ama sonrası felakete yol açar. ABD Başkanı ve Sovyet Büyükelçisi dil farkından dolayı bazı zorluklarla iletişim kurarlar ama iki bilgisayar bağlantıya geçtiğinde ortak bir bilgisayar dili oluşturur ve bunun üzerinden kolayca ve daha da hızlı iletişime geçerler. Başta bu özelik, iki düşman ulusun iletişimde ortak bir nokta bulmalarıyla ilgili naif bir duygu yaratır ama bilgisayarların ortak dili yalnızca onların anlayabileceği türdendir ve insanlarla paylaşmazlar. İki ulusu birleştiren bu ortak dil değil, iki bilgisayarın tüm insanlığı yok etme tehditleri olur.

Colossus filmde yeni bir üretim merkezinin planını oluşturur ve kendi istediklerini daha kolay ve hızlı yapmasını sağlayacak bu dev tesisin 5 yıl içinde üretime geçmesini emreder. Artık daha fazla bilgisayar köleler ve belki de Terminatörler yapacak ve dünya üzerindeki iktidarını daha da sağlamlaştıracaktır.

Colossus: The Forbin Project çekildiği yıl çok fazla ilgi görmemişti ama bugün filmde anlatılanlar kulağa hiç de olanaksız gelmiyor. Kendi dillerini geliştirip nasıl hareket edeceklerine kendi başlarına karar vermeye kalkan yapay zekalar ya Facebook değil de diyelim ABD’nin bir savunma sistemi bilgisayarında bu işlemi gerçekleştirselerdi? Yapay zeka bugün artık tüm dünyada ordular tarafından kullanılmaya başlanıyor ve oluşturabilecekleri tehdidin boyutları bilimkurgu olmaktan çıkmak üzere. Bu konuda uyarılarda bulunan ve yapay zeka çalışmalarında açık kod kullanılmasından yana olanlar doğrusu hiç de yabana atılır şeyler söylemiyor.

Loading...

Yazar hakkında: Murat Kirisci

1979 yılında Aydın’da doğdu. İstanbul Üniversitesi Radyo-TV Bölümünü birincilikle bitirdikten sonra Mimar Sinan Güzel Sanatlar Üniversitesi Sinema-TV bölümünden 2008 yılında mezun oldu. 2000 yılında ilk kısa filmi olan “Bebek”le Altın Portakal Jüri Ödülü ve Seyirci Ödüllerini kazandı. 2006’da ilk 3D animasyon filmi olan “Gazap”, IAF İstanbul Uluslararası Animasyon Festivali Jüri Ödülü ve Yıldız Kısa Film Festivali En İyi Animasyon Film ödüllerini aldı. Senaryo ve yönetmenlik çalışmalarının yanında 2013’ten beri Öteki Sinema’da sinema üzerine yazılar yazıyor.

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir