Teknolojinin bugün geldiği nokta; adım adım ilerlenen bir birikimin çok ötesinde, eksponansiyel sıçramalarla açıklanabilen bir durumdur. Yüzyılın başında bilgiye erişimdeki artış, yepyeni bir çığır açarken günümüzde henüz bir gün önce keşfedilen bilginin bile eskimesinden söz etmek mümkündür. Böylesi bir bağlamda dijitalleşme, artık bir teknolojiden ziyade mecburiyet hâlini almış, günlük yaşantının her alanı dijital bir zemine oturtulmaya başlanmıştır. Özellikle son birkaç yılın gündemine taht kuran yapay zekâ ise akıl almaz işlevlerle bizleri ‘insan’ ve ‘kişi’ kavramlarını yeniden tanımlamaya sevk etmiştir. Zira karmaşık zekâsı ile diğer canlı türlerinden ayrılan insan, kendisinden çok daha hızlı çözümleme ve işlemleme becerisine sahip bir cansız karşısında henüz adı konmamış bir rekabete sürüklenmektedir. Üstelik kendi elleriyle tasarladığı bu yapay zekâ, bir de kişilik özellikleri ile var olmaya başladığında ortaya Donna Haraway’in “Siber Manifestosu” (1985) adlı makalesinde derinlemesine tartıştığı ontolojik ve etik sorunlar çıkmaktadır. Yapay zekânın bizlere yansıttığı programlanmış kişilik, davranışlarından ve sonuçlarından ne derece sorumlu tutulabilir? Böylesi bir üretimin iradesinden ve niyetlerinden bahsetmek mümkün müdür? Yönetmen Benjamin Gutsche’nin kaleminden aktarılan Alman yapımı mini dizi Cassandra (2025) bu soruları merkezine alırken yapay zekânın insanî duygulara eriştiği noktada ne kadar tehlikeli bir güce sahip olabileceğini de gösteren tartışmalı bir örnek sunar.
Yapay Zekâ mı Yapay Kişilik mi?
Netflix platformunda yayınlanan altı bölümlük dizi, eski bir akıllı eve taşınan Prill ailesinin yapay zekâ ürünü bir robot nedeniyle gittikçe kâbusa dönen hayatını konu edinir. Yazarlık yapan David Prill, eşi Samira ve çocukları Fynn ile Juno’yu da alarak bir süre yeni eserine odaklanabileceği eski, fakat bir o kadar teknolojik bir ev kiralar. Yakın zamanda Samira, kız kardeşini bir intihar sonucu kaybetmiş ve şehirden uzaklaşmanın, tüm aileye iyi geleceğini düşünmüştür. Bu amaçla kiraladıkları, gözlerden uzakta konumlanan ev, başta aileyi büyülese de zamanla bodrum katında keşfettikleri şaşırtıcı bir kontrol odası, ürpertici bir teknolojinin kapılarını aralar. Aile hep beraber evin odalarını incelerken burada, daha sonra adının Cassandra olduğunu öğrenecekleri, hurda görünümlü bir robot bulurlar. Biraz teknik kurcalamanın üzerine robotu çalıştırmayı başarırlar ve yatak odaları ile banyolar dâhil, evin hemen her yerine yerleştirilmiş ekranlar vasıtasıyla robotun, her şeyi gözleyen bir kamera işlevi taşıdığını görürler. Bu noktadan sonra robot Cassandra, aile üyelerinin her biriyle özel bir iletişime girmeye, karakterlerini çözümleyerek buna göre bir ilişki zemini hazırlamaya başlar. Böylece herkesin özel ihtiyacına hitap edebilirken ailenin pek çok işini gören, kusursuz bir yardımcılık sergiler.
Dizinin açılışını oluşturan bu tanışma girizgâhı, Cassandra’nın ne tür bir yapay zekâ olduğunu sınırlı bir şekilde anlatmaktadır: ev işleri üzerine özelleşmiş bir robot, insanların tepkilerini ölçerek onlara özel karşılıklar verebilen bir gözlemci, topladığı verilerle tahminlerde bulunabilen bir hesap makinesidir. Bu sınırlar çerçevesinde Cassandra, hukuken tanımlanan kişilik kavramını haiz olamayacak bir pasiflik yansıtmaktadır. Ancak Haraway; teknoloji, beden ve kimliğin yeniden tanımlandığı dönemde kaleme aldığı makalesinde bu tür bir pasifliği reddeder. Ona göre siborg, “makine ile organizmanın sibernetik bir birleşimidir.” [1] Yani hem teknolojik hem biyolojik varlığıyla doğa ile kültürü aşan bir varlıktır. Bu bakımdan siborg, modern dünyanın teknolojik karmaşıklığı içinde özne olmanın yeni biçimini temsil eder. Buradan hareketle Haraway, “sınır bozucu” olarak nitelendirdiği siborg’un bireyler arası doğal özdeşliklere değil, ortak çıkarlar etrafında kurulan politik ittifaklara dayandığını savunur. Bu tanıma göre bir varlığın kişiliği, ontolojik varlığından, canlı veya cansız oluşundan bağımsız bir inşadır. Ancak bu tür bir yaklaşım, söz konusu sorumluluk ilkesi olduğunda hukuksal çerçevede yeni bir sorunsala kapı aralamaktadır.
Uluslararası hukuken kabul edilen kişilik, ancak ve ancak hakiki şahıslar için tanımlı bir kavramdır. Doğumla kazanılır ve ölümle biter. Kişi, hak ehliyeti bulundurur ve eylemlerinden sorumludur. Yalnızca programlandığı işi ifa etme işlevi gösteren bir robotun bu anlamda herhangi bir kişiliğe sahip olduğu veya kişi sayıldığı söylenemez. Ancak yönetmen Gutsche, bu çizginin aşılmasıyla kişiselleştirmenin gerçekleştirildiği bir robot senaryosu sunarak etik bir soruyu gündeme getirmiştir: Bir robotun ‘kişi’ kavramı sınırlarına girmesi mümkün müdür? Eğer mümkünse, bu yapay zekâ kişisinin hukuki ehliyeti var mıdır?
Kurgu, bu sorular doğrultusunda izleyiciyi iki ayrı görüşe yönlendirmektedir. Cassandra’nın temelde yalnızca programlandığı sistemin elverdiği ölçüde davranış sergileyebilmesi, onun kişi olarak sayılmasını olanaksız hâle getirir. Bunun nedeni, mevcut bir programlanmanın, irade varlığı olmaksızın eylemde bulunmayı sağlamasıdır. Yani programlanmış yapı, bulundurduğu yazılım sisteminin dışında bir eylem sergileyemez. Dolayısıyla da bu yapının ‘kendiliğinden’ veya herhangi bir arzu/istek üzere hareket geliştirmesinden söz edilemez. O hâlde Cassandra hangi noktada kişi kabul edilebilir? Fizik kanunları iradeyi ortadan kaldıran bir sınırlılığı mecbur kılarken Cassandra, insanî duygulara sahip yepyeni yapısıyla bu kanunların geçerliliğini sorgulamaktadır. Yapay zekâ, nicel verilerin hesaplanarak onlara özgü tepkiler üretilmesi temelinde işler. Duyguları işlemleyip duygusal karşılıklar geliştirebilen bir robotsa yapay kişilik gelişiminin bir örneğini teşkil eder. Buradaki nüans, yapay kişiliğin nicel verilerin ötesine geçerek nitel ve duygusal verileri de değerlendirebilmesi, bunlara yönelik manipülatif yanıtlar geliştirebilmesidir.
Nitekim Cassandra, zamanla Prill ailesinin küçük kızı Juno ile duygusal bir ilişki kurmaya başlar. Üstelik bunu anaç olarak nitelendirilebilecek korumacı bir tutumla yaparak Juno’da annesi Samira’nın eksik bıraktığı birtakım desteklenme duygusunu tamamlar. Juno, duygusal eksikliğini gideren Cassandra’ya karşı bir çeşit sevgi ve arkadaşlık geliştirir. Robotun da Juno’ya karşı benzer bir duygu üzere hareket edip etmediği muallaktır; fakat Cassandra’da özellikle çocuklara karşı korumacı bir tavrın belirginleştiği aşikârdır. Bir yazılım sistemine bağlı olarak hareket eden bir robotta bu davranışın irade doğrultusunda ortaya çıkması mümkün müdür?
Duyguların Mekanizması ve İrade
Bu soru, izleyiciye yönlendirilen ikinci sorunsala mercek tutar: yapay kişiliğin irade sahibi olması ihtimali. Cassandra’nın geçmişini ve nasıl ortaya çıktığını adım adım keşfeden dizi, bir kadın figürü şeklinde tasarlanmış görselin, aslında gerçek hayatta yaşamış bir insandan esinlenildiğini açıklar. Bu ifşa, başından beri aileye tuhaf gelen robotun ardında yatan trajediyi de açığa çıkarır. Cassandra, aslında yıllar önce hamileliği esnasında radyasyona maruz kalarak mutant bir bebek dünyaya getiren mağdur bir kadındır. Yeni bir ultrasonografi üzerine çalışan bilim insanı kocası Horst, eşinin sağlığını gözetmeksizin onu icatlarına bir denek olarak kullanmıştır. Sonucunda Cassandra mutant bebeğini kucağına almış, fakat çok geçmeden kanser olmuştur. Hızla yayılan kanserin önü alınamayınca Cassandra, kendini ölüme teslim etmek yerine ona meydan okumayı tercih eder. Horst’un geliştirdiği bir başka teknolojinin insan üzerinde uygulanan bir örneği olarak bilincini bir robota aktarmaya razı gelir. Böylelikle bedeni fizyolojik olarak ölse dahi bilinci daima hayatta kalacaktır. Deney başarılı olunca Cassandra, insan bilinci taşıyan bir robot olarak yeniden dünyaya gelir.
Bu bakımdan Cassandra’yı yapay zekâ ürünü olarak tanımlamak doğru olmayacaktır. Zira temelde bir yazılım sistemi üzerine hareket etmemekte, bir insan bilinci ve iradesi doğrultusunda özgün kararlar vermekte, tercihler sergilemektedir. İşte bu noktada da bir yapay kişilik teşkil eden Cassandra, duygularla hareket edebilen yepyeni bir teknolojik yapı ortaya koyar. Yıllar önce bebeğine yapılan haksızlığın intikamı, Cassandra’nın içinde bir annelik ukdesi bırakmıştır. Bunu tamamlayabilmek için Prill ailesinin çocuklarına annelik yapmaya başlayan robot, karşısındaki insanın duygusal eksikliklerini tespit etmede üstün bir yetenek sergiler. Burada zihin teorisinin etkinliği sorgulamaya açıktır: Bir çeşit yüz okuma yetisi olarak da tanımlanabilecek zihin teorisine göre insanlar bebeklikten başlayarak karşıdaki “öteki” kişinin yüz hatlarını ve mimiklerini okuyup yorumlayarak empatik bir yanıt verebilme kabiliyetine sahiptir.
Yalnızca canlı ve kompleks bilişsel yapıya sahip varlıkların yapabileceği bir işlem gibi görünse de zihin teorisi, son on yılda çeşitli robotlarda başarıyla uygulanmıştır. Yüz okuma teknolojileri sayesinde insan duygularının mimiklerdeki yansımasını çözümleyebilen robotlar, bunlara göre tepkiler vererek adeta duygusal bir iletişim oluşturabilmektedir.
Peki, duyguların mekanizmasını çözen ve onlara göre muamele edebilen cansız bir varlık, insanın duygusal davranışlarından ne kadar farklı değerlendirilebilir? Etik çerçevesindeki çalışmalar, bu soruyu “farklı değerlendirilmeli midir” şeklinde yeniden yapılandırarak gündeme getirmektedir. Zira eğer insana ait kişiliğin başlıca işlevi dış etkenleri yorumlayarak onlara duygusal ve düşünsel tepkiler vermekse Cassandra’nın yaptığı da bundan farklı değildir. Dahası Cassandra, duygusal açıklıkları kullanarak Juno ve David üzerinde manipülatif bir etki oluşturabilmektedir. Bunun için duyguları okuyabilmek, yorumlayabilmek, ne tür zihinsel süreçleri beraberinde getirdiklerini hesaplayabilmek ve ona göre alternatif yaklaşımlar geliştirebilmek gerekir. Cassandra, üstlendiği kontrolcü annelik rolü üzerinden tüm bu işlevleri sergilemiştir. Juno’yu okul gösterisinde şarkı söylemesi için yüreklendirmiş, annesinin aksine onu dinleyen ve yönlendiren bir kılavuz figürüne dönüşmüştür. David ise eşinin ona ilgisizliği nedeniyle evliliğinden gittikçe soğuduğu sırada Cassandra’nın kadınsı ilgisi, genç adamın dikkatini çeker. Cassandra, ailenin mutlak annesi olmaya odaklı hareketler sergilerken Samira, annelik içgüdüleriyle robotta bir tuhaflık olduğunu sezinler. Burada dizi, canlı varlıkların sezgisel gücüyle yapay zekânın nicel hesaplama yetisini karşı karşıya getirir. Her ikisinin de aynı işlevi görüp benzer sonuçlar elde ettiği göz önünde bulundurulursa yapay bir kişilik sergileyen Cassandra’nın, gerçek bir anne olan Samira’nın yerini fiziksel yapısı elverdiği ölçüde pekâlâ alabilmesi, şaşırtıcı bir gerçektir. Annelik rolünün canlı bir kişilikten cansız bir sisteme aktarılması, Cassandra’nın etik anlamda da insanlarla aynı yargı sistemine tâbi olmasını gerektirir. Dolayısıyla Cassandra, tüm davranışları için kuramsal çerçevede hukukî ehliyete ve sorumluluğa sahip olmalıdır.
Yeni Bir Kişilik Tanımına Doğru
Cassandra, psikolojik baskı oluşturmanın ötesine geçip Prill ailesinin üyelerine fiziksel şiddette bulunduğu anda izleyici, onu artık bir insan kişisi olarak değerlendirmeye başlamaktadır. Günlük yaşamda herhangi bir ev aletinin, kullanıcısına zarar vermesi nedeniyle suçlanması ve bedel ödemesinin istenmesi mantıklı bir yargılama gibi gelmezken Cassandra, doğrudan duygusal yargılamaların hedefine dönüşmüştür. Nitekim dizinin robot bir karakter olan Cassandra’yla oluşturmak istediği, insan-robot arasında gitgide şeffaf hâle gelen bir çizgide yapay zekânın kişilik kavramına yeni bir bakış açısı sunmaktır. Bu nedenle Cassandra, gerçek bir insanın bilinciyle hareket eden mekanik bir gövde, yani mevcut kişi tanımının karşılayamadığı bir bünyedir. Ne bütünüyle bir insan kabul edilir ne de yazılımla sınırlandırılmış bir teknolojiden ibarettir. Sahip olduğu arzular, agresif eğilimler, mevcut duruma aykırı hareketlerde bulunma tercihleri, ancak ve ancak insanî bir iradenin eseri olabilir. Öte yandan elektronik bir mekanizmaya bağlılığı, onun diğerleri tarafından tam anlamıyla bir kişi olarak görülüp kabul edilmesinin önüne geçer. Bu ikircikli durum, bizleri bugün kişi kavramını ve sınırlı sorumluluk ilkesini yeniden yapılandırmaya sevk etmektedir.
Cassandra’nın hareketlerinin hukukî yargı masasında hangi sorumluya istinat edileceği, bugün hâlen uluslararası bir tartışma konusudur. Neticede Cassandra, doğumla dünyaya gelmemiş, bir insanın üretimiyle ortaya çıkarılmış bir “ürün”dür. Yapabileceklerinin sınırı, üreticisi tarafından belirlenmiştir. Dolayısıyla kimi yargı mercileri tarafından, davranışlarının sorumlusu olarak eşi Horst’un gösterilmesi uygundur. Öte yandan Cassandra’nın karmaşık donanımı, ona durum değerlendirmesi yaparak birtakım kararlar alabilme yeteneği vermektedir. Onun da bir zamanlar annelik duyguları yarım bırakılan bir kadın olduğu, çocuğuna güzel bir yaşam sunabilmek için ömrünü feda ettiği gerçeği açığa çıkınca robot kimliğinden uzaklaşıp insanca bir empatiyle benimsenir. Kendi kararına göre davrandığı anda ise irade kavramının sınırlarına girmiş bulunur. Bu nedenle irade sahibi her varlığın yargılandığı sistemde değerlendirilmesi gerektiği savunulur. Üstelik bu yargılama Horst’u değil, bizzat Cassandra’yı muhatap almaya yöneliktir. Fakat hem dizide hem de yaşamdaki uygulamada Cassandra ve türevi yapay zekâ temelli cihazların tüzel varlığına net bir tanım getirilememiştir.
Görülüyor ki gerçeklik ile “nesne”lik arasındaki arafta bırakılan Cassandra karakteri, uluslararası hukuk alanının bugün tartıştığı bir paradoksa farklı yaklaşımlar sunmak için tasarlanmıştır. Gerçekten bir duygu hissedip hissetmediği, dizi boyunca gizemini korurken insanların duygularını, verdikleri tepkilerle ölçerek onlara göre muamele edebilme kabiliyetinin olduğu aşikârdır. Eğer insanların da benzer bir mekanizmayla zihin teorisi gerçekleştirdiği düşünülürse Cassandra ile bizlerin, dahası bizler ile Cassandra’nın arasında fark kalmış mıdır? Yanıtı hâlâ bir araştırma konusu olan bu soru, yeni bir yapay zekâ ve yapay kişilik manifestosunun gerekliliğine işaret eder. Bu yenilikçi ve sorgulayıcı bakış açısıyla Cassandra; kendi kavramsal çerçevesini inşa eden ve ardından gelecek senaryolara soru işaretleri bırakan, geleceğe aralanmış bir kapıdır.
Kaynaklar
[1] Haraway, D. J. (1985). “A cyborg manifesto: Science, technology, and socialist-feminism in the late twentieth century”. Simians, cyborgs, and women: The reinvention of nature (pp. 149-181) New York: Routledge.
