Merhabalar,

Son günlerde bir tartışmadır gidiyor. Anthropic’ten istifa eden Jacob Coxon isimli genç bir yapay zeka güvenlik araştırmacısının iddiası bu tartışmalara neden olan konu. Ben de sizlere otomotiv endüstrisinde bu iddia ne anlama geliyor, onu yorumlamak istedim.

Otomotiv endüstrisinde yapay zekanın “insanı yok etme” tehdidi, doğrudan bilimkurgu tarzı bir “bilinçli robot başkaldırısı” şeklinde anlaşılmamalı. Fiziksel güvenlik, kritik altyapı bağımlılığı, askeri alana dönüşüm ve sosyo-ekonomik çöküş anlamında değerlendirirsek gidişatı daha net görebiliriz.

​Otomotiv, yapay zekanın dijital dünyadan çıkıp her biri en az 1,5 tona varan fiziki kütleler halinde olan taşıtların fiziksel dünyasına doğrudan müdahale ettiği nadir bir alanı tanımlıyor. Bu bağlamda varoluşsal riskleri şu dört ana boyutta toplayabiliriz:

​1. Fiziksel Dünyada Kontrol Kaybı ve Sivil Güvenlik Riskleri

​Otonom taşıtların silahlaştırılması ve siber saldırılar birinci risk grubunu oluşturuyor. Milyonlarca otonom ve internete bağlı taşıtın tek bir yazılım altyapısıyla çalıştığı bir dünyada, yapay zeka sistemlerine yönelik bir hacklenme veya algoritmik bir hata, tüm şehir trafiğini bir kaos alanına çevirebilir. Kontrolden çıkan otonom filolar, toplu fiziksel yaralanma veya ölümlere yol açabilecek kitle imha araçlarına dönüşme riskini oluşturabilir.
​Sürücüsüz taşıtların kaza anında kimin yaşamını önceliklendireceğine karar veren algoritmaları, örneğin “yayayı mı, araç içindeki yolcuyu mu korumalı?” konusu etik ve insani değerlerden yoksun olursa, insan hayatının değeri sadece matematiksel bir değişkene indirgenmiş olur.

​2. Askeri ve Siber-Fiziksel Tehditler

Otomotiv sektöründe geliştirilen otonom sürüş, nesne tanıma ve alan tarama teknolojileri, doğrudan askeri insansız kara taşıtlarına ve otonom drone teknolojilerine entegre edilebilir. Birleşmiş Milletler gibi küresel örgütlerin de dikkat çektiği üzere, insan müdahalesi olmadan hedefini tespit edip yok eden algoritmaların otomotiv teknolojilerine entegrasyonu, kuşkusuz küresel güvenlik için en somut varoluşsal risklerden birisi olacaktır.

​3. Sosyo-Ekonomik Olarak Yerinden Edilme ve Toplumsal Çöküş

Otomotiv endüstrisi, küresel ölçekte en çok istihdam sağlayan ekonomik bir güç olarak hayatımızın içinde. Üretim hatları, lojistik, dağıtım, satış ve satış sonrası hizmetlerden oluşan değer zincirini ifade eder. Üretimden ulaşımda kullanılmasına kadar tüm süreçlerin otonomlaşması, milyonlarca insanın hızla işsiz kalmasına ve büyük toplumsal huzursuzluklara yol açma riski taşıyor. ​Ancak burada önemli bir farkındalık göe çarpmaya başladı. Yakın dönemde Ford gibi dünya otomotiv devleri, sadece yapay zekaya güvenerek tecrübeli mühendisleri işten çıkarmanın büyük kalite hatalarına yol açtığını fark ettiler ve insan tecrübesine geri dönmek zorunda kaldılar. Bu durum, yapay zekanın tek başına insan aklının ve denetiminin yerini tamamen alamayacağının açık bir kanıtı.

​4. Kritik Altyapı ve Veri Bağımlılığı

Akıllı şehirler, otonom toplu taşıma ve elektrikli taşıt şarj ağları tamamen yapay zekanın yönetimine teslim edildiğinde, bu sistemlerde yaşanacak beklenmedik bir kilitlenme durumu başta lojistiği, gıda tedarikini ve tıbbi ulaşımı durdurarak hayatımıza büyük bir darbe vurabilir.

Dolayısıyla yapay zekanın insanlık için bir tehdit olması mümkün. Ama biz insanlar yapay zekaya etik ve insani değerlerden taviz vermeden hakim olursak riskleri yok etme gücümüz her zaman var olacak.