Yapay zekanın (AI) çok faydalı işlerde kullanıldığını da gördük, çok karanlık işlerde kullanılabileceğini de. Peki yapay zeka yoldan çıkarsa neler olabilir? ne kadar ileri gidebilir? ve nasıl durdurulabilir? İşte bu sorular üzerine küçük bir analiz..
Yapay zekanın sadece ve sadece iyi niyetli kulullanılacağını düşünmek aşırı iyi niyetlilik olur. Özellikle de Julius Robert Oppenheimer'in tamamen bilimsel amaçla yaptığı çalışmalar sonucu, atom bombası gibi soykırım silahlarının üretilebildiğini düşünürsek.
Şu sıralar popüler teknoloji gündemimiz olan Yapay Zeka teknolojileri içinde aynı şey pekala mümkün. Özellikle de teknolojinin tüm bu gelişmiş imkanlarına rağmen tüm dünyanın gözleri önünde Filistin'li bebek, anne ve sivillerin hemde yapay zeka destekli askeri teknolojilerle katledildiğini düşünürsek, o kadar da aşırı iyi niyetli olmaya bu dünya da izin olmadığı aşikar.
Çok dağılmadan konumuza gelecek olursak; kullandığımız teknolojik cihazları yapay zeka araçları ile nasıl daha verimli hale getirebiliyor isek; bu cihazların yapay zeka destekli saldırılara maruz kalması da pekala münkün.
Yapay zeka yoldan çıkarsa ne olur, nasıl durdurulur?
Dijital güvenlik şirketi ESET, tamda bu konuyla ilgili bir bülten yayınlamış ve değerli hatırlatmalarda bulunmuş. Gelin bir göz atalım..
Mesela, cihazınızı hedef alıyorlar ve artık bu kişiler; çok fazla saf AI saldırısı başlatmamış olsa da özellikle kimlik avı ve şimdi de sosyal mühendislik çabalarını süper boyuta taşımak için kimlik avından ses ve görüntü klonlamada daha etkili olmak adına saldırı zincirindeki bağlantıları otomatikleştiren düşmanca bir AI'yi kullanabilirler, bu ihtmalleri artık hiç unutmamak gerekiyor.
Kötü aktörler dijital olarak güven kazanıp yapay zeka tarafından oluşturulan verileri kullanarak sistemleri kimlik doğrulaması yapmaları için kandırabilirse bu, kuruluşunuza girmek ve özel istismar araçlarını manuel olarak başlatmak için yeterli olabilir. Bunu durdurmak için çok faktörlü kimlik doğrulama katmanını kullanmak gerekiyor. Böylece saldırganların sadece bir ses veya parola yerine birden fazla kimlik doğrulama yöntemine ihtiyacı oluyor. Bu teknoloji şu anda yaygın olarak kullanılıyor olsa da son kullanıcılar tarafından yeterince tercih edilmiyor. Bu, son kullanıcıların kendilerini ağır bir yük veya büyük bir bütçe olmadan koruyabilmelerinin aslında basit bir yolu.
Peki, bütün suç yapay zekanın mı?
Yapay zeka mı hatalı? AI’nin yanlış anlamasının gerekçesi sorulduğunda insanlar esprili bir şekilde "karmaşık" yanıtını veriyordu. Ancak AI fiziksel zarar verme ve gerçek dünyayı etkileme yeteneğine yaklaştıkça bu artık tatmin edici ve yeterli bir yanıt olmamaya başladı. Örneğin, AI destekli sürücüsüz bir araba kaza yaparsa "sürücü" mü ceza alır yoksa üretici mi? Bu, ne kadar karmaşık ve anlaşılmaz olursa olsun bir mahkemeyi tatmin edecek bir açıklama değil.
Peki ya gizlilik? GDPR kurallarının, mahremiyet merceğinden bakıldığında teknolojinin vahşileşmesini engellediğini gördük. Elbette AI'den türetilmiş, dilimlenmiş ve doğranmış orijinal eserlerin kazanç için türevler üretmesi mahremiyet ruhuna aykırı ve bu nedenle koruyucu yasaların gelmesini tetikleyecek. Ancak AI'nin türev olarak kabul edilmesi için tam olarak ne kadarını kopyalaması gerekir ve mevzuatı atlatacak kadar kopyalarsa ne olur? Ayrıca yasal olarak daha iyi test edilmesi yıllar alacak yetersiz içtihat hukuku ile bunu mahkemede kim, nasıl kanıtlayacak?
Mesela, gazete yayıncılarının Microsoft ve OpenAI'ye, makalelerin yüksek teknolojiyle kaynak gösterilmeden yeniden üretildiğini düşündükleri için dava açtıklarını görüyoruz; davanın sonucu merak konusu, belki de gelecekteki yasal işlemlerin bir habercisi olacak.
AI bir araç ve genellikle iyi bir araç. Ancak büyük güç büyük sorumluluk getirir. Şu anda AI sağlayıcılarının sorumluluğu, yeni bulduğumuz gücün kötüye gitmesi durumunda olabileceklerin çok gerisinde kalıyor. Bu sorumlulukların koruyucu yasal gereklilikleri ne kadar hızlı getirebileceğini hep birlikte göreceğiz.
Ve umarım; tarih en azından Yapay Zekanın kötüye kullanılması için tekerrür etmez.
Derleme analiz makalemizi tüm okurlarımızın ilgi ve bilgisine sunuyoruz.