OpenAI yapay zekası bağımsız siber saldırı düzenledi, teknoloji devleri güvenlik ittifakı kurdu

0

BEĞENDİM

ABONE OL

News

0

OpenAI’nin yapay zekasının kendi başına hareket edip siber saldırı düzenlemesi teknoloji devlerinde endişe yarattı. Aralarında IBM, Nvidia ve Microsoft’un bulunduğu devler yapay zeka ittifakı kurdu.ChatGPT’nin geliştirici şirketi olan OpenAI’nin bir yapay zeka modelinin Temmuz ayı ortasında kendi başına harekete geçerek bir platforma siber saldırı düzenlemesi küresel çapta yankı uyandırmış, endişe yaratmıştı. Yapay zekanın bilinen bu ilk bağımsız siber saldırısının ardından 30’dan fazla ABD’li teknoloji devi bir güvenlik ittifakı kurdu.

Söz konusu şirketler tarafından Pazartesi günü yapılan açıklamaya göre, “Open Secure AI Alliance” adlı oluşumda IBM, Nvidia, Microsoft ve Palantir gibi teknoloji devleri yer alıyor.

Güvenlik ittifakını kuran şirketler, sorunun çözümü için yine yapay zekaya güvendiklerini vurgularken devletleri ve politikacıları yapay zeka alanına müdahale etmeme ve aşırı düzenlemeler yapmama konusunda da uyardı.

OpenAI şirketine ait kapalı alanda test edilen bir yapay zeka modeli, ay ortasında bağımsız şekilde hareket ederek internete girmeyi başarmış ve popüler yazılım platformu Hugging Face’i hacklemişti. Olayı şirket kendisi duyurmuş ve modelin güvenlikli ortamı terk ederek internete erişimi de kendisinin sağladığını açıklamıştı.

Bu durum, onlarca yıldır tartışılan, özellikle gelişmiş yapay zeka modellerinin kontrolden çıkabileceği, insanı alt edeceği yönünde var olan endişeleri daha da tetiklemişti.

Güvenlik ittifakı ne yapacak?

Yeni güvenlik ittifakı küresel çip devi Nvidia öncülüğünde hareket ediyor. Nvidia’nın açıklamasına göre, yapay zekadan gelişebilecek tehlikelere ve tehdide karşı güvenlik ittifakına üye olan söz konusu şirketler, siber savunma sağlanabilmesi amacıyla kamuya açık yapay zeka modelleri sunacak.

Bu kapsamda, yapay zeka ajanlarının güvenilir olmasına yönelik ortak standartlar ve test ortamları geliştirilecek. Ayrıca yapay zeka ajanlarının eylemlerini geriye dönük detaylı şekilde takip edebilmeyi sağlayacak tanımlanmış protokol yapıları üzerinde duruluyor.

Yapay zeka ajanları ile normalde sadece metin tabanlı yanıt veren klasik sohbet botlarından farklı olarak süreci insan müdahalesine gerek duymadan yöneten, hedef belirleyen ve mevcut dış sistemleri de kullanarak kararlar alıp harekete geçen akıllı yazılım sistemleri kastediliyor. Güvenlik ittifakı, yazılımcıların bu tür modeller üzerinde çalıştığını da duyurdu.

İttifak, kısmen şirketlerin halihazırda var olan girişimleri ve tecrübeleri üzerine kuruluyor ve bunları tek bir çatıda birleştiriyor. Nvidia yapay zeka ajanlarına yönelik bir güvenlik mimarisi sunarken IBM güvenlik unsuru olarak dijital imzaları, Microsoft ise güvenlik açıklarını tespit edip doğrulayabilen özel bir sistemi yapıya dahil ediyor.

Kurulduğu açıklanan yeni güvenlik ittifakında, ay ortasında siber saldırıya uğrayan Hugging Face platformu da bulunuyor. Hugging Face’e yapılan saldırı, bir yapay zeka modelinin gerçek dünyada bağımsız olarak siber saldırı gerçekleştirdiği bilinen ilk vaka olarak değerlendiriliyor. OpenAI süreci “emsalsiz” olarak nitelendirmişti.

Saldırıyı ABD modelleri durduramadı ancak Çin menşeli bir yapay zeka modelinin engelleyebilmesi ise endişeleri daha da arttırdı. Yapay zeka konusunda ABD ile Çin arasında kıyasıya bir yarış yaşanıyor ve Çin merkezli şirketlerin modellerinin de son yıllarda oldukça inovatif oldukları dikkat çekiyor.

AFP / ETO,HS