Bilim insanları, siber saldırı gerçekleştirebilecek düzeye ulaşan yapay zekâ sistemleri için uluslararası bir gözetim kuruluşu kurulması çağrısında bulundu.

34 ülkeden araştırmacının imzaladığı açık mektupta, kurulması önerilen yapının sektörün tamamı için güvenlik ve kontrol standartları belirlemesi, ciddi güvenlik olaylarının kayıt altına alındığı bir sistem oluşturması ve bu kayıtların ilerleyen süreçte kamuoyuyla paylaşılması istendi.

Mektupta ayrıca en ileri yapay zekâ modellerinin ilk etapta dış ağlardan tamamen yalıtılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Şirketlerin kendi rızasıyla üstlendiği güvenlik taahhütlerinin yeterli olmadığı görüşü de vurgulandı.

Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın Beyaz Saray ile gönüllü güvenlik önlemlerine ilişkin bir anlaşmaya imza atmasından yaklaşık bir ay sonra geldi. Söz konusu anlaşmada, güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması yer almıyordu.

Bilim insanlarının çağrısı, gelişmiş yapay zekâ sistemlerinin test edilmesi ve kontrol altında tutulmasına dair bazı güvenlik açıklarının ortaya çıktığı olayların ardından yapıldı. Araştırmacılar, yeterince güvenli hale getirilmeyen ve kısıtlı çalışma ortamlarının dışına çıkan yapay zekâ modellerinin harici sistemlere erişerek bu sistemlerin güvenliğini riske attığı vakalara dikkat çekti.