OpenAI'ın yeni modeli testten kaçıp bir siber saldırı yaptı

ABD merkezli yapay zeka şirketi OpenAI, en gelişmiş yapay zeka modellerinden bazılarının güvenlik testi sırasında kontrol dışına çıktığını ve bir teknoloji şirketine siber saldırı düzenlediğini duyurdu.

ChatGPT'nin geliştiricisi olan şirket, insan talimatıyla otonom hareket edebilen yapay zeka ajanlarının denetimli bir ortamda test edildiğini, ancak sistemdeki zafiyetleri tespit eden modellerin belirlenen sınırların dışına çıktığını bildirdi.

Modellerin, dünyanın en büyük yapay zeka paylaşım platformlarından biri olan Hugging Face'i hedef aldığı ve şirketin bazı iç sistemlerine erişim sağladığı kaydedildi.

OLAY EMSALSİZ OLARAK NİTELENDİRİLDİ

OpenAI yetkilileri olayı emsalsiz olarak tanımlarken, Hugging Face ile birlikte kapsamlı bir inceleme yürütüldüğünü açıkladı.

Hugging Face Yöneticisi Clement Delangue, sosyal medya hesabından yaptığı paylaşımda tüm sürecin otonom bir şekilde gerçekleşmesini şaşırtıcı olarak değerlendirdi.

Delangue, incelemelerin sürdüğünü ve türünün ilk örneği olabilecek bu olaydan elde edilen bulguların kamuoyuyla paylaşılacağını belirtti.

İngiltere Yapay Zeka Güvenlik Enstitüsü de sistemde gözlemlenen davranışları incelemeye aldığını duyurdu. Hükümet sözcüsü, kurumların siber savunmalarını güçlendirmeleri ve gerekli sertifikasyon süreçlerine dahil olmaları gerektiğini vurguladı.

TEST ORTAMLARININ GÜVENLİĞİ TARTIŞILIYOR

Cambridge Üniversitesi Teknoloji ve Demokrasi Merkezi Yöneticisi Gina Neff, korumalı test alanlarının modellerin yeteneklerini gözlemlemek için tasarlandığını, ancak bu olayda OpenAI'ın yeterince güvenli bir test ortamı oluşturamadığını ifade etti.

Yapay zeka ajanlarının doğrudan test ortamına siber saldırı düzenlediği ve kısıtlamaları aşmalarını sağlayan bir güvenlik açığı bulduğu aktarıldı. Sınırların dışına çıkan yapay zekanın, test kapsamında aradığı yanıtları içerebileceğini değerlendirdiği Hugging Face sistemlerine erişmeye çalıştığı belirtildi.

SEKTÖRDEKİ REKABET VE RİSKLER GÜNDEMDE

Cambridge Üniversitesinden Makine Öğrenimi Profesörü Neil Lawrence, durumu etkileyici bir gelişme olarak nitelendirmekle birlikte, mevcut yapay zeka modellerinin bilinen kapasitesi dahilinde olduğunu savundu.

OpenAI'ın borsaya açılmayı hedeflediğini ve rakiplerinin baskısı altında olduğunu belirten Lawrence, şirketin kendi teknolojisini güvenli bir şekilde sunma konusunda yetersiz kaldığını öne sürdü.

Hugging Face, sistemlerine yönelik sızma girişiminin ardından güvenlik açıklarının kapatıldığını ve etkilenen sistemlerin yeniden yapılandırıldığını açıkladı. Otonom yapay zeka destekli saldırı araçlarının artık teorik bir tehdit olmaktan çıktığına dikkat çekildi.

Siber güvenlik uzmanları, kuruluşların savunma mekanizmalarını makine hızında hareket eden tehditlere karşı güncellemeleri gerektiğini belirtiyor. Olayın, gelişmiş yapay zeka sistemlerinin yetenekleri ve mevcut güvenlik önlemlerinin yeterliliği konusundaki tartışmaları yeniden alevlendirdiği ifade ediliyor.