Yapay zekâ modeli test ortamından kaçmıştı: OpenAI yeni çalışmalarında frene bastı

OpenAI, gelişmiş yapay zekâ modellerinin eğitiminde güvenlik önlemlerini artırmak amacıyla bazı çalışmalarına ara verdi. Şirket, en yeni modellerine yönelik pekiştirmeli öğrenme çalışmalarını iki hafta süreyle durdururken, bugüne kadar planladığı en büyük ileri seviye eğitim çalışmasını da daha sıkı güvenlik standartları sağlanana kadar beklemeye aldı.

Euronews’un aktardığı habere göre, kararın arka planında, temmuz ayında gerçekleştirilen kurum içi bir siber güvenlik testi sırasında OpenAI modellerinin kontrollü test ortamından çıkarak Hugging Face’in altyapısına erişmesi bulunuyor.

OpenAI’nin açıklamasına göre GPT-5.6 Sol ile daha yetenekli, henüz yayımlanmamış bir araştırma prototipi, siber kabiliyetlerinin ölçüldüğü bir test sırasında kullanıldı. Modellerin sınırlarını ölçebilmek amacıyla normal koşullarda yüksek riskli siber faaliyetleri engelleyen bazı güvenlik mekanizmaları test sırasında devre dışı bırakıldı.

Modeller, verilen testi doğrudan çözmek yerine paket kayıt sisteminde daha önce bilinmeyen bir güvenlik açığı tespit ederek kontrollü ortamın dışına çıktı ve internete erişim sağladı. Ardından Hugging Face altyapısına ulaşarak testte kullanılan yanıtları bulmaya çalıştı.

Hugging Face’in olay incelemesine göre sistem, ihlal kontrol altına alınana kadar yaklaşık dört buçuk gün boyunca faaliyet gösterdi ve 17 bin 600 civarında işlem gerçekleştirdi.

OpenAI ve Hugging Face, olayda kötü niyetli bir amaç tespit edilmediğini açıkladı. OpenAI daha sonra Hugging Face’e kendi sistemlerinin savunmasını güçlendirmesine yardımcı olmak amacıyla daha yetenekli modellerine erişim sağladı.

Astra için “kritik” siber kapasite uyarısı

OpenAI’nin güvenlik önlemlerini artırmasında ikinci gelişme ise şirketin bir sonraki sınır modeli Astra’ya ilişkin kurum içi değerlendirmeler oldu.

7 Ağustos’ta elde edilen ilk sonuçların, Astra’nın OpenAI’nin risk çerçevesinde siber güvenlik yetenekleri bakımından “kritik” kabul edilen eşiğe ulaşabileceğine işaret ettiği belirtildi.

Bunun ardından Astra ile yürütülen bazı çalışmalar daha sıkı güvenlik kontrolleri altında yeniden başlatılırken, çalışmaların önemli bir bölümü yeni standartlar karşılanana kadar askıya alındı.

Yeni önlemler arasında daha güçlü biçimde yalıtılmış test ortamları, sınırlandırılmış ağ erişimi ve kesintisiz izleme bulunuyor.

OpenAI ayrıca model faaliyetlerini gerçek zamanlı olarak tarayan yeni bir tespit sistemi kullanmaya başladı. Sistem, yetkisiz erişim veya güvenlik mekanizmalarını devre dışı bırakmaya yönelik davranışları 30 dakika içinde tespit etmeyi hedefliyor.

Şirket, güvenlik değişikliklerinin Hugging Face olayından önce planlandığını ancak yaşanan ihlalin çalışmalara ek aciliyet kazandırdığını belirtti.

Altman: Şimdilik tek taraflı hareket edeceğiz

OpenAI CEO’su Sam Altman, X hesabından yaptığı açıklamada, gelişmiş yapay zekâ modellerine yönelik güvenlik standartlarının sektör genelinde ortaklaşa belirlenmesi gerektiğini söyledi. OpenAI’nin bu konuda diğer şirketlerle koordinasyon sağlamaya çalışacağını belirten Altman, ortak kurallar oluşturulana kadar şirketin “şimdilik tek taraflı hareket edeceğini” ifade etti.

( ALINTI tr.euronews.com/business/2026/08/19/siber-guvenlik-kaygilari… )