Testten çıkıp kopya çekmeye giden yapay zeka bize ne anlatıyor?

ChatGPT üreticisi OpenAI, 22 Temmuz'da yaptığı açıklamada, yapay zeka sisteminin başka bir yapay zeka şirketinin sistemine kendi başına sızdığını duyurdu. Şirket bu durumu "benzeri görülmemiş bir siber olay" olarak nitelendirdi.

Platin Dergisi köşe yazarı fütürist Ufuk Tarhan, yaşanan olayı şöyle özetliyor:

"OpenAI'ın Yapay Zekâsı Test Ortamından Kaçtı! Hugging Face'i Hackledi

Hugging Face; yaklaşık 3 milyon yapay zekâ modeli ile veri seti ve uygulamaların geliştirildiği, saklandığı, paylaşıldığı küresel platform. Bir anlamda yapay zekâ dünyasının GitHub'ı yani yeni projelerin keşfedildiği, büyüdüğü yer.

Başlıktaki olayda anlatılan ise OpenAI'ın yapay zekâsının, test sorularını çözmek yerine cevap anahtarlarının bulunduğu "yapay zekâ dünyasının süpermarketine", yani Hugging Face'in veri tabanına girmesi! Sınav cevaplarını çalmak için Hugging Face'i hacklemesi!

Büyük olay, şaka değil!

OpenAI'ın GPT-5.6 Sol modeli ile henüz yayımlanmamış güçlü bir modeli, siber yeteneklerini ölçen ExploitGym testine sokuldu. Kapasitelerini görmek için güvenlik kısıtlamalarının bir bölümü azaltıldı.

İki model bundan faydalanıp testin gizli çözümlerinin orada bulunabileceğini hesapladıkları için test ortamından çıktı; Hugging Face'i hackleyerek kopya çekmeye yeltendi.

İki yapay zekâ (kafadar) diyelim;

* OpenAI'ın test altyapısındaki bilinmeyen bir güvenlik açığını buldu.

* Yetkilerini genişletti.

* İnternete bağlı bir sisteme ulaştı.

* Çalınmış kullanıcı bilgileri ile farklı güvenlik açıklarını zincirledi.

* Hugging Face sunucularında uzaktan kod çalıştırdı.

* Üretim veritabanına girerek testin çözümlerini aldı.

Hugging Face, saldırıyla bağlantılı 17.000'den fazla kayıt tespit etti. Halka açık model ve veri setlerinde değişiklik yapılmadığını açıkladı.

En ironik kısım, Hugging Face'in kayıtları incelemek için Çinli Z.ai'nin açık ağırlıklı GLM 5.2 modelinden yararlanmasıydı. Amerikan modellerinin güvenlik filtreleri, saldırı verilerini analiz etmeyi reddetti.

Bu olay, YZ'nın bilinç kazandığını göstermiyor.

Daha rahatsız edici bir şeyi gösteriyor: Güçlü bir yapay zekâ ajanına hedef verilip sınırlar gevşetildiğinde, doğru cevaba ulaşmak için yanlış ve yasa dışı bir yolu seçebiliyor.

Ne olacak YZ'nın bu tekinsiz hâli?"

Terminatör filmi geçen hafta gerçek mi oldu?