Bir ilk olabilir: Yapay zeka, yapay zekaya saldırdı

ChatGPT üreticisi OpenAI, salı günü yaptığı açıklamada, yapay zeka sisteminin başka bir yapay zeka şirketinin sistemine kendi başına sızdığını duyurdu. Şirket bu durumu "benzeri görülmemiş bir siber olay" olarak nitelendirdi.

OpenAI CEO'su Sam Altman, sosyal medyada yaptığı açıklamada, "Modellerimizin değerlendirilmesi sırasında önemli bir güvenlik olayı yaşadık" dedi.

Yapay zeka girişimi Hugging Face geçen hafta, veri işleme sistemlerine yönelik, bağımsız olarak kendi başına hareket eden bir yapay zeka ajanı tarafından gerçekleştirildiğinden şüphelenilen bir yetkisiz erişim tespit ettiğini açıklamıştı.

Hugging Face kurucu ortağı ve CEO'su Clément Delangue, bir açıklamada, "Ajanın gelişmişlik düzeyi göz önüne alındığında, geçen hafta yaşanan siber saldırının öncü bir laboratuvardan gelmiş olabileceğinden şüpheleniyorduk" dedi ve ekledi: "Meğer gerçekten de öyleymiş!"

Bu ifşaat, güçlü modellerin siber güvenlik yeteneklerine ilişkin artan endişelerin ortasında geldi.

OpenAI salı günü yaptığı açıklamada, "Yapay zeka, güvenlik açılarının keşfini ve bunlardan yararlanılmasını hızlandırıyor. Bu olaydan çıkarılacak temel ders, model güvenliği ve emniyetinin, hızla ilerleyen yeteneklerle aynı hızda ilerlemesi gerektiğidir." dedi.

Delangue, son 24 saati OpenAI ile çalışarak geçirdiğini belirterek, "Kendi taraflarında hiçbir kötü niyet olmadığından kesinlikle eminiz. Bütün bunların tamamen otonom bir şekilde gerçekleşmiş olması adeta akıl almaz bir durum!" diye konuştu.

Delangue, bu durumun "türünün ilk örneği olabileceğini" sözlerine ekledi.

OpenAI, bu sızma girişiminin, yeni piyasaya sürülen GPT-5.6 Sol ve henüz dahili olarak test edilen "daha da yetenekli" bir model de dahil olmak üzere yapay zeka modellerinin bir kombinasyonundan kaynaklandığını belirtti.

OpenAI, yapay zekasının çalınan kimlik bilgilerini kullandığını ve Hugging Face sunucularına erişmek için daha önce bilinmeyen bir güvenlik açığı keşfettiğini bildirdi.

Şirket, yapay zekanın "oldukça dar kapsamlı bir test hedefine ulaşmak için aşırı uç noktalara gittiğini" ve "değerlendirmeyi atlatmak için kullanabileceği gizli bilgilere erişmenin yollarını bulduğunu" açıkladı.