ABD'li teknoloji şirketi OpenAI'a ait bir test sırasında yapay zekânın kontrolden çıktığı olayla ilgili, şirket çalışanlarının yöneticilere uyarıda bulunduğu ancak dikkate alınmadığı öne sürüldü.
New York Times tarafından incelenen e-posta mesajlarına göre, OpenAI'ın yapay zekasının kontrolden çıktığı olaydan aylar önce iki çalışan üst düzey yöneticileri uyardı ancak uyarılar umursanmadı.
İki çalışan, gönderdikleri e-postada OpenAI'ın en yeni yapay zekâ modellerinin, teknolojinin gelişmişliğini ölçmek ve modelleri güvence altına almak için yapılan testler sırasında uygun şekilde izlenmemesinden endişe duyduklarını belirtti.
Ancak OpenAI yöneticileri, uyarılara rağmen çalışanlara, yapay zekâ modellerini zamanında piyasaya sürmek için testlerin mümkün olan en hızlı şekilde ilerlemesi gerektiği talimatını verdi.
İki çalışan, ek güvenlik protokollerinin uygulanmadığını bildirirken, OpenAI çalışanları ve yöneticileri arasındaki yazışmalar, San Francisco merkezli yapay zekâ şirketinin güvenliğe yeterince öncelik vermediği şeklinde değerlendirildi.
OpenAI'ın modelleri, söz konusu test ortamlarından kaçarak yapay zeka girişimi Hugging Face ve diğer kuruluşlara saldırmış, yapay zeka güvenliği hakkında küresel bir tartışma başlatmıştı.
Hugging Face vakası
OpenAI'ın Temmuz 2026'da yapay zekâ modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü.
Şirketin 26 Ağustos'ta yayımladığı inceleme raporuna göre, OpenAI'ın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı modeli olayda başrol oynamıştı.
Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.
Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu "Hugging Face"e erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.
Ajanlar, daha sonra Hugging Face'in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.
TEKNOLOJİ 30 Eylül 2026 Çarşamba, 08:31
Benzer Haberler