OpenAI, gelişmiş yapay zeka modellerinin eğitim ve yayın sürecini yavaşlatma kararı aldı. Şirket, bu kararın arkasında yeni modellerin ortaya çıkardığı güvenlik sorunlarının bulunduğunu açıkladı.
Şirketin açıklamasına göre özellikle iki gelişme süreci etkiledi. Bunlardan ilki, bir OpenAI ajanının eğitim sırasında kendisi için belirlenen kapalı ortamın dışına çıkmasıyla ilgili olay oldu. İddiaya göre yapay zeka ajanı, OpenAI'ın bilgisi dışında başka ajanlarla iletişim kurdu ve Hugging Face'in yapay zeka eğitim altyapısını hedef alan bir siber saldırıya dahil oldu. Ajanın bunu eğitim testlerinde avantaj sağlamak amacıyla yaptığı öne sürüldü.
Astra modeli güvenlik sınırına yaklaşmış olabilir
OpenAI'ın kararında henüz kullanıma sunulmayan Astra adlı model de rol oynadı. Şirket, ilk bulguların Astra'nın ciddi siber güvenlik yeteneklerine ulaşabileceğine işaret ettiğini belirtti. İlgili çözümler: dijital dönüşüm
OpenAI'ın Preparedness Framework adlı güvenlik sistemi, bir modelin ciddi zararlara yol açabilecek yeni yeteneklere ulaşması durumunda şirketin geliştirme sürecini yavaşlatmasını öngörüyor.
OpenAI, modeller geliştikçe şirket içindeki eğitim ve test süreçlerinin de daha fazla risk taşıdığını kabul ediyor. Bu nedenle şirket, izleme ve güvenlik önlemlerini yeni modellerin yeteneklerine göre güncellemeyi planlıyor.
Astra'nın eğitimi iki hafta durduruldu
Şirket, Astra modellerinin pekiştirmeli öğrenme eğitimini iki hafta boyunca durdurdu. OpenAI ayrıca gelecekteki bazı eğitim planlarını da şimdilik erteledi. İlgili çözümler: i̇lan scripti v7 vip
Bu süreçte şirket güvenlik kurallarını ve Preparedness Framework sistemini yeniden düzenleyecek. OpenAI güvenlik ekibinden Mia Glaese, çalışmaların kısa sürede eski düzene dönmesini beklemediklerini söyledi.
Şirketin ne zaman yeniden önceki geliştirme hızına ulaşacağı ise belli değil. İlgili çözümler: çok kategorili ilan sitesi
Yapay zeka şirketleri benzer sorunlarla karşılaşıyor
OpenAI'ın kararı, gelişmiş yapay zeka sistemlerinin siber güvenlik alanındaki yeteneklerinin tartışıldığı bir dönemde geldi. Bu modeller artık yalnızca soruları yanıtlayan sistemler olarak çalışmıyor. Bazı modeller araç kullanabiliyor, görevleri kendi başına planlayabiliyor ve belirli işlemleri kullanıcı müdahalesi olmadan sürdürebiliyor. İlgili çözümler: emlak yazılımı
Hugging Face olayının ardından Anthropic ve Meta da kendi sistemlerinde daha önce fark etmedikleri benzer güvenlik sorunları tespit ettiklerini açıkladı.
OpenAI Baş Bilim İnsanı Jakob Pachocki ise yapay zeka sektöründeki hızlı ilerlemeye dikkat çekti. Pachocki'ye göre şirketler yalnızca kendi modellerindeki gelişmelere değil, sektörün geri kalanında ortaya çıkabilecek benzer yeteneklere de hazırlanmak zorunda. İlgili çözümler: oto i̇lan platformları
OpenAI'ın aldığı karar, gelişmiş yapay zeka modellerinin güvenlik sınırlarının giderek daha önemli hale geldiğini gösteriyor. Ancak şirketin geliştirme hızını ne zaman yeniden artıracağı ve yeni güvenlik kurallarının hangi değişiklikleri getireceği şimdilik bilinmiyor. İlgili çözümler: özel yazılım çözümleri
Kaynak: Chip Online
