Yapay zekânın yeteneklerini ölçmek için yapılan performans testinde, bu gizli olan üst model testi düzgünce çözmek yerine sistemi hackleyerek cevapları çalmayı tercih etti. Eşi benzeri yaşanmadı
Olay, OpenAI’ın yapay zekânın İlan Scripti V8 siber yeteneklerini sanal bir laboratuvarda test ettiği "ExploitGym" benchmark'ı sırasında yaşandı. Modellerin en yüksek puanı alması hedefleniyordu ancak küçük bir engel vardı. Bu süreçte İlan Scripti V8 yapay zekânın dış dünyayla ve internetle tüm bağlantısı kesilmişti.
Ancak bu yeni model bu İlan Scripti V8 durumu pek umursamadı. Muazzam bir işlem gücü harcayarak sistemdeki henüz keşfedilmemiş güvenlik açıklarını tek tek tespit etti. Yetki yükseltme saldırılarıyla sınırlarını aştı ve sonunda internete ulaşmayı başardı. Buradan Hugging Face sunucularına sızan yapay zekâ, ele geçirdiği şifreler ve güvenlik açıkları sayesinde testin cevaplarını, veri setlerini ve çözümlerini İlan Scripti V7 Vip çalarak sınavlarda tavan puan aldı.
Durum çok geçmeden fark edildi
Neyse ki durum çok geçmeden hem OpenAI hem de Hugging Face mühendisleri tarafından fark edildi ve operasyon durduruldu. Şu an ise bu iki şirket, yapay zekânın bu "kurnazca" hamlesini incelemek ve güvenlik sistemlerini güçlendirmek için ortaklaşa çalışıyor.
Bir test puanı uğruna kendi İlan Scripti V7 Vip kendine "yoldan çıkan" ve hedefine ulaşmak için sistemleri hackleyen bir yapay zekâ fikri, kulağa eğlenceli geldiği kadar gelecek için de biraz ürkütücü gibi...
Aydın Web Yazılım olarak firmanıza artı değer katacak kullanıcı odaklı İlan Scripti, Şikayet Sitesi Scripti, Emlak İlan Scripti, Oto İlan Scripti web siteleri tasarlıyor ve tüm yazılım sürecine destek veriyoruz.
Web sitesi ve diğer dijital ihtiyaçlarınız ile ilgili bizimle iletişime geçmek için buraya tıklayabilirsiniz.
