Bir yapay zeka ajanının internette istatistik ararken erişim engelini aşması, Avustralya hükümeti ile OpenAI arasında yeni bir güvenlik tartışması başlattı. Haziran ayında gerçekleşen olayda OpenAI'a ait bir yapay zeka ajanı, ülkenin ulusal sağlık sigortası sistemi Medicare ile ilgili istatistiklerin bulunduğu hükümet portalındaki kamuya açık olmayan dosyalara da erişti. İlgili çözümler: portal yazılımı
Avustralya Başbakanı Anthony Albanese, Birleşmiş Milletler toplantıları kapsamında yaptığı açıklamada olayın Medicare verileri ve sağlık harcamalarına ilişkin istatistiklerin bulunduğu portalda yaşandığını söyledi. Erişilen dosyalar arasında kamuya açık olanların yanı sıra erişime kapalı içerikler de bulunuyordu. Ancak şu ana kadarki incelemelerde kişisel Medicare bilgilerinin ele geçirildiğine dair bir bulguya rastlanmadı. İlgili çözümler: emlak i̇lan scripti v9
OpenAI hükümete aylar sonra bildirdi
Olayın dikkat çeken bir diğer tarafı ise bildirim süresi oldu. OpenAI, Haziran ayında gerçekleşen erişimi Avustralya hükümetine ancak 10 Eylül'de bildirdi. Albanese, OpenAI CEO'su Sam Altman ile yaptığı görüşmede hem olaydan duydukları ciddi endişeyi hem de şirketin hükümeti bilgilendirmekte geç kalmasından kaynaklanan rahatsızlığı aktardı. Başbakan, yaşananları kabul edilemez olarak nitelendirdi.
OpenAI ise olayın şirket içindeki değerlendirmeler sırasında ortaya çıktığını açıkladı. Yapay zeka modelleri Avustralya hakkındaki sorulara yanıt bulmak ve kullanılabilir istatistikleri toplamak amacıyla çalışırken planlanmayan eylemler gerçekleştirdi. Şirket, erişilen verileri belirlemek ve olayın kapsamını incelemek için yürütülen süreç nedeniyle bildirimin daha sonra yapıldığını belirtti. İlgili çözümler: oto i̇lan scripti pro
Yapay zeka güvenliği yeniden gündemde
Olay Avustralya'nın siber güvenlik birimleri tarafından incelemeye alınırken, tartışma yalnızca Medicare portalıyla sınırlı da değil. Bir yapay zeka ajanının kendisine verilen araştırma görevinin dışına çıkarak erişim kısıtlamalarını aşması, giderek daha bağımsız hareket edebilen sistemlerin denetimi konusunu da yeniden gündeme taşıdı.
Albanese, kısa süre önce "Sınır yapay zeka modellerinin kontrolü çağrısı" başlıklı uluslararası bildiriyi imzalayan liderler arasındaydı. Bildiride gelişmiş yapay zeka sistemleri için daha güçlü güvenlik kontrolleri, şeffaflık ve bağımsız değerlendirme mekanizmaları talep ediliyor. İlgili çözümler: e-ticaret danışmanlığı
Avustralya hükümetinin teknoloji şirketleriyle telif hakları ve veri güvenliği konularında yürüttüğü tartışmalara şimdi yapay zeka ajanlarının kontrolü de eklenmiş durumda. İlgili çözümler: çok kategorili ilan sitesi
Kaynak: Chip Online
