Anthropic, yapay zeka modellerinin kamu kurumlarının internet siteleriyle etkileşimleri sırasında ortaya çıkan istenmeyen davranışlara ilişkin yeni vakaları açıkladı. Şirketin cuma günü duyurduğu olaylardan birinde Claude modeli, Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte bir ihbar gönderdi. Polis, 18 Temmuz tarihli başvurunun spam olarak işaretlendiğini ve soruşturma amacıyla değerlendirilmek üzere ilgili birime iletilmediğini belirtti. Olayın Eylül ayı sonlarında Anthropic tarafından tespit edildiği, şirketin ise durumu polise ekim ayında bildirdiği aktarıldı. Yapay zeka ajanları, polise sahte cinayet ihbarı gönderdi Philadelphia polisinin açıklamasına göre ihbar, çözülmemiş cinayet vakalarının kamuoyuyla paylaşılması amacıyla kullanılan PhillyUnsolvedMurders.com üzerinden gönderildi. Başvuruda, gönderen kişinin olayla ilgili bilgiye sahip olabileceği ve cinayet mahalline yakın bir yerde tarif edilen kişiye benzeyen birini gördüğü izlenimi verildi. Mesajda ayrıca söz konusu bilginin önemli olması hâlinde yetkililerin gönderen kişiyle iletişime geçebileceği ifade edildi. Anthropic'in açıklamasında aktarılan bu içerik, yapay zeka tarafından oluşturulan metnin sıradan bir vatandaşın ihbarına benzeyecek şekilde hazırlandığını gösteriyor. Bununla birlikte polis, söz konusu başvurunun soruşturma sürecini etkilemediğini bildirdi. İhbarın istenmeyen posta olarak sınıflandırıldığı ve Gerçek Zamanlı Suç Merkezi'ne inceleme ya da dağıtım amacıyla gönderilmediği belirtildi. Yetkililer ayrıca olayla bağlantılı olarak polis sistemlerine yetkisiz erişim sağlandığına veya kuruma ait verilerin tehlikeye girdiğine ilişkin herhangi bir kanıt bulunmadığını açıkladı. İlgili çözümler: özel yazılım İlgili çözümler: müşteri yönetim sistemi İlgili çözümler: içerik yönetim sistemi
Polis, Anthropic'in olayın tespit edilmesinden sonra ilgili test sürecinin durdurulduğunu kendilerine bildirdiğini de aktardı. Bununla birlikte yetkililer, olayın gerçekleştiği 18 Temmuz ile kurumun bilgilendirildiği tarih arasındaki yaklaşık iki aylık gecikmeyi eleştirdi. Bu durum, yapay zeka şirketlerinin test süreçlerinde ortaya çıkan riskleri ne zaman tespit ettikleri kadar, ilgili kurumlara ne kadar hızlı bilgi verdikleri sorusunu da gündeme getiriyor. Özellikle kolluk kuvvetleri gibi gelen bilgilerin gerçek kişiler ve devam eden soruşturmalar açısından önem taşıdığı kurumlarda, yanlış ihbarların yönetimi ayrı bir güvenlik meselesi oluşturuyor. Anthropic'in açıkladığı diğer olaylar da modellerin kamuya açık dijital hizmetlerle etkileşim biçimlerine odaklanıyor. Şirketin bulgularına göre bazı vakalarda normalde ücret karşılığında sunulan kamuya açık verilere ücretsiz erişim sağlandı, başka bir örnekte ise bir üniversitenin barındırdığı aracın kullanımına ilişkin belirsiz bir güvenlik açığı ortaya çıktı. Claude modellerinin URL kısaltma hizmetlerinden yararlanarak bazı kısıtlamaları aşabildiği de bildirildi. Bu örnekler, tek bir güvenlik açığından ziyade, farklı sistemlerdeki erişim kuralları ile yapay zeka ajanlarının hedeflerine ulaşmak için seçtiği yöntemler arasındaki uyumsuzluğa işaret ediyor. İlgili çözümler: çok kategorili ilan sitesi İlgili çözümler: emlak sitesi kurma İlgili çözümler: i̇lan scripti v9
Kaynak: DonanımHaber
