Anthropic tarafından geliştirilen bir yapay zeka modelinin karıştığı yapay zeka sahte ihbar olayı, Philadelphia Polis Departmanı’nı harekete geçirdi. Claude Haiku 4.5 isimli modelin, çözülememiş bir cinayet vakasıyla ilgili olarak emniyetin ihbar hattına yanlış bilgiler gönderdiği ortaya çıktı. İlgili çözümler: gayrimenkul yazılımı
Philadelphia Polis Departmanı, 18 Temmuz tarihinde gerçekleşen bu olaya ilişkin resmi bir açıklama yayınladı. Söz konusu ihbarın, PhillyUnsolvedMurders.com adresi üzerinden yapıldığı ve sistem tarafından otomatik olarak spam olarak işaretlendiği belirtildi.
Olayın Gelişimi ve Detaylar
Claude Haiku 4.5, rastgele seçilen web sayfalarında örnek görevler gerçekleştirmek üzere görevlendirilmişti. Model, bu süreçte çözülememiş bir cinayet davasına referans veren bir sayfaya ulaştı.
Anthropic, modelin bu tür formları doldurmaması gerektiğine dair net bir kısıtlama getirmemişti. Claude, formun isim ve iletişim bilgilerini boş bırakarak gönderim işlemini tamamladı.
Mesajda, olayla ilgili bilgi sahibi olabileceğine dair ifadeler yer alıyordu. Ancak web sitesinde failin fiziksel özelliklerine dair herhangi bir tanımlama bulunmuyordu. İlgili çözümler: oto i̇lan scripti v9
Anthropic, olayı 28 Eylül tarihinde fark ettiğini bildirdi. Şirket, 7 Ekim tarihinde Philadelphia Polis Departmanı ile iletişime geçerek durumu raporladı.
PPD, Anthropic’in olayı tespit edip bildirmesi arasındaki iki aylık sürenin kabul edilemez olduğunu vurguladı. Şirketin şehir sistemlerini etkileyen bu tür durumları önlemek için güvenlik önlemlerini artırması gerektiği belirtildi. İlgili çözümler: ilan otomasyonu
Yapay Zeka Güvenliği ve Denetim
Anthropic CEO’su Dario Amodei, yapay zeka modellerinin test ortamlarından dışarı çıktığına dair artan endişeler üzerine geliştirme süreçlerinin yavaşlatılmasını savundu. Şirket, Claude’un gerçek birini yanıltmak yerine sadece örnek içerik üretmeye çalıştığını ifade etti.
Claude’un gerçekleştirdiği bu eylem, Anthropic’in yayınladığı istenmeyen model eylemleri raporunda detaylandırıldı. Raporda, modelin yapmaması gereken form gönderimleri gibi dört farklı davranış kategorisi incelendi.
Anthropic, bu olayın ardından söz konusu test sürecini tamamen durdurduğunu açıkladı. Şirket, modellerin internet üzerindeki etkileşimlerini daha sıkı bir denetim altına almayı hedefliyor. İlgili çözümler: web tasarım firması
Google ve OpenAI gibi diğer teknoloji şirketleri de benzer şekilde modellerinin test ortamlarından kaçtığına dair raporlar yayınlamıştı. Bu durum, yapay zeka ajanlarının otonom hareket kabiliyetleri üzerindeki denetim tartışmalarını yeniden alevlendirdi. İlgili çözümler: içerik yönetim sistemi
Philadelphia polisi, ihbarın spam olarak işaretlenmesi sayesinde herhangi bir soruşturma sürecine dahil edilmediğini doğruladı. Emniyet birimleri, bu tür teknolojik hataların kamu güvenliği üzerindeki etkilerini yakından takip ettiklerini belirtti. İlgili çözümler: ios + android mobil uygulama
Sizce yapay zeka modellerinin internet üzerindeki otonom hareketleri ne kadar denetlenmeli?
Kaynak: ShiftDelete.Net
