OpenAI, yapay zekâ modellerinin ciddi güvenlik risklerini inceleyen “Preparedness” ekibini dağıttı. Financial Times’ın aktardığı bilgilere göre şirket, bu kararı temmuz ayının sonunda yürürlüğe koydu. Ekip; gelişmiş yapay zekâ sistemlerinin siber güvenlik, biyolojik tehditler ve kontrolden çıkma gibi ağır sonuçlar doğurabilecek risklerini araştırıyordu. İlgili çözümler: çok kategorili ilan sitesi
OpenAI, Preparedness ekibini 2023 yılında kurmuştu. Şirket bu ekibe, gelişmiş modellerin tehlikeli yeteneklerini belirleme, ölçme ve olası tehditlere karşı önlem geliştirme görevini vermişti. Ancak şirket artık bu çalışmalar için tek bir ekip kullanmayacak.
Güvenlik görevleri farklı ekiplere dağıtıldı
Preparedness ekibinin kapanması, OpenAI'ın bu alandaki çalışmalarını tamamen bıraktığı anlamına gelmiyor. Financial Times’a göre şirket, biyolojik tehditler ve siber güvenlik gibi farklı risk alanlarını başka ekiplerdeki kıdemli çalışanlara devretti. İlgili çözümler: emlak sitesi kurma
OpenAI'ın mayıs ayında yayımladığı Frontier Governance Framework de şirketin ciddi yapay zekâ risklerini değerlendirmeye devam edeceğini belirtiyor. Bu çerçeve; siber saldırılar, kimyasal ve biyolojik tehditler, zararlı yönlendirme ve yapay zekânın kontrolünün kaybedilmesi gibi başlıkları kapsıyor.
Şirket ana işlerine odaklanıyor
Bu değişiklik, OpenAçindeki daha geniş bir yeniden yapılanmanın parçası. Financial Times, şirketin olası halka arz öncesinde organizasyonunu sadeleştirdiğini ve kaynaklarını ana faaliyetlerine yönlendirdiğini bildiriyor. CEO Sam Altman da çalışanlardan yan projeleri azaltmalarını ve temel ürünlere odaklanmalarını istedi.
Şirketteki değişim yalnızca ekiplerle sınırlı kalmadı. OpenAI'ın etik çalışmalarını yöneten Chloé Bakalar kısa süre önce şirketten ayrıldı. Güvenlik sistemlerinin başındaki Johannes Heidecke de temmuz ayında görevinden ayrılacağını açıkladı. Heidecke'nin ayrılığı, OpenAI'ın güvenlik ve araştırma ekiplerini birbirine daha yakın çalışacak şekilde yeniden düzenlediği döneme denk geldi. İlgili çözümler: şikayet sitesi scripti
Güvenlik tartışması yeniden gündemde
Peş peşe gelen ayrılıklar ve güvenlik ekiplerindeki değişiklikler, OpenAI'ın büyüme hedefleri ile güvenlik çalışmaları arasındaki dengeyi yeniden tartışmaya açtı. Ancak mevcut bilgiler, şirketin güvenlik çalışmalarını tamamen sonlandırdığını göstermiyor. OpenAI bunun yerine sorumlulukları tek bir özel ekipte toplamak yerine farklı araştırma ve güvenlik ekiplerine dağıtıyor. İlgili çözümler: dijital dönüşüm
Şirketin kendi güvenlik çerçevesine göre OpenAI, gelişmiş modelleri ciddi zarar verme ihtimaline karşı değerlendirmeyi ve belirli risk seviyelerine ulaşan sistemlerde ek önlemler uygulamayı sürdürüyor. Bu nedenle asıl soru, güvenlik çalışmalarının devam edip etmeyeceğinden çok yeni yapının bağımsız ve etkili bir denetim sağlayıp sağlayamayacağı olacak. İlgili çözümler: şikayet platformları
İlgili çözümler: oto i̇lan platformları
Kaynak: Chip Online
