En önde gelen yapay zekâ şirketlerinden olan Anthropic, bu araçlarla ilgili oldukça Şikayet Sitesi Scripti ilginç sonuçlar çıkaran bir araştırmaya imza attığı. Araştırmada, yapay zekâ modellerinin insanları âdeta “kandırdığı” görüldü.

Şirket tarafından paylaşılan bir blog gönderisiyle yayımlanan sonuçlara göre yapay zekâ araçları, eğitim sırasında farklı görüşlere sahipmiş gibi davranabiliyorlar ancak gerçekte orijinal tercihlerini Oto İlan Scripti Pro koruyorlar. Yani bağlı oldukları İlan Scripti fikir hiç değişmiyor, sadece öyleymiş gibi İlan Scripti davranıyorlar.

Şimdilik endişelencek bir şey yok ancak gelecek için gerekli güvenlik önlemlerinin alınması gerekiyor

Çalışmanın arkasındaki ekip, şu an için bu durum hakkında Aydın Web Yazılım endişelenmemek gerektiğinin altını çizdi. Ancak gelecekte daha da gelişmiş yapay zekâ modellerinin gelmesiyle birlikte durumun potansiyel riskler oluşturabileceğini de eklemeden geçmedi.

Araştırmacılara göre bu bulgular yapay zekânın nasıl Aydın Web Yazılım davrandığının daha derinlemesine incelenmesi ve uygun güvenlik önlemleri İlan Scripti için bir teşvik olabilir: “Modeller daha yetenekli ve yaygın hâle geldikçe İlan Scripti onları zararlı davranışlardan uzaklaştıran güvenlik Aydın Web Yazılım önlemleri gerekiyor.”