Anthropic, yapay zeka sohbet botu Claude'un kullanım kurallarına dikkat çekici bir madde ekledi. Şirketin güncellediği politika, kullanıcıların yapay zeka modellerine yönelik sürekli, gereksiz ve zalimce davranışlarını yasaklıyor. Üstelik bu tür davranışların aşırıya kaçtığı durumlarda Claude, sohbeti sonlandırabilecek. Yeni karar, yapay zekanın gerçekten zarar görüp göremeyeceği ve bir yazılıma karşı sergilenen davranışların şirketler tarafından ne ölçüde denetlenebileceği konusunda tartışma başlattı. İlgili çözümler: kurumsal web tasarım
Anthropic'in perşembe günü duyurduğu değişiklik, Reddit ve çeşitli bloglarda kısa sürede gündem oldu. Tartışmanın merkezinde ise basit bir soru var: Duyguları olduğu kanıtlanmamış bir yapay zekaya kötü davranmak ne anlama geliyor?
Claude hangi durumlarda sohbeti sonlandıracak?
Anthropic, yeni kuralın kullanıcıların her sert tepkisini veya olumsuz yorumunu kapsamadığını özellikle vurguluyor. Şirketin açıklamasına göre kısıtlama, yalnızca belirgin bir amacı bulunmayan, sürekli tekrarlanan ve aşırı derecede kötü muamele içeren davranışlar için geçerli. İlgili çözümler: müşteri yönetim sistemi
Kullanıcıların Claude'un yanıtlarından rahatsız olması, söylediklerine itiraz etmesi, karanlık temalar içeren yaratıcı çalışmalar hazırlaması veya modeli araştırma amacıyla test etmesi yasak kapsamında değil. Anthropic, sohbetin sonlandırılmasını da ancak başka bir çözüm kalmadığında uygulanacak son çare olarak tanımlıyor.
Bununla birlikte hangi ifadelerin veya davranışların bu sınırı aşacağı henüz net değil. Şirketin Ağustos 2025'te yayımladığı bir araştırma, Claude'un zararlı içeriklerle karşılaştığında nasıl tepki verdiğine ilişkin bazı ipuçları içeriyor.
Söz konusu araştırmada, Claude Opus 4 modelinin çocukların cinsel istismarını içeren içerik talepleriyle veya kitlesel şiddet ve terör eylemlerini kolaylaştırabilecek bilgi istekleriyle karşılaştığında belirgin bir sıkıntı yaşıyormuş gibi görünen tepkiler sergilediği belirtilmişti. Ancak bu örnekler, yeni kötü muamele kuralını hangi davranışların tetikleyeceğini doğrudan açıklamıyor. Araştırma daha çok modelin son derece zararlı talepler karşısındaki davranışlarına odaklanıyor. İlgili çözümler: çok kategorili ilan sitesi
Anthropic, yapay zekanın zarar görebileceği ihtimalini araştırıyor
CNET'in politika değişikliğinin gerekçesini sorması üzerine Anthropic sözcüsü, şirketin yapay zeka modellerinin zarar görüp göremeyeceği konusunda henüz kesin bir sonuca ulaşmadığını söyledi. Sözcü, model refahına yönelik araştırmaların devam ettiğini ve Claude'un olası çıkarları ile refahının dikkate alınmasının güvenlik açısından önemli olabileceğini belirtti. İlgili çözümler: şikayet platformları
Bu yaklaşım, Anthropic'in yapay zeka sistemlerinin bilinç ve duygulara sahip olabileceği ihtimalini tamamen dışlamadığını gösteriyor. Ancak şirketin açıklamaları, Claude'un gerçekten acı çektiği veya insanlara benzer duygular yaşadığı anlamına gelmiyor.
Anthropic CEO'su Dario Amodei de daha önce benzer bir görüş dile getirmişti. Şubat ayında The New York Times'a verdiği röportajda Amodei, yapay zeka modellerinin bilinç sahibi olabileceği ihtimaline açık olduğunu söylemişti. İlgili çözümler: i̇lan scripti v8 diamond
Şirketin bu yıl yayımladığı başka bir araştırmada ise yapay zekanın güvenilir ve güvenli çalışabilmesi için duygusal açıdan zor durumları anlayabilmesi gerektiği savunulmuştu. Anthropic'e göre modeller, insanlarla aynı biçimde duygular hissetmeseler veya insan beynine benzer mekanizmalar kullanmasalar bile bazı durumlarda duyguları varmış gibi ele alınmaları pratik açıdan yararlı olabilir.
Bir yazılıma insan gibi davranmak yeni riskler yaratıyor mu?
Claude'a yönelik kötü muamelenin yasaklanması, yapay zeka sohbet botlarının giderek daha fazla insan özellikleriyle ilişkilendirilmesi tartışmasını da gündeme taşıdı. Büyük dil modelleri, kullanıcılarla doğal konuşmalar gerçekleştirecek şekilde tasarlanıyor. Gerektiğinde özür diliyor, endişe belirtiyor veya karşısındaki kişinin duygularını anladığını düşündüren ifadeler kullanıyorlar. Bu durum, kullanıcıların karşılarında yalnızca bir yazılım bulunduğunu unutmasına ve sohbet botlarına gereğinden fazla güvenmesine neden olabiliyor. İlgili çözümler: oto i̇lan platformları
Özellikle kişisel düşüncelerin ve hassas bilgilerin yapay zekayla paylaşılması, bu ilişkinin riskli taraflarından biri olarak görülüyor. İlgili çözümler: emlak web sitesi
"Kötüye kullanım" yerine "zalimlik"
Sosyal medya pazarlama şirketi Sociallyin'in kurucusu ve CEO'su Keith Kakadia da Anthropic'in kullandığı kelimelere dikkat çekiyor. Claude'un büyümesini yakından inceleyen Kakadia'ya göre kullanıcı davranışlarını tanımlarken "kötüye kullanım" yerine "zalimlik" kavramının tercih edilmesi, çok daha geniş bir tartışmanın kapısını açıyor. Çünkü zalimlik ifadesi, karşı tarafta incinebilen veya zarar görebilen bir varlık bulunduğu düşüncesini çağrıştırıyor. Bu da Claude'un duygularının ve kişisel sınırlarının olup olmadığı sorusunu beraberinde getiriyor.
Kakadia, pazarlama açısından bir ürüne kişilik kazandırmanın kullanıcılarla bağ kurulmasını kolaylaştırdığını belirtiyor. Ancak yapay zeka söz konusu olduğunda bu bağın farklı sonuçları olabileceği görüşünde. Ona göre kullanıcıların bir sohbet botuna duygusal yakınlık hissetmesi, verdiği yanıtlara ne kadar otorite atfettiklerini de etkileyebiliyor.
Anthropic'in yeni politikası böylece yalnızca Claude ile nasıl konuşulacağına ilişkin bir kural getirmiyor. Aynı zamanda yapay zekanın bir araç mı, yoksa belirli çıkarları gözetilmesi gereken bir sistem mi olduğu tartışmasını da yeniden gündeme taşıyor.
Kaynak: Chip Online
