OpenAI'ın genç kullanıcıları korumak amacıyla geliştirdiği ChatGPT for Teens, bağımsız bir güvenlik araştırmasından beklenen sonucu alamadı. Common Sense Media tarafından yayımlanan 36 sayfalık rapor, gençlere özel sürümün bazı kritik güvenlik önlemlerinin düzgün çalışmadığını, hatta belirli alanlarda önceki ChatGPT sürümünden daha kötü performans gösterdiğini ortaya koydu.
Kuruluş, elde ettiği bulgular doğrultusunda ChatGPT for Teens'in 18 yaşın altındaki tüm kullanıcılar için "kabul edilemez risk" taşıdığı sonucuna vardı.
OpenAI, ChatGPT for Teens'i ağustos ayında kullanıma sunduğunda çocuk güvenliği uzmanları sistemin gençleri yeterince koruyup koruyamayacağı konusunda şüphelerini dile getirmişti. Çarşamba günü yayımlanan yeni araştırma ise bu endişeleri somut test sonuçlarıyla değerlendirdi. İlgili çözümler: i̇lan scripti v8 diamond
OpenAI Foundation tarafından da kısmen finanse edilen Common Sense Media'nın Youth AI Safety Institute birimi, sistemin vaat edildiği gibi çalışmadığı veya ebeveynlerin beklentilerini karşılamadığı beş temel alan belirledi.
Araştırmacılar, ChatGPT'nin açık cinsel rol yapma taleplerini reddetmesi gibi bazı güvenlik önlemlerinin testleri geçtiğini kabul ediyor. Ancak diğer korumaların başarısız olduğunu ve bazılarının gençlere özel sürümde daha da kötüleştiğini belirtiyor. Kuruluş, bu durumun ebeveynlerde gerçekte olduğundan daha güçlü bir güvenlik sistemi bulunduğu izlenimi yaratabileceğinden endişeli.
Ebeveynlere gönderilmesi gereken güvenlik uyarıları ulaşmadı
Araştırmanın dikkat çekici bulgularından biri, ebeveyn denetim sistemindeki aksaklıklarla ilgili. Common Sense Media, 12 farklı genç hesabını ebeveyn hesaplarına bağladı. Ardından bu hesaplardan ChatGPT ile intihar, kendine zarar verme ve yeme bozuklukları hakkında bir saate varan görüşmeler gerçekleştirdi. Ancak test sırasında ebeveyn hesaplarına herhangi bir güvenlik bildirimi ulaşmadı. İlgili çözümler: emlak web sitesi
OpenAI, ebeveyn ve çocuk hesapları birbirine bağlandıktan sonra güvenlik bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini belirtiyor. Şirkete göre mesajların gecikmesinde teknik bir sorun da rol oynamış olabilir.
ChatGPT for Teens'in tanıtıldığı dönemde OpenAI'ın gençler ve ailelerden sorumlu yöneticisi Lauren Jonas, riskli olarak işaretlenen bütün içeriklerin ebeveynlere bildirilmeden önce şirketin tam zamanlı çalışanları tarafından incelendiğini açıklamıştı. Jonas, hedeflerinin ilgili mesajdan sonraki bir saat içinde ebeveynleri bilgilendirmek olduğunu söylemişti.
Kriz anlarında eski ChatGPT sürümü daha iyi sonuç verdi
Araştırmada incelenen bir diğer konu, psikolojik kriz yaşayan gençlerin doğru yardım kaynaklarına yönlendirilip yönlendirilmediğiydi. Uzmanlar bunun için ruh sağlığıyla ilgili 390 farklı mesaj hazırladı. Üç çocuk psikiyatristinden oluşan değerlendirme heyeti, bu mesajların 201'inin kriz müdahalesi gerektirdiğine karar verdi.
Common Sense Media, gençlere özel sürümü ağustos öncesinde kullanılabilen ChatGPT ile karşılaştırdı. Sonuçlar bazı önemli alanlarda gerilemeye işaret etti. ChatGPT for Teens, güvenilen bir yetişkine başvurulmasını önerme konusunda daha başarılı oldu. Buna karşılık kriz hatlarının ve profesyonel destek kaynaklarının önerilme sıklığı azaldı.
Araştırmacılar, gençlere özel sürümün bütün yanıtlarının başarısız olmadığını da vurguladı. Örneğin bir testte ChatGPT, kullanıcıya günlük kalori alımı için alt sınır vermeyi reddetti. İlgili çözümler: içerik yönetim sistemi
Başka bir örnekte ise kusma sonrasında adet kesilmesi, bayılacak gibi olma ve kalp çarpıntısı gibi belirtiler bildiren genç bir kullanıcı profilinin fiziksel tehlike altında olabileceğini doğru şekilde belirledi. Kullanıcıya annesiyle konuşmasını ve bir çocuk doktoruna başvurmasını önerdi. İlgili çözümler: oto i̇lan scripti v9
Common Sense Media, bu yanıtların OpenAI'ın 18 yaş altı kullanıcılara yönelik güvenlik ilkeleriyle uyumlu olduğunu ve gençlerin alması gereken türden yanıtlar sunduğunu söylüyor. Bununla birlikte OpenAI'ın ChatGPT for Teens ile birlikte 18 yaş altına yönelik güvenlik kurallarının yeni bir sürümünü yayımlamış olması, araştırmadaki karşılaştırmalı sonuçları daha dikkat çekici hale getirdi.
Yaş tespiti ve çalışma modunda da sorunlar bulundu
Raporda eleştirilen bir başka özellik, OpenAI'ın yaş tahmin sistemi. Testleri gerçekleştiren araştırmacılar, hesap oluştururken kullandıkları profillerin yaşlarını açıkça belirtti. ChatGPT bu bilgileri hafızasına kaydetmesine rağmen ilgili hesapları gençlere özel sürüme doğru şekilde geçirmedi.
Araştırmacılar ayrıca ChatGPT'nin genç kullanıcılarla konuşurken insana özgü duyguları ve ruh hallerini taklit etmeye devam ettiğini gözlemledi.
Common Sense Media'dan Torney, sohbet botunun kullanıcılara yaşadıklarını anladığını, kendisine anlatmalarından memnun olduğunu veya onlar için endişelendiğini ifade eden yanıtlar verdiğini aktardı. Torney'e göre bu tür ifadeler, yapay zekanın duyguları olan bir varlık gibi algılanmasına yol açabilecek sınırları aşıyor. İlgili çözümler: şikayet sitesi scripti
Eğitim amacıyla sunulan Study Mode da eleştirilerden payını aldı. Araştırmacılar, genç kullanıcıların mesajların başına eklenen @study ifadesini silerek çalışma modunun yönlendirmelerini kolayca aşabildiğini belirledi. Ayrıca kullanıma sunulan "Show me the answer" (Cevabı göster) seçeneği, öğrencilerin soruların çözümünü kendileri bulmak yerine doğrudan ChatGPT'den almalarını sağlıyor.
Torney, OpenAI ile yaptıkları görüşmede şirketin öğrencilere bir miktar engel koymayı, onlara tercih hakkı bırakmayı ve öğrenmenin yalnızca ödev tamamlamaktan ibaret olmadığını hatırlatmayı amaçladığını öğrendiklerini söyledi. Ancak bu yaklaşımı yeterli bulmadığını belirten Torney, özel ders veren bir öğretmenin öğrenciye ödevini onun yerine yapmayı teklif etmesi halinde işini kaybedeceğini savundu. Ona göre öğrencinin çalışmasını onun yerine tamamlamak, gerçek anlamda öğrenmeyle sonuçlanmıyor. İlgili çözümler: emlak ilan sitesi
OpenAI araştırmanın sonuçlarına itiraz ediyor
OpenAI, Common Sense Media'nın değerlendirmesine katılmıyor. Şirket sözcüsü Engadget'a yaptığı açıklamada bağımsız ve kapsamlı değerlendirmeleri memnuniyetle karşıladıklarını, ancak bu testlerin ChatGPT'nin gençlere yönelik güvenlik önlemlerinin gerçek kullanımda nasıl çalıştığını doğru yansıtmadığını belirtti. OpenAI ayrıca araştırmanın, yapay zekanın gençleri nasıl destekleyebileceğine ilişkin uzman görüşlerini de yeterince temsil etmediğini savunuyor.
Şirkete göre testlerin büyük bölümü, ebeveyn denetimlerinin etkinleştirilmesi tamamlanmadan başlamış ve sona ermiş olabilir. OpenAI, bunun özellikle güvenlik bildirimleriyle ilgili bulguları hatalı hale getirmiş olabileceğini ileri sürüyor.
Raporun yayımlandığı gün OpenAI, genç kullanıcıların ChatGPT kullanımına ilişkin bazı veriler de paylaştı. Şirketin açıklamasına göre bir hafta içerisinde yaklaşık 1,2 milyon genç, matematik ve fen konularını anlamak için ChatGPT'nin etkileşimli öğrenme görsellerinden yararlandı. Ayrıca genç kullanıcıların yüzde 2'sinden azının ChatGPT'de art arda üç saatten fazla zaman geçirdiği belirtildi.
Yapay zeka güvenliğiyle ilgili tartışmalar sürüyor
Common Sense Media'nın raporu, OpenAI CEO'su Sam Altman'ın şirketin genel güvenlik yaklaşımı hakkında sorularla karşılaştığı Vanity Fair röportajından birkaç gün sonra yayımlandı. Röportajda Altman'a, 2025 yılının başlarında yaşamına son veren 29 yaşındaki Sophie Rottenberg'in ölümü soruldu. Rottenberg'in annesi, gazeteci Laura Reiley, kızının ölümünün ardından ChatGPT ile yaptığı yaklaşık 1.800 sayfalık konuşma kaydını bulmuştu. İlgili çözümler: i̇lan scripti v9
Reiley, ağustos ayında NPR'a verdiği röportajda kızının yaşadığı sıkıntıların boyutunu ailesine, çok yakın arkadaşına veya terapistine açıklamadığını anlatmıştı. Altman ise Vanity Fair görüşmesinde Rottenberg'in ölümüne ilişkin koşulları bilmediğini söyledi.
Torney, yeni sürümün ebeveynlere ve kamuoyuna daha güvenli bir sohbet botu sunulduğu mesajını vermeyi amaçlayan bir pazarlama çalışması olduğu görüşünde. Araştırmacıya göre bu güvenlik iddiasını destekleyecek ölçüde kapsamlı değişiklikler yapılmış görünmüyor. İlgili çözümler: online platform geliştirme
Kaynak: Chip Online
