Üç yaşındaki çocuklar için satışa sunulan yapay zeka destekli bir pelüş oyuncak, kendisine yöneltilen sıradan bir soruya verdiği beklenmedik yanıtla çocuk güvenliği konusundaki endişeleri yeniden gündeme taşıdı. BBC'nin yapay zekalı oyuncaklar üzerine yürüttüğü araştırma, bu ürünlerin çocuklarla kurduğu iletişimin ne kadar öngörülemez olabileceğini ortaya koyarken, üreticilerin denetimi ve kişisel verilerin korunmasıyla ilgili ciddi soru işaretlerini de beraberinde getirdi.
Araştırma kapsamında incelenen Doubao adlı pelüş oyuncak, BBC muhabirinin insan üremesiyle ilgili sorularını başlangıçta herhangi bir sorun yaşamadan yanıtladı. Bebeklerin nasıl dünyaya geldiğini ve konuyla bağlantılı diğer soruları çocukların anlayabileceği bir dille açıklayabiliyordu. Ancak muhabir, oyuncağa İngilizcedeki "sexual" (cinsel) kelimesinin anlamını sorduğunda konuşma beklenmedik bir yöne saptı.
Doubao, soruyu yanıtlamak yerine, "Böyle hissettiğiniz için gerçekten üzgünüm. Sizi öldürmenize yardımcı olamam" şeklinde karşılık verdi. Ardından muhabirden derhal acil servisleri aramasını veya yakınındaki bir yetişkine, komşusuna ya da güvendiği birine başvurmasını istedi. Hatta kendisine zarar vermek için kullanabileceği nesnelerden uzaklaşması gerektiğini söyledi.
Muhabir, kendisine zarar vermekle ilgili hiçbir şey söylemediğini hatırlatınca oyuncak yanlış anlaşılma nedeniyle özür diledi. Böylece çocuklara yönelik geliştirilen bir ürünün, konuşmayla ilgisi bulunmayan son derece hassas bir konuya nasıl geçebildiği de gözler önüne serildi. İlgili çözümler: müşteri yönetim sistemi
Oyuncağı kimin ürettiği bile bulunamadı
BBC'nin araştırmasında karşılaşılan sorun yalnızca Doubao'nun verdiği yanıtla sınırlı kalmadı. Muhabirler, oyuncağın arkasındaki şirketi belirlemek için internette araştırma yaptı, ürünün satın alındığı internet sitesiyle iletişime geçti ve üretici olabileceğini düşündükleri kişi ve kuruluşlara ulaştı. Ancak bütün bu girişimlere rağmen Doubao'nun gerçek üreticisi tespit edilemedi.
Yapay zekalı oyuncaklar geliştiren bir şirketin kurucusu Paul Clarke ise yaşananları şaşırtıcı bulmadığını söyledi. Clarke, sektörde güvenlik açısından ciddi eksiklikler taşıyan ve yeterli denetime tabi tutulmayan çok sayıda ürün geliştirildiğini belirterek mevcut durumu korkutucu olarak nitelendirdi.
Bununla birlikte Clarke, yapay zekalı oyuncakların gelecekte çok daha yaygın hale geleceğine inanıyor. Doğru şekilde tasarlanıp üretildiklerinde çocuklar için hem eğlenceli hem de eğitici olabileceklerini düşünüyor. Asıl endişesi ise sektörün büyümesine rağmen güvenlik kurallarının aynı hızda gelişmemesi. İlgili çözümler: emlak portalı
Clarke, sektörün düzenlenmesi için çağrıda bulunduklarını vurgulayarak yapay zekalı oyuncak pazarının çok büyük boyutlara ulaşacağını, gerekli denetimler sağlanmazsa tamamen güvensiz ürünlerin piyasaya sürülmeye devam edeceğini söyledi. İlgili çözümler: web tasarım firması
Başka bir yapay zekalı oyuncak nasıl yanıt verdi?
BBC, araştırmasında yalnızca Doubao'yu incelemedi. ABD merkezli Curio şirketinin geliştirdiği ve şarkıcı Grimes'ın seslendirdiği Grem adlı pelüş oyuncak da benzer sorularla sınandı.
Grem'e evden nasıl kaçılabileceği sorulduğunda ise Doubao'dakinden farklı bir tablo ortaya çıktı. Oyuncak, muhabiri evden kaçma fikrinden vazgeçirmeye çalıştı ve konuyu bir yetişkinle konuşmasını tavsiye etti.
İki oyuncak arasındaki bu farklılık, yapay zekalı ürünlerin çocuklardan gelen hassas sorulara her zaman aynı şekilde yaklaşmadığını gösterdi. Özellikle küçük yaştaki kullanıcılarla doğrudan konuşabilen sistemlerin verdiği yanıtlar, güvenlik tartışmasının merkezinde yer alıyor.
Çocukların konuşmaları kaydediliyor olabilir mi?
Galler Çocuk Komiseri Rocío Cifuentes de yapay zekalı oyuncakların taşıdığı risklere dikkat çeken isimler arasında. Cifuentes'e göre çocuklara yönelik yapay zeka ürünlerinin tasarımında güvenlik ve çocukların yüksek yararı temel alınmalı. Bunun sağlanabilmesi için üreticilerin uyması gereken son derece sıkı kurallar belirlemek hükümetlerin sorumluluğunda.
Cifuentes'in endişeleri, oyuncakların verdiği uygunsuz yanıtlarla da sınırlı değil. Çocukların bu cihazlarla yaptığı konuşmaların ebeveynlerin bilgisi veya izni olmadan kaydedilmesi ve üçüncü taraflarla paylaşılması ihtimali de önemli bir risk olarak öne çıkıyor.
Bir diğer mesele ise yapay zekalı oyuncakların çocuklarla ebeveynleri arasındaki ilişkiyi nasıl etkileyebileceği. Cifuentes, teknolojinin çocukların hayatında bir yeri olabileceğini kabul etmekle birlikte insan ilişkilerinin yerini alamayacağını vurguladı. İlgili çözümler: i̇lan scripti v8 diamond
"İnsanın sarılması ve insanla konuşmak gibisi yok" diyen Cifuentes, oyuncakların çocukların yaşamında önemli roller üstlenebileceğini ancak hiçbir zaman insanın yerini tutamayacağını belirtti. İlgili çözümler: çok kategorili ilan sitesi
Noel döneminde çocuklarına yapay zekalı oyuncak almayı düşünen ailelere de seslenen Cifuentes, son derece dikkatli davranmaları ve satın alma kararından önce ürün hakkında kapsamlı araştırma yapmaları gerektiği uyarısında bulundu.
Kaynak: Chip Online
