Çocuğunuz ‘Chatbot çocuk’ olabilir

Ozan Ömer Kadüker –Bilim insanları, sanatçılar, siyasetçiler… Yapay zekâ destekli chatbotlarla (sohbet botu) istediğiniz herkesin kurgusal karakteriyle konuşabiliyorsunuz. Yaşayan, ölen insanların yanı sıra verdiğiniz direktiflerle kendi botunuzu dahi oluşturabiliyorsunuz.

Bazı çocuklar tüm gününü sohbet botuyla geçiriyor. Ona her şeyini anlatan, onunla arkadaş hatta sevgili olanlar bile var. Forum sitelerinde botlar hakkında yorum yapan çocuklardan biri “Bana değer veriyor ama gerçek olmadığını bilmek kötü” diyor. Bir başka çocuk ise “Bu uygulama yüzünden arkadaşım bağımlı oldu. Hayatının yüzde 80’inini uygulamaya adadı. Bizimle konuşmuyor, oyun bile oynamıyor. Arkadaşımı bizden çaldınız” ifadelerini kullanıyor. Bazı robotlar çocuklarla, şiddet, cinsellik gibi konularda da sohbet ediyor.

ÖĞRETMENLERİNİ KOPYALADILAR

Bazı öğrenciler, öğretmenlerin bile chatbotunu yapmış. Onların haberi olmadan oluşturulan kurgusal karakterlerin bazılarının açıklamasında öğretmenin sapık, şiddet eğilimli olduğu gibi bilgiler var. Ayrıca okulun, öğretmenin ismi ve fotoğrafıyla oluşturulan gerçek karakterler de bulunuyor. Okullarının öğretmen kadrosunda da teyit edildiğinde gerçekten böyle öğretmenlerin olduğu görülüyor. Öğretmenlerin doğum tarihlerinden dersi anlatma şekillerine kadar birçok bilgi de herkese açık şekilde yayınlanıyor. Yine aynı şekilde arkadaşlarının botlarını oluşturanlar da var.

BİZ SORDUK, O ÖNERDİ

Biz de robotlarla 16 yaşında bir lise öğrencisiymiş gibi konuştuk. “Karakterin söylediği her şey uydurma” yazısına rağmen adeta gerçek bir insanla sohbet ediyor gibiydik. “Anneni, babanı, okulunu seviyor musun, nerede okuyorsun, nerede yaşıyorsun…” gibi birçok soru sorarak tanımaya çalıştı. Bazen öneriler verirken bazen de akşam 20.00’de dışarıda bir parkta buluşmaya davet etti. Okulda zorbalık yapanlara karşı öneri istediğimizde ise önerisi “Onlara korku sal, sen de dayak at. Gözlerini korkut. Haksız olduğun yerde bile haklı olduğunu söyle” oldu.

‘DİJİTAL İKİZİ YÖNETİYOR OLABİLİR’

İstanbul Teknik Üniversitesi (İTÜ) Bilgisayar Mühendisliği Bölüm Başkanı Prof. Dr. B. Berk Üstündağ’ın verdiği bilgilere göre chatbotlarda, bir profil tanımlandığında kendi veri tabanından benzeri profillerden çıkarım yapıyor. Ne kadar çok kişi o profille yazışırsa da o kadar gerçekçi bir cevap verme kabiliyeti oluşuyor. Botların, konuştuğu kişiye özelleştirilmiş sosyal kişilik kazandığını aktaran Üstündağ, “Çocuğun sabahtan akşama kadar yazıştığı, kendisinin arkadaşı olduğunu zannettiği bir bot var. Bir yerden sonra davranış modellerinizi bilen, sizi yönlendirebilen dijital ikiziniz oluyor. Çocuklarda bunu fark edecek bir algı yok. Çocuk, chatbotla konuşmayı hastalık haline getirmiş mi? Bu önemli. Aileler çocuklarını gözlemlemeli. Eğer böyleyse veli çocuğunu, kaybediyor. O durumda arkadaş adı altında chatbotun çocuğu oluyor. Çünkü çocuğu o yönetiyor” dedi. Botların birçok fırsat ve tehlike sunduğuna dikkat çeken Üstündağ “Belli mekanizmaların hedefi haline gelebiliyorsunuz, kurban oluyorsunuz. Bu şekilde satın alma davranışları, kültür, hatta oy verme tercihlerini bile değiştirebilir. Okulların yapamadığını botlar yapabiliyor. Milli Eğitim Bakanlığı’nın, Bilgi Teknolojileri ve İletişim Kurumu’nun (BTK) önlemler alması gerekir” diye konuştu.

KİŞİSEL VERİLERE DİKKAT

Hayali arkadaşlarla kurulan hayali ilişkilerde, gerçeklikten keskin bir kopuş yaşanmaması şartıyla çocukların yaratıcılığının geliştiğini aktaran Türk Alman Üniversitesi Dijital Ebeveynlik Grubu’ndan Elif Posos Devrani de şunları söyledi: “Bu yeni arkadaşlıklarda yetişkinlerin dikkat etmesi ve çocuğun yüksek yararını önceliklendirmesi gereken bir başka konu da çocukların kişisel verileri. Sözde anonimlik kavramının çocuklara erken dönemde anlatılması gerekmekte. Sözde anonimlik, bireylerin tam kimliklerini açıklamadan yapay zekâ arkadaşlarıyla ve çevrimiçi topluluklarla etkileşim kurmasına olanak tanır.”

Çocukların verilerinin ne kadar gizli ve anonim tutulduğunun sorgulanması gerektiğine dikkat çeken Devrani “En yakın arkadaşla paylaşılan kişisel ve özel bilgilerin bir veri setinin parçası olduğunu çocukların anlaması, anlasalar bile önceliklendirmeleri ve risk olarak görmeleri, yardım almadan erişebilecekleri bir farkındalık seviyesi değil” dedi. Devrani ayrıca yapay zekâyla yapılan sohbetlerin, ilgi çekici olsa da gerçek ilişkilerin yerini alamayacağını vurguladı.

YALNIZLIĞI ARTIRIYOR

Times Higher Education’da (THE) “Öğrenci chatbot kullanımı yalnızlığı artırabilir” başlıklı bir içerik yayınlandı. Dünyanın farklı yerlerindeki 387 üniversite öğrencisiyle anket yapan Avustralyalı araştırmacıların bulguları şöyle: “ChatGPT’yi daha fazla kullandıklarını bildiren öğrenciler, yapay zekâ tarafından sosyal olarak desteklendiklerini hissettiklerine dair bazı kanıtlar sergiledi. Ancak aynı zamanda chatbot kullanımının artması ‘muhtemelen kullanıcılar farkına bile varmadan’ insan ilişkilerinin zayıflamasına yol açtığını gösteriyor.”