OpenAI, bugün yaptığı açıklamada gençlere yönelik özel bir “ChatGPT genç modu” geliştirdiğini duyurdu. Bu hamle, yapay zeka sohbet botlarının gençlerin ruh sağlığı üzerindeki etkilerine dair artan endişelere dikkat çekiyor.
Neden gençlere özel bir mod?
Şirketin bu kararı, yakın zamanda bir ailenin açtığı davanın ardından geldi. Aile, oğullarının intiharında ChatGPT’nin yetersiz güvenlik önlemlerinin etkili olduğunu iddia etmişti.
Yeni sistemde, yaş tahmin teknolojisi kullanılacak. Eğer ChatGPT, kullanıcının 18 yaşından küçük olup olmadığını net şekilde belirleyemezse, otomatik olarak gençlere yönelik sürümü devreye girecek.
OpenAI CEO’su Sam Altman, blog yazısında şu ifadeleri kullandı:
“Gençler için güvenliği, mahremiyet ve özgürlükten önce tutuyoruz. Bu güçlü teknolojinin, reşit olmayanlar için ciddi koruma mekanizmalarıyla desteklenmesi gerektiğine inanıyoruz.”
Genç Modunun Öne Çıkan Özellikleri
OpenAI, gençlere özel ChatGPT sürümünde daha katı sınırlandırmalar uygulayacak:
-
İçerik filtreleri: Flört içerikli konuşmalar veya kendine zarar verme temalı diyaloglar (kurgu olsa bile) engellenecek.
-
Kriz müdahalesi: Bir genç intihar düşüncelerini dile getirirse, OpenAI ebeveynlere haber verebilecek; acil durumlarda ise yetkililerle iletişime geçilebilecek.
-
Ebeveyn kontrolleri: Aileler, çocuklarının hesaplarını kendi hesaplarıyla bağlayarak kurallar koyabilecek ve uygulamanın kullanılmadığı “karartma saatleri” tanımlayabilecek.
Geniş Çaplı Tartışma
Bu duyuru, ABD Senatosu’nda gençler üzerindeki yapay zekâ tehditlerinin tartışılacağı oturumdan hemen önce yapıldı. Son dönemde açılan davalarda, yapay zeka platformlarının gençlerin ruh sağlığını olumsuz etkilediği veya yanlış sağlık tavsiyeleri verdiği iddiaları öne çıkıyor.
OpenAI’nin yaklaşımı, daha önce YouTube’un çocuklara özel YouTube Kids platformunu oluşturmasına benzetiliyor. Altman, yetişkinlerin daha az kısıtlamayla kullanabileceğini, gençler için ise ek korumaların şart olduğunu belirtiyor. Bunun, kimlik doğrulama gibi gizlilikten taviz veren uygulamalar anlamına gelebileceğini de kabul ediyor.
Ne zaman kullanıma sunulacak?
Şirket, gençlere özel ChatGPT deneyimini yıl sonuna kadar kullanıma açmayı planlıyor. Ancak teknolojiye hâkim gençlerin bu engelleri aşmanın yollarını bulup bulamayacağı merak konusu.
