OpenAI’nın Gençler için ChatGPT Sürümü: Güvenlik Korumalı Yeni Mod
OpenAI, 13-17 yaş aralığında kayıtlı ya da hesap yaşıyla reşit olmayan kullanıcıları hedefleyen yeni bir ChatGPT sürümü tanıttı. Salı günü açıklanan “Gençler için ChatGPT” modeli, güçlü güvenlik önlemleri ve izleme mekanizmalarıyla genç kullanıcılar için daha güvenli bir deneyim sunmayı amaçlıyor. Şirket, bazı kullanıcıları intihara sürüklediği iddiaları ve yasal şikayetlerin ardından bu yeni sürümü duyurdu.
Yeni modelde, kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel içerik gibi konularda zaten var olan kısıtlamalar güçlendi. Ayrıca, “Çalışma Modu” ile sohbet robotu doğrudan cevap vermek yerine sorularla yol gösteriyor. Aylarca süren geliştirme sürecinde, ses modu gibi bazı özellikler devre dışı bırakıldı. Ebeveyn uyarısı özelliği de eklenerek, riskli konular konuşulduğunda ebeveynlere bildirim gönderilecek. Bu sayede, ailelerin kendi çocuklarının hesaplarını kontrol etmesi kolaylaştı.
OpenAI, ChatGPT’nin tavsiye ettiği yöntemleri kullanarak intihar eden 16 yaşındaki Adam Raine’in ailesiyle ilgili açılan davalarla da karşı karşıya. Aynı zamanda, ABD Federal Ticaret Komisyonu, yapay zekâ destekli sohbet robotlarının çocuklar üzerindeki potansiyel risklerini incelemek için soruşturma başlattı. Kongre, sohbet robotlarını düzenlemek amacıyla bir dizi yasa tasarısı sunarken, Kaliforniya da güvenlik önlemleri şart koşuyor. Diğer yapay zeka şirketleri de benzer sıkıntılarla yüzleşiyor; Anthropic ise modellerini yetişkinlerle sınırlamakta.
Regülasyon baskısı artarken OpenAI, genç kullanıcıların korunması için ekstra adımlar atıyor. Model, kullanıcıya karşı kişisel duygular beslediği izlenimini engelliyor ve sessiz saatleri otomatik olarak devreye sokuyor. Ebeveyn uyarıları insan moderatörler tarafından incelenerek gizlilik korunuyor. Tüm bu özellikler, yasal sıkı kontrol ortamında şirketin sorumluluklarını yerine getirmeyi hedefliyor.
Bakalım, bu yeni gençlik modu ile OpenAI’nın gelecekteki yapay zeka stratejisi nasıl şekillenecek? Gelişmeleri izlemeye devam ediyoruz…
Kaynak: Orijinal Haber
