Uzmanlar, Platformun Kullanıcıları İçin Önemli Bir Rol Oynuyor OpenAI, 800 milyon haftalık kullanıcıya sahip platformunda nadir görülen durumların, yüz binlerce kişiyi etkileyebileceğini belirtiyor. Şirket, 60 ülkeden 170’in üzerinde ruh sağlığı…
OpenAI, 800 milyon haftalık kullanıcıya sahip platformunda nadir görülen durumların, yüz binlerce kişiyi etkileyebileceğini belirtiyor. Şirket, 60 ülkeden 170’in üzerinde ruh sağlığı uzmanıyla iş birliği yaparak, ChatGPT’nin kullanıcılarına gerçek dünyada profesyonel yardım almaları için rehberlik eden yanıtlar verebilmesini sağlıyor.
OpenAI verilerine göre, kullanıcıların %0,15’i konuşmalarında intihar planı sinyalleri veriyor. Bu sebeple ChatGPT, intihar, sanrılar veya kendine zarar verme riskine işaret eden ifadelerle karşılaştığında güvenli ve empatik bir şekilde yanıt verebilecek şekilde güncellendi. Riskli konuşmalar otomatik olarak daha güvenli modellere yönlendiriliyor.
Dr. Jason Nagata’ya göre, küçük gibi görünen oranlar, milyonlarca kullanıcıya yayıldığında büyük bir sayıya denk geliyor. Bu sebeple yapay zekânın ruh sağlığı desteğine erişimi genişletirken, sınırlamaların da dikkate alınması gerekiyor. Prof. Robin Feldman ise yapay zekânın gerçeklik yanılsaması yaratabileceğine dikkat çekiyor. Ayrıca, şeffaf olmasına rağmen, zihinsel olarak kırılgan bireylerin ekran uyarılarını fark edemeyebileceği konusunda uyarıda bulunuyor.
OpenAI, kullanıcı etkileşimleri nedeniyle açılan davalarla karşı karşıya. Ayrıca, bazı vakalarda yapay zeka sohbetlerinin gerçeklik algısını bulanıklaştırabileceği iddia ediliyor. Şirket, bu tür risklerin farkında olduğunu belirterek güvenlik protokollerini geliştirmeye devam edeceğini vurguluyor.
