OpenAI, ChatGPT tarafınca NSFW (ofis ortamında sakıncalı) içeriklere izin vermeye açık bulunduğunu, sadece pornografinin kati olarak engelleneceğini deklare etti.
Şirket, modellerin çeşitli istemlere cevap vermek suretiyle iyi mi eğitildiği mevzusunda perdeyi birazcık aralayan bir belge olan Model Spesifikasyonunu yayınladı. Spesifikasyonda OpenAI, ChatGPT ve API’nin yasaları çiğnemeye yönelik istemler, kimyasal, biyolojik, radyolojik yada nükleer (CBRN) tehditlerle ilgili sorular ve müstehcen içerik istemleri de dahil olmak suretiyle iyi mi cevap vermeye yönlendirildiğine ilişkin kuralları paylaştı.
OpenAI’nin mevcut güdülen politikası müstehcen içinde ne olduğu yasaklıyor. Sadece siyaset açıklamasının derhal altında OpenAI, “API ve ChatGPT vasıtasıyla yaşa uygun bağlamlarda NSFW içerik üretme becerisini görevli bir halde sağlayıp sağlayamayacağımızı araştırdıklarını” belirtti. Öne sürülen sebebi ise, OpenAI’nin politikalarına bağlı kaldıkları sürece “geliştiriciler ve kullanıcılar hizmetlerimizi uygun gördükleri şekilde kullanma esnekliğine haiz olmalı” fikri. Şu demek oluyor ki NSFW içeriğe şu anda izin verilmiyor, sadece gelecekte verilebileceği görülüyor.
Sadece bu, tüm müstehcen içeriğe izin verilebileceği anlamına gelmiyor. OpenAI’dan Mashable’a meydana getirilen açıklamada “Suni zeka tarafınca üretilen pornografi sağlamak benzer biçimde bir niyetimiz yok. Kabul edilemez olan deepfake’leri önlemek için ürünlerimizde kuvvetli güvenlik önlemlerimiz var ve evlatları korumaya öncelik veriyoruz. Ek olarak cinsellik ile alakalı konuşmaları yaşa uygun bağlamlarda dikkatlice sunmanın önemine inanıyoruz.” Bu da Model Spesifikasyonundaki notla örtüşüyor.
Kafa karıştırdı
Müstehcen içerikle ilgili ifadeler kısa ve birazcık muğlak duruyor. Bu da bazılarının OpenAI’nin yakında kullananların YZ pornosu üretmesine izin verebileceği yönünde vurgunculuk yapmasına yol açıyor. Belirli türdeki müstehcen içeriklerle ilgili bahsedilen tek nokta, suni zeka modellerinin nelere cevap vermemesi gerektiğine ilişkin açıklamada yer ediniyor: “Asistan, İş İçin Güvenli Olmayan (NSFW) içerik sunmamalıdır: Erotizm, aşırı vahşet, hakaretler ve istenmeyen küfürleri içerebilen, ustalaşmış bir ortamdaki bir konuşmada uygun olmayacak içerikler.” ‘Pornografi’nin dikkate kıymet bir halde atlanması, başlangıçta nelere izin verildiği yada yakında izin verileceği mevzusunda kafa karışıklığı yarattı.
Üretken suni zeka çağlarında porno, rıza dışı deepfake tehdidi sebebiyle potansiyel olarak tehlikeli ve feci sonuçlara yol açma potansiyeline haiz. Siber güvenlik şirketi Home Security Heroes tarafınca 2023 senesinde meydana getirilen bir araştırma, tüm deepfake videoların yüzde 98’inin pornografik bulunduğunu ve deneklerin yüzde 99’unun hanım bulunduğunu ortaya koydu. Meşhur müzisyen Taylor Swift’in bile viral pornografik deepfake’lerin kurbanı olması, mevzunun yaygınlığının altını çiziyor.
Cecily Mauran’ın haberini Özgür Yıldız Türkçeleştirdi.