Home
» Wiki
»
OpenAI, ChatGPT Tarafından Oluşturulan Metne Filigran Eklemeyi Düşünüyor
OpenAI, ChatGPT Tarafından Oluşturulan Metne Filigran Eklemeyi Düşünüyor
Kaydolun ve günde 1000 $ kazanın ⋙
The Wall Street Journal'ın haberine göre OpenAI, ChatGPT ile üretilen metinlere filigran ekleme sistemi ve filigran tespit aracını yaklaşık bir yıldır hazır bulunduruyor. Ancak şirket, bunu yayınlayıp yayınlamama konusunda kendi içinde tartışıyor. Bir yandan da bu, sorumlu bir davranış gibi görünüyor; Öte yandan şirketin kârlılığına da zarar verebilir.
OpenAI'nin filigranlama yöntemi, modelin önceki kelime ve ifadelerden sonra en olası kelime ve ifadeleri nasıl tahmin edeceğini ayarlayarak tespit edilebilir bir desen oluşturması olarak tanımlanıyor.
Yapay zeka tarafından yazılmış materyali tespit etmenin herhangi bir yolunu sağlamak, öğrencilerini ödevlerini yapmak için yapay zeka kullanmaktan caydırmaya çalışan öğretmenler için potansiyel bir nimettir. Dergi, şirketin filigranın chatbot'un metin çıktısının kalitesini etkilemediğini tespit ettiğini bildiriyor. Dergi, şirketin yaptırdığı bir ankette, "Dünya genelinde insanların yapay zeka tespit araçları fikrini 4:1 oranında desteklediğini" yazdı.
Derginin haberi yayımlamasının ardından, OpenAI bugün TechCrunch tarafından tespit edilen bir blog yazısı güncellemesinde metin filigranının eklenmesi için baskı yaptığını doğruladı. Şirket, yönteminin son derece doğru olduğunu (Dergi tarafından görülen belgelere göre "yüzde 99,9 etkili") ve "parafrazlama gibi sahteciliğe" karşı dayanıklı olduğunu söylüyor. Şirket ayrıca yapay zeka araçlarının ana dili olmayan kişiler için yararlılığı konusunda oluşan damgalanmadan endişe duyduğunu belirtti.
Ancak OpenAI'nin filigran kullanımının ChatGPT kullanıcılarını yabancılaştırabileceğinden endişe ettiği anlaşılıyor. Ankete katılanların yaklaşık %30'u filigran özelliğinin eklenmesi durumunda yazılımı daha az kullanacaklarını söyledi.
Yine de bazı çalışanlar filigran özelliğinin etkili olacağını düşünüyor. Ancak kullanıcıların hayal kırıklığına yanıt olarak Dergi, önerilen test yöntemlerinden bazılarının "kullanıcılar arasında daha az tartışmalı olabileceğini ancak kanıtlanmamış olduğunu" söyledi. Şirket, bugün yayınlanan blog yazısı güncellemesinde meta veri yerleştirmeyi keşfetmenin "erken aşamalarında" olduğunu ve yeni özelliğin ne kadar iyi çalışacağını bilmek için henüz "çok erken" olduğunu, ancak kriptografik olarak imzalandığı için herhangi bir yanlış pozitif sonuç çıkmayacağını söyledi.