OpenAI, 29 Mart'ta yapay zekayı kullanarak sadece 15 saniyelik kısa kayıtlara dayalı sesler oluşturan ve metin okuyabilen Voice Engine yazılımını tanıttı. Sadece İngilizce kullanılan kayıtlarda bile yabancı dillerdeki konuşmaları yeniden üretebiliyor.
Voice Engine, 2022'den beri OpenAI tarafından geliştiriliyor ve 2023'ün sonlarında bir grup müşteriyle test edildi. Yazılım, okumayı destekleme, farklı diller arasında içerik çevirme ve konuşma yeteneğini kaybetmiş kişiler için sesler oluşturma yeteneğini gösterdi.

Ancak OpenAI, özellikle ABD başkanlık seçimleri bağlamında ses taklidi teknolojisinin potansiyel risklerine de vurgu yaptı. Bu, erişimi sınırlamaya ve bu teknolojiyi yaygın olarak kullanıma sunmamaya karar vermelerinin nedenlerinden biridir.
ChatGPT'nin sahibi olan şirkete göre, Voice Engine duyurusunun amacı, yöneticileri ve halkı yapay zeka kullanan dolandırıcılıklara karşı daha dikkatli olmaya teşvik etmek. Geliştiriciler ayrıca suçluların ses taklit eden yazılımları kullanarak kişisel bilgileri çalabilecekleri veya banka güvenlik sistemlerine girebilecekleri konusunda uyarıyor.
OpenAI, "Bu teknolojinin nereye gittiğini, yaygın olarak yayınlayıp yayınlamamamıza bakılmaksızın, insanların anlamaları önemli." dedi.

Yapay zeka kullanan ses düzenleme teknolojisi, Ocak ayında ABD Başkanı Joe Biden'ın "New Hampshire Demokrat ön seçimine katılmayın" çağrısı yapan sesini taklit eden bir kaydın sosyal medyada viral olmasının ardından dikkat çekti.
Ses dolandırıcılığını tespit etme konusunda uzmanlaşmış bir şirket olan Pindrop Security, daha sonra kaydı analiz etti ve bunun, 20'den fazla dilde ses üreten yapay zeka yazılımı geliştiren bir girişim olan ElevenLabs'ın teknolojisini kullanan bir deepfake olduğu sonucuna vardı.
Fortune dergisine göre, Bay Biden'ın deepfake sesi birçok uzman ve ABD seçim yetkilileri arasında endişeye yol açtı ve bunu "yapay zekayla desteklenen seçimlere müdahale girişimi" olarak nitelendirdi. Bazı değerlendirmeler, sesli deepfake'lerin yayılmasının kolay olmasının yanı sıra kötü niyetli kişilerin bu teknolojiyi seçim sonuçlarını etkilemek ve seçmenleri sandığa gitmekten caydırmak için kullanma riskinin de bulunduğunu gösteriyor.