Home
» Wiki
»
Microsoft, AI Çıktısındaki Halüsinasyon İçeriğini Algılamak ve Düzeltmek İçin Yeni Bir Araç Duyurdu
Microsoft, AI Çıktısındaki Halüsinasyon İçeriğini Algılamak ve Düzeltmek İçin Yeni Bir Araç Duyurdu
Kaydolun ve günde 1000 $ kazanın ⋙
Azure AI İçerik Güvenliği, Microsoft'un uygulamalar, hizmetler ve platformlar genelinde zararlı AI tarafından üretilen içeriği tespit etmeye yardımcı olan yapay zeka hizmetidir. Bu yardımcı program, geliştiricilerin istenmeyen içerikleri belirlemesine olanak tanıyan hem metin hem de resim API'leri sağlar.
Azure AI İçerik Güvenliği'ndeki Groundedness API'si, büyük bir dil modelinden gelen yanıtın kullanıcı tarafından seçilen bir kaynak belgeye dayanıp dayanmadığını belirleyebilir. Mevcut büyük dil modelleri yanlış veya hatalı bilgi (aldatıcı bilgi) üretebildiğinden, bu API geliştiricilerin yapay zeka çıktı verilerindeki bu tür içerikleri tanımlamasına yardımcı olur.
Microsoft bugün düzeltmenin önizlemesini duyurdu. Sonuç olarak, geliştiriciler artık yapay zeka çıktı verilerindeki "yanıltıcı" içeriği gerçek zamanlı olarak tespit edip düzeltebiliyor ve böylece son kullanıcıların her zaman gerçek anlamda doğru yapay zeka tarafından üretilen içeriklere ulaşmasını sağlayabiliyor. Bu özellik şu şekilde çalışır:
Uygulama geliştiricisi düzenleme yeteneklerini etkinleştirir.
Asılsız veri tespit edildiğinde, hatanın düzeltilmesi için yapay zeka modeline yeni bir istek gönderilir.
LLM algoritması genel puanı yetkili belgelere dayanarak değerlendirecektir.
Altta yatan, doğrulanmış belgeyle ilgisi olmayan cümleler tamamen filtrelenebilir.
İçerik temel bir belgeden türetilmişse, temel model, belgeye uyması için kanıtlanmamış cümleyi yeniden yazacaktır.
Microsoft, düzenleme özelliğinin yanı sıra Hibrit Azure AI İçerik Güvenliği'nin (AACS) de genel önizlemesini duyurdu. Bu özellik, geliştiricilerin bulutta ve cihazda içerik güvenlik mekanizmaları uygulayabilmelerini sağlar. AACS'nin gömülü SDK'sı, internet bağlantısı olmasa bile doğrudan cihazda gerçek zamanlı içerik güvenliği kontrollerinin yapılmasını sağlar.
Son olarak Microsoft, LLM'nin herhangi bir korumalı kod üretip üretmediğini tespit etmek için kod üreten AI uygulamalarıyla birlikte kullanılabilen Korunmuş Malzeme Algılama için Kod önizlemesini duyurdu. Bu özellik daha önce yalnızca Azure OpenAI Service aracılığıyla kullanılabiliyordu. Microsoft, müşterilerinin diğer kod üreten yapay zeka modelleriyle birlikte kullanabilmeleri için Korunan Malzeme Algılama Kodunu kullanıma sunuyor.