Azure OpenAI – Abuse Monitoring
Azure OpenAI Hizmeti, hizmetin Davranış Kurallarını veya diğer geçerli ürün koşullarını ihlal edebilecek şekilde kullanılmasını öneren yinelenen içerik ve/veya davranış örneklerini algılar ve azaltır.
- İçerik Sınıflandırması: Sınıflandırıcı modeller, kullanıcı istemlerinde (girdiler) ve tamamlamalarda (çıktılar) zararlı dili ve/veya görüntüleri tespit eder. Sistem, İçerik Gereksinimlerinde tanımlandığı şekilde zarar kategorilerini arar ve İçerik Filtreleme sayfasında daha ayrıntılı olarak açıklandığı şekilde önem seviyelerini atar.
- Kötüye Kullanım Kalıbının Yakalanması: Azure OpenAI Hizmetinin kötüye kullanım izleme özelliği, müşteri kullanım modellerine bakar ve olası kötüye kullanım göstergelerini tespit etmek için algoritmalar ve buluşsal yöntemlerden yararlanır. Tespit edilen modeller, örneğin müşterinin istemlerinde ve tamamlamalarında zararlı içeriğin tespit edilme sıklığını ve ciddiyetini dikkate alır.
- İnsan İncelemesi ve Karar: İstemler ve/veya tamamlamalar, yukarıda açıklandığı gibi içerik sınıflandırması ve kötüye kullanma modeli yakalama yoluyla işaretlendiğinde, yetkili Microsoft çalışanları işaretlenen içeriği değerlendirebilir ve önceden tanımlanmış yönergelere ve politikalara dayalı olarak sınıflandırmayı veya belirlemeyi onaylayabilir veya düzeltebilir. Verilere, ekip yöneticileri tarafından Tam Zamanında (JIT) istek onayı verilen Güvenli Erişim İş İstasyonları (SAW’ler) aracılığıyla yalnızca yetkili Microsoft çalışanları tarafından insan incelemesi için erişilebilir.
- Bildirim ve Eylem: Önceki üç adıma göre kötü amaçlı davranış eşiği onaylandığında, müşteri bu belirleme konusunda e-postayla bilgilendirilir. Şiddetli veya tekrarlanan istismar durumları dışında, müşterilere genellikle istismar edici davranışı açıklama veya düzeltme ve tekrarını önleyecek mekanizmalar uygulama fırsatı verilir. Davranışın ele alınamaması veya yinelenen veya ciddi düzeyde kötüye kullanılması, müşterinin Azure OpenAI kaynaklarına ve/veya özelliklerine erişiminin askıya alınmasına veya sonlandırılmasına neden olabilir.
