Ekip araştırma projesi · 2026
Adillik müdahaleleri ve model açıklamaları
Adillik müdahalelerinin kararları ve öznitelik katkılarını nasıl değiştirdiğini anlamak için tahmin skorlarının ötesine bakan bir çalışma.
Kavramsal görsel; deneysel bir sonuç değildir.
Bireysel katkı
Rolüm
Çalışmalarım adillik ölçütlerinin uygulanmasını, yeniden ağırlıklandırmayı, görselleştirmeyi ve açıklanabilirlik analizini kapsadı. Bu katkılar, model davranışı ve karar düzeyindeki müdahaleler üzerine yürütülen ortak bir çalışmanın parçasıydı.
Rapordaki katkı beyanıAraştırma sorusu
Daha adil tahminler, bir modelin farklı bir temsil öğrendiği anlamına gelmek zorunda değildir. Bu proje, söz konusu ayrımı Adult Census Income veri kümesi üzerinde inceler ve grup adilliği ölçümlerini yerel ve küresel açıklamalarla ilişkilendirir.
Yöntem
Ekip, lojistik regresyon ve rastgele orman modellerini karşılaştırdı; yeniden ağırlıklandırma (reweighing) ve eşik ayarlamasını iki farklı müdahale noktası olarak kullandı. Demografik eşitlik (demographic parity) ve fırsat eşitliği (equal opportunity) sonuçları değerlendirir; SHAP ve LIME ise bu sonuçların ardındaki örüntüleri incelemeye yardımcı olur. Açıklama Adilliği Farkı (Explanation Fairness Gap) ise öznitelik katkılarını cinsiyet grupları arasında karşılaştırır.
Bulgular
Raporlar, model davranışındaki değişiklikleri karar kuralındaki değişikliklerden ayırır. Yeniden ağırlıklandırma eğitilen modelin kendisini etkilerken eşik ayarlaması modelin çıktısı üzerinde işler. Açıklamaları adillik ölçümleriyle birlikte okumak bu farkı görünür kılar.
Sınırlılıklar
Bu, tek bir kıyaslama veri kümesi üzerinde yürütülmüş bir ders araştırma projesidir; bir sistemin evrensel olarak adil olduğuna dair bir kanıt değildir. Adillik; seçilen ölçüte, grup tanımına ve göreve bağlıdır. Deney düzeneği, bulgular ve sınırlılıklar aşağıdaki iki raporda yer alır.
Sıradaki araştırma
Difüzyon transformer’larında koşullandırma