shap

Model interpretability and explainability using SHAP (SHapley Additive exPlanations). Use this skill when explaining machine learning model predictions, computing feature importance, generating SHAP plots (waterfall, beeswarm, bar, scatter, force, heatmap), debugging models, analyzing model bias or fairness, comparing models, or implementing explainable AI. Works with tree-based models (XGBoost, LightGBM, Random Forest), deep learning (TensorFlow, PyTorch), linear models, and any black-box model.

1. Przygotuj wytrenowany model uczenia maszynowego (XGBoost, LightGBM, Random Forest, TensorFlow, PyTorch lub inny typ) oraz dane treningowe lub testowe, na których chcesz obliczyć wartości SHAP.

2. Wybierz odpowiedni typ eksplainera na podstawie architektury modelu — dla modeli drzewiastych użyj TreeExplainer, dla modeli głębokich użyj DeepExplainer, dla modeli liniowych użyj LinearExplainer, a dla czarnoskrzynkowych użyj KernelExplainer.

3. Oblicz wartości SHAP dla wybranego zestawu danych, przekazując model i dane do wybranego eksplainera — otrzymasz wartości wskazujące wpływ każdej cechy na predykcję.

4. Wygeneruj wizualizacje SHAP do analizy wyników — użyj waterfall plot do wyjaśnienia pojedynczej predykcji, beeswarm plot do zobaczenia rozkładu wpływu cech, bar plot do porównania średniego wpływu cech, lub force plot do interaktywnego badania predykcji.

5. Analizuj wyniki pod kątem bias i sprawiedliwości modelu — sprawdź, czy model nie faworyzuje pewnych grup lub cech w sposób niezamierzony, oraz porównaj wartości SHAP między różnymi segmentami danych.

6. Implementuj wyjaśnienia w produkcji, integrując obliczenia SHAP z aplikacją — możesz tworzyć dashboardy interpretacyjne, dodawać wyjaśnienia do API modelu lub dokumentować decyzje modelu dla celów audytu i compliance.