Для чого SHAP він використовується? SHAP має багато застосувань для професіоналів з обробки даних. по-перше, це допомагає пояснити прогнози моделей машинного навчання зрозумілим людям способом. Присвоєння значення кожній вхідній функції показує, як і в якій мірі кожна функція вплинула на кінцевий результат передбачення.9 березня 2023 р.
Ми можемо використовувати значення SHAP пояснити окремі передбачення, виділяючи істотні ознаки, які викликали це передбачення. Це може допомогти користувачам зрозуміти рішення моделі та довіряти їм. Резюме моделей. Він може надати глобальний підсумок моделі у формі підсумкового графіка значень SHAP.
Важливість SHAP вимірюється на рівні рядка. Він показує, як функція впливає на прогнозування окремого рядка відносно інших функцій у цьому рядку та середнього результату в наборі даних. Значення має як напрямок, так і величину, але для навчання моделі важливість SHAP представлена в формі абсолютного значення.
Одним з головних недоліків є відсутність інтерпретованості різних алгоритмів, що може призвести до неправильних рішень, прийнятих підприємствами в чутливих до безпеки завданнях [1]. Крім того, значення SHAP забезпечують важливість ознаки та атрибуцію, але безпосередньо не вирішують проблему справедливості [5].
Щоб обчислити значення Шеплі, вам потрібно перенавчити модель машинного навчання 2F рази (де F — кількість функцій). SHAP дозволяє уникнути цього, використовуючи методи апроксимації, що робить його життєздатним для програм, де отримання значень Шеплі було б обчислювально неможливим.
Про Shap….. Shap найбільш відомий трьома основними речами; це геології, автомобільної та залізнич.