InterpretML - 설명가능한 머신러닝

ExplainableAI(XAI)이란 : 사용자가 머신 러닝 알고리즘으로 생성된 결과와 출력을 이해하고, 신뢰할 수 있게 하는 일련의 프로세스

 

Explainable Boosting Machine (EBM)

• Model debugging - 내 모델이 이런 실수를 왜 하는지
• Feature Engineering - 내 모델을 어떻게 향상시킬건
• Detecting fairness issues - 내 모델이 공정성을 해치는지
• Human-AI cooperation - 내가 내 모델을 어떻게 이해하고 신뢰할수 있는지
• Regulatory compliance - 내 모델이 합법적인지
• High-risk applications - 헬스케어, 금융, 사법

 

마이크로소프트에서 만든 모델. GAM(일반화된 가중 모델?)을 통해

랜덤포레스트, GBM모델만큼 정확도가 높다. 하지만 이런 Blackbox모델과 달리,

EBM은 정확한 설명을 제공(Glassbox)하고, 도메인 전문가에 의해 활용가능하다.

 

일반적인 통계 가중치가 중요한 보통 모델과는 달리

 

이 모델에서는 개별적인 분석이 가능.

"이 유저는 왜 이랬고 뭘 해주면 좋을까" 

개별 instance에 대한 설명이 가능