How it’s built — Explainability

방법

Tabs: 1 Feature Importance · 2 Partial Dependence · 3 Shapley Values · 4 Counterfactual Explanations
MLP: 8→16 tanh→1, Adam, 220 epochs, L2=0.001. Tree: depth 6, minimum leaf 12.
순열: 평가 MSE 차이, 2–20회. PDP: 25개 좌표, 평가 표본 전체 평균, ICE 50개.
Shapley: 기준 20행 × 256조합, 정확한 가중합. 근사: 조합 예산 16–256, 무작위 순서 경로 평균.
반사실: 고정 입력 보존, 관측 범위 안 후보 3,000개와 학습 배합, 정규화 L1 최소 후보와 좌표 개선.
그림 직접 조작(v1.1): Feature Importance 막대를 누르면 그 입력을 학습 평균으로 고정하고 같은 설정으로 다시 학습(drop-column)한다. Partial Dependence 세로선은 격자 25점에서 PDP와 ICE 범위·표준편차를 읽는다. Shapley 막대를 끄면 그 입력을 20개 기준 배합 값으로 바꾼 예측 평균 v(S)를 기준값+φ 합과 비교한다. Counterfactual 막대를 누르면 바꾼 입력을 원래 값으로 되돌린 배합을 다시 예측한다.
학습 여부: 브라우저에서 직접 학습. 사전 학습 가중치 없음.
소프트웨어: 자체 JavaScript v1.1, KaTeX 0.16.11(MIT, 수식 표시만).
본문 작성 보조: OpenAI Codex. 본문은 고정 텍스트이며 실행 중 LLM 호출은 없다.
수식 표시 파일·woff2 글꼴은 폴더에 포함한다. 실행 중 외부 리소스를 요청하지 않는다.

원본 데이터의 출력값은 실제 관측값이며 모델 예측은 브라우저에서 새로 계산한다.
분할: 시드 고정 60% 학습·20% 보정·20% 평가. 표준화는 학습 데이터에만 맞춘다.
사용자 입력 저장: 없음. 표시 설정만 기기에 저장한다.
Concrete Compressive Strength: 1,030행 전체, Yeh (1998), UCI, CC BY 4.0. XLS를 수치 JSON으로 변환했다.
원본의 완전 중복 25행을 유지했다. 성능 수치는 무작위 행 분할 기준이며 새 배합군에 대한 검증이 아니다.

기본 MLP: 평가 206행 RMSE 5.6454 MPa, R² 0.8929. 학습 평균 기준선 RMSE 17.2625 MPa.
선형 모델의 정확한 Shapley 이론값·기여 합 검사 통과. 같은 트리의 scikit-learn 1.8.0 PDP·ICE·MSE 대조: 최대 차이 2.0×10⁻¹³ 이하.