Book Meter Reviews

こちらは読書メーターで書かれたレビューとなります。

powered by

• ぶう

  読了日：2021/11/04

  予測モデルの用途は予測と解釈である。シンプルな線形回帰モデルは予測精度はそこそこであるが、解釈性が高い。逆にディープニューラルネットワークを始めとする複雑な機械学習モデルは予測精度を高められる分、解釈性が犠牲となりやすい。つまり予測精度と解釈性はトレードオフの関係にあるのだ。本書では、ブラックボックス化しやすい機械学習モデルを解釈する手法を解説してくれている。紹介されている手法はPFI、PD、ICE、SHAPの4つ。解釈性の高い線形回帰モデルを比較のベースとして解説されており、理解しやすい構成であった。

• Taizo

  読了日：2022/05/12

  機械学習はもともと解釈性を犠牲にして予測性能を高める目的で発展してきた。なのでそもそも「解釈性」というものは相性が悪いものだったりする。するんだけど、ブラックボックスのままじゃあまりにも危険だよねってことで、少しでもその振る舞いを理解する試みが最近活発に。本書はその機械学習の解釈する技術を非常に分かりやすく網羅的に記述している。アルゴリズムによらないPFI、PDP、ICE、SHAPという4つのテクニックを順々に解説。個人的には何よりも理解を促すための実験が非常に秀逸だと感じた。

• yyhhyy

  読了日：2021/12/18

  ブラックボックスの機械学習の特徴量の影響を推察する技術について。なかなかこのテーマで書かれた本がない中、とても貴重。

• PenguinTrainer

  読了日：2024/05/31

  ブラックボックスな機械学習手法の推論結果の寄与度計算方法が紹介された本。 PFI、PD、ICE、SHAPと4つ紹介されているが、計算負荷の問題を除けばSHAPが最も使い勝手が良い方法であるという印象を受けた。他の手法では特定の引数や特定の出力に特化した説明性の付与であった。 CNNにおけるGradCAMやtransformerにおけるattentionでは、ネットワーク構造に制約を受けて適用範囲が狭いのでSHAPを使いこなすのと計算量の削減が適用されたSHAPの活用を進めていきたい。

• しろっこー

  読了日：2022/03/21

  特徴量と予測値の関係を理解する助けとなる指標である, PFI, PD, ICE, SHAPの概説. 誌面のcode割合(Python)が多いためpage数ほど中身はないが最小toy modelと実dataに対する計算を行なっており, 特に最小toy modelの結果は概念理解の助けとなると感じた. 付録では上述の4指標を線形回帰で計算し直したりRでのcode例を記載したりと初学者向けの配慮がなされている.

レビューをもっと見る

(外部サイト)に移動します