細胞生命を駆動する分子プロセスの解明は、生物学研究の基本的な問題である。野心的なプログラムにより、大規模な集団の分子データセットが数多く収集されている。複雑な細胞間相互作用を解読するために、最近の研究では、教師あり機械学習法が注目 ...

Abstract: Deep Learning models are often called ‘Black Box’ models because of the difficulty in providing logical, actionable explanations of their decisions. Attribution methods try to solve this ...

Abstract: Adversarial attacks on explainability models have drastic consequences when explanations are used to understand the reasoning of neural networks in safety critical systems. Path methods are ...

どちらも SHAP（SHapley Additive exPlanations） に基づいた特徴量重要度の解釈手法ですが、背景にあるアイデアが異なります。 Integrated Gradients（積分勾配法）の拡張版。 モデルの勾配（入力に対する出力の変化率）を利用して、特徴量ごとの貢献度を近似します。

x = x.to(device) # get encoding with torch.no_grad(): yhat = MT_model(x) integrated_gradients = IntegratedGradients(MT_model) for outputs in yhat: prediction_score ...