主要な知見
  • EU AI Actは説明可能性を「高リスクAIシステム」の必須要件として分類しており、金融、医療、司法分野において意思決定ロジックを説明できないAI導入は法的リスクに直面する[6]
  • SHAP（Shapley値に基づく）は、現在のところ完全な数学的公理保証（局所的正確性、欠損性、一貫性）を持つ唯一の特徴帰属法であり、あらゆるモデルに適用可能[2]
  • Grad-CAMは勾配重み付き特徴マップ可視化を使用して、画像分類モデルの「注目領域」を一目瞭然にする――モデルアーキテクチャの変更や再学習は不要[3]
  • 本記事には2つのGoogle Colabラボが含まれる：テキスト感情分類のSHAP説明と、画像分類のGrad-CAM + SHAPで、ブラウザ上で直接実行可能

1. 「ブラックボックス」問題：AI導入における最大の信頼ボトルネック

ディープラーニングモデルが「このローン申請は却下すべき」「このX線は93%の確率で悪性」「この候補者はこのポジションに適していない」と伝える時、最初の疑問は常に同じである：なぜ？

これがAIの「ブラックボックス」問題である。従来の機械学習モデル（決定木、線形回帰）は明確で追跡可能な意思決定ロジックを持つが、ディープニューラルネットワークの数百万から数十億のパラメータ間の相互作用は、モデルが何を「見て」何を「考えて」いるかを人間が直感的に理解することをほぼ不可能にしている。

これは単なる技術的問題ではない――ビジネスと法的な問題でもある。EU AI Act[6]（2024年に正式発効）はAIシステムをリスクレベルで分類しており、「高リスク」カテゴリ――信用スコアリング、医療診断、司法量刑、人材採用を含む――はシステムの透明性と説明可能性を明確に要求している。違反者は世界売上高の最大3%の罰金に直面する。

マッキンゼーの2024年グローバル調査[14]によると、72%の企業が少なくとも1つの事業機能に生成AIを導入しているが、「説明可能性の欠如」は依然としてAIシステムに対する経営幹部の最大の懸念事項の一つである。Cynthia RudinのNature Machine Intelligenceにおける画期的論文[4]はさらに踏み込み、高リスクの意思決定シナリオでは、ブラックボックスモデルを説明しようとするのではなく、本質的に解釈可能なモデルを使用すべきだと直接的に提唱している。

しかし現実には、多くのタスクにおいてディープラーニングモデルの性能は解釈可能モデルをはるかに上回っている。したがって、説明可能AI（XAI）技術の開発――性能を犠牲にすることなく「ブラックボックスを開く」ことを可能にする技術――は、AIの大規模導入に不可欠なパズルの重要なピースとなる。

2. XAI技術ランドスケープ：事後説明からビルトイン透明性まで

XAI技術は2つの軸に沿って分類できる[7][5]：事後的（Post-hoc）vs.本質的（Intrinsic）、およびモデル非依存（Model-agnostic）vs.モデル固有（Model-specific）。

手法カテゴリ適用性核心原理利点制約
LIME事後的 / モデル非依存任意のモデル局所的摂動 + 線形近似直感的、広く適用可能不安定、ランダム摂動により説明が変化
SHAP事後的 / モデル非依存任意のモデル公理的Shapley値配分数学的保証、大域的 + 局所的計算コストが高い（指数的複雑性の近似）
Grad-CAM事後的 / モデル固有畳み込みニューラルネットワーク勾配重み付き特徴マップ視覚的に直感的、リアルタイムCNNのみ、解像度に制限
Integrated Gradients事後的 / モデル固有微分可能モデルベースラインからの経路積分勾配公理的（完全性 + 感度）ベースライン選択が必要、計算コスト高
Attention可視化本質的 / モデル固有TransformerアーキテクチャAttention重みヒートマップ追加計算不要Attention ≠ 説明[12]
Saliency Maps事後的 / モデル固有微分可能モデル入力勾配の絶対値シンプルで高速ノイズが多い、敵対的攻撃に脆弱
決定木 / ルール本質的浅いモデル木構造の分岐ロジック完全に透明複雑なタスクでは性能不足
線形モデル / GAM本質的浅いモデル直接読み取り可能な特徴係数完全に透明非線形相互作用を捉えられない

Doshi-VelezとKim[8]は2017年に解釈可能性の3段階評価フレームワークを提案した：アプリケーションレベル（ドメイン専門家による評価）、ヒューマンレベル（簡略化タスクのユーザーテスト）、ファンクションレベル（人間を介さない代理指標）。シナリオによって必要な説明の深さは異なる――医療診断にはアプリケーションレベルの詳細な説明が必要かもしれないが、推薦システムにはファンクションレベルの特徴重要度ランキングで十分かもしれない。

注目すべきは、Adebayoら[12]がNeurIPS 2018の研究で、多くのsaliency map手法はモデルパラメータがランダム化された後でも類似の可視化を生成することを発見したことである――これは、それらが入力データの構造的特徴を強調しているだけで、モデルが学習したロジックを真に反映しているわけではない可能性を意味する。Slackら[13]はさらに踏み込み、LIMEとSHAPに対する敵対的攻撃を実演した：説明時には「公平」に見えるが実際の意思決定では差別的な分類器を構築した。

これらの研究が示しているのは：XAIツールは診断の補助であり、免責の盾ではない。XAIの適切な使用には、各手法の仮定、制約、適用範囲を理解することが必要である。

3. テキストAIの説明可能性技術

自然言語処理（NLP）モデル――感情分類から質問応答システムまで――は、人間の言語を処理するという固有の利点により、説明可能性において独自の優位性を持つ：モデルの意思決定に最も影響を与えるテキスト断片を単語レベルまたは文レベルで直接表示できる。

3.1 テキスト向けSHAP

SHAP（SHapley Additive exPlanations）[2]の核心的アイデアは、協力ゲーム理論のShapley値に由来する：モデルの予測を全特徴が「協力」して生み出した「報酬」として扱い、この報酬を各特徴に公平に分配する。テキストの場合、各トークン（単語またはサブワード）が「プレイヤー」となる。

SHAPの数学的基盤は3つの固有の公理保証を提供する：

テキストシナリオでは、SHAPは直感的な可視化を生成する：正の寄与を持つ単語は赤で表示され、負の寄与を持つ単語は青で表示され、「どの単語」がモデルの判断を駆動したかが一目でわかる。

3.2 テキスト向けLIME

LIME（Local Interpretable Model-agnostic Explanations）[1]はより直感的なアプローチを取る：説明対象のサンプル周辺で局所的な摂動（ランダムに一部の単語を削除）を行い、モデルの予測の変化を観察し、単純な線形モデルでこの局所的な挙動を近似する。

LIMEの利点は高速であること、そしてあらゆるモデルに普遍的に適用できることである。しかし欠点も明白で、ランダムサンプリングに依存するため、同じデータポイントに対してLIMEを2回実行すると異なる説明が得られる可能性がある。SHAPにはこの問題がない。Shapley値の解は一意だからである。

3.3 Attention可視化

Transformerアーキテクチャ[11]の自己注意機構は自然にattention重みを生成する――各トークンの他のトークンへの「注意度」である。これらの重みはヒートマップとして直接可視化でき、モデルが特定の単語を処理する際にどの他の単語を「見ていた」かを示す。

ただし注意が必要である：attention重み ≠ 特徴重要度。Adebayoらのsanity check研究[12]とその後の広範な研究により、attentionの分布は言語の統計的構造を反映している場合がある（例：高頻度語は常により多くのattentionを受ける）ことが示されている。したがって、attention可視化は探索的な補助として適しているが、正式な説明可能性レポートの根拠として用いるべきではない。

4. 画像AIの説明可能性技術

画像モデルの説明可能性の課題は、入力がピクセルの行列であり、個々のピクセルにはほとんど意味的な情報がないことにある。したがって、画像XAIの核心的問題は：モデルは実際に画像のどの領域を「見て」いるのか？である。

4.1 Grad-CAM：勾配重み付きクラス活性化マッピング

Grad-CAM[3]（Gradient-weighted Class Activation Mapping）は現在最も広く使用されているCNN可視化手法であり、CAM[15]の拡張である。その核心的ステップは驚くほど簡潔である：

  1. 順伝播で対象畳み込み層の特徴マップを取得
  2. 対象クラスの勾配をその畳み込み層まで逆伝播
  3. 各特徴マップチャネルについて、勾配のグローバル平均を重みとして使用
  4. 全特徴マップの重み付き合計を計算し、ReLUを適用してヒートマップを生成

結果は入力画像と同じサイズのヒートマップであり、ハイライトされた領域がモデルが「最も注目した」場所を示す。Grad-CAMの利点は、モデルアーキテクチャの変更不要、再学習不要、計算コストが極めて低い（1回の逆伝播のみ）ことである。後継のGrad-CAM++[16]は、複数オブジェクトシナリオにおける位置特定精度をさらに向上させた。

4.2 画像向けSHAP

SHAPは画像モデルにも適用できるが、ピクセルを「スーパーピクセル」――意味的に意味のある領域――にグループ化する必要がある。Partition SHAPまたはKernel SHAPを通じて、各スーパーピクセル領域の分類結果への寄与を計算できる。

Grad-CAMと比較して、画像向けSHAPは計算コストが大幅に高い（広範な摂動サンプリングが必要）が、より精密な定量的帰属を提供する――モデルが「どこを見た」かだけでなく、各領域の寄与の方向（正または負）と大きさも示す。

4.3 Saliency MapsとIntegrated Gradients

Saliency Maps[9]は最も初期の勾配可視化手法である：出力の各入力ピクセルに対する勾配を直接計算し、絶対値を「顕著性」とする。概念的にはシンプルだが、実用上はかなりノイジーである。

Integrated Gradients[10]はこの問題を解決する。ベースライン（通常は全黒画像）から実際の入力までの経路に沿って勾配を積分する。2つの重要な公理を満たす：完全性（すべてのピクセル帰属の合計がモデル出力とベースライン出力の差に等しい）と感度（ピクセルを変更して予測が変わるなら、その帰属はゼロでなければならない）。

5. ハンズオンラボ1：テキスト感情分類 x SHAP説明（Google Colab）

このラボでは、HuggingFace Transformersの事前学習済み感情分類モデルとSHAPライブラリを組み合わせ、各テキスト入力に対するモデルの予測を単語ごとの寄与に分解する。

Google Colabを開く（CPUで十分）、新規Notebookを作成し、以下のコードブロックを順番に貼り付ける：

5.1 環境セットアップ

# ★ 必要なパッケージのインストール ★
!pip install transformers shap -q

5.2 モデル読み込みとSHAP Explainer作成

import shap
from transformers import pipeline

# ★ HuggingFace事前学習済み感情分類パイプラインを読み込み ★
# distilbert-base-uncased-finetuned-sst-2-english（軽量かつ定番）を使用
sentiment = pipeline(
    "sentiment-analysis",
    model="distilbert-base-uncased-finetuned-sst-2-english",
    top_k=None  # 全クラスの確率を返す
)

# モデルのテスト
test_texts = [
    "This movie was absolutely fantastic! The acting was superb.",
    "Terrible service, the food was cold and the waiter was rude.",
    "The product is okay, nothing special but not bad either.",
]
for text in test_texts:
    result = sentiment(text)
    top = max(result[0], key=lambda x: x['score'])
    print(f"  [{top['label']} {top['score']:.3f}] {text}")

5.3 SHAPテキスト説明と可視化

# ★ SHAP Explainerの作成 ★
# masker = shap.maskers.Text() はトークンマスキング戦略で摂動を行う
explainer = shap.Explainer(sentiment, masker=shap.maskers.Text())

# ★ SHAP値を計算 ★
shap_values = explainer(test_texts)

# ★ 可視化：テキストヒートマップ ★
# 赤 = 正の寄与（予測方向を後押し）、青 = 負の寄与（予測方向に反対）
print("SHAP Text Plot — 各単語のモデル予測への寄与")
shap.plots.text(shap_values)

5.4 単一サンプルの深掘り：ウォーターフォールプロット

# ★ ウォーターフォールプロット：単語ごとの累積的な予測分解 ★
# 最初の文（ポジティブ感情）を例として使用
print("Waterfall Plot — 最初の文の単語ごとの寄与分解")
shap.plots.waterfall(shap_values[0, :, "POSITIVE"])

5.5 カスタムテキストの説明

# ★ 自分のテキストを試す ★
custom_texts = [
    "The AI model predicted the patient had cancer, but the doctor disagreed.",
    "I love how this phone breaks after just two weeks of use.",
    "Despite the high price, the quality exceeded all my expectations.",
]

custom_shap = explainer(custom_texts)
shap.plots.text(custom_shap)

# ★ 重要な観察ポイント ★
# 1. 皮肉文（2番目）：モデルは正しく処理できるか？SHAPはどの単語がモデルを誤導したかを示す
# 2. 対比文（3番目）："despite"と"exceeded"の寄与方向は直感と一致するか？
# 3. 専門用語（1番目）：医療関連用語のSHAP値分布

5.6 棒グラフ：複数サンプルにわたるグローバル特徴重要度

# ★ グローバル特徴重要度：複数サンプルにわたって最も影響力のある単語 ★
all_texts = test_texts + custom_texts
all_shap = explainer(all_texts)

print("Bar Plot — 全サンプルにわたるグローバルトークン重要度ランキング")
shap.plots.bar(all_shap[:, :, "POSITIVE"].mean(0))

6. ハンズオンラボ2：画像分類 x Grad-CAM + SHAP（Google Colab）

このラボでは、torchvisionの事前学習済みResNet-50を使用し、pytorch-grad-camライブラリでGrad-CAMヒートマップを生成した後、SHAP Partition Explainerで定量的帰属分析を行う。

Google Colabを開く（CPUでも可、GPUの方が高速）、新規Notebookを作成し、以下のコードブロックを順番に貼り付ける：

6.1 環境セットアップ

# ★ 必要なパッケージのインストール ★
!pip install pytorch-grad-cam shap -q

6.2 モデル読み込みとテスト画像の準備

import torch
import torch.nn.functional as F
import torchvision.models as models
import torchvision.transforms as transforms
import numpy as np
from PIL import Image
import urllib.request
import matplotlib.pyplot as plt

# ★ 事前学習済みResNet-50を読み込み ★
model = models.resnet50(weights='IMAGENET1K_V1').eval()

# ImageNet標準前処理
preprocess = transforms.Compose([
    transforms.Resize(256),
    transforms.CenterCrop(224),
    transforms.ToTensor(),
    transforms.Normalize(
        mean=[0.485, 0.456, 0.406],
        std=[0.229, 0.224, 0.225]
    ),
])

# ★ テスト画像をダウンロード（ImageNet例） ★
url = "https://upload.wikimedia.org/wikipedia/commons/thumb/4/4d/Cat_November_2010-1a.jpg/1200px-Cat_November_2010-1a.jpg"
urllib.request.urlretrieve(url, "test_cat.jpg")
img = Image.open("test_cat.jpg").convert("RGB")

# 前処理
input_tensor = preprocess(img).unsqueeze(0)  # [1, 3, 224, 224]

# 推論
with torch.no_grad():
    output = model(input_tensor)
    probs = F.softmax(output, dim=1)
    top5 = torch.topk(probs, 5)

# ImageNetクラス名を読み込み
url_labels = "https://raw.githubusercontent.com/pytorch/hub/master/imagenet_classes.txt"
urllib.request.urlretrieve(url_labels, "imagenet_classes.txt")
with open("imagenet_classes.txt") as f:
    categories = [s.strip() for s in f.readlines()]

print("Top-5 predictions:")
for i in range(5):
    idx = top5.indices[0][i].item()
    prob = top5.values[0][i].item()
    print(f"  {i+1}. {categories[idx]} ({prob:.2%})")

plt.figure(figsize=(6, 6))
plt.imshow(img)
plt.title(f"Predicted: {categories[top5.indices[0][0].item()]}")
plt.axis("off")
plt.show()

6.3 Grad-CAM可視化

from pytorch_grad_cam import GradCAM, GradCAMPlusPlus
from pytorch_grad_cam.utils.image import show_cam_on_image
from pytorch_grad_cam.utils.model_targets import ClassifierOutputTarget

# ★ 対象畳み込み層を選択（ResNet-50の最後のボトルネック） ★
target_layers = [model.layer4[-1]]

# ★ Grad-CAM ★
cam = GradCAM(model=model, target_layers=target_layers)
# Top-1予測クラスを対象とする
targets = [ClassifierOutputTarget(top5.indices[0][0].item())]
grayscale_cam = cam(input_tensor=input_tensor, targets=targets)
grayscale_cam = grayscale_cam[0, :]  # [224, 224]

# 元画像をnumpy（0-1範囲）に変換
img_resized = img.resize((224, 224))
rgb_img = np.array(img_resized).astype(np.float32) / 255.0

# ★ ヒートマップを元画像にオーバーレイ ★
visualization = show_cam_on_image(rgb_img, grayscale_cam, use_rgb=True)

# ★ Grad-CAM++との比較 ★
cam_pp = GradCAMPlusPlus(model=model, target_layers=target_layers)
grayscale_cam_pp = cam_pp(input_tensor=input_tensor, targets=targets)[0, :]
visualization_pp = show_cam_on_image(rgb_img, grayscale_cam_pp, use_rgb=True)

# 視覚的比較
fig, axes = plt.subplots(1, 3, figsize=(18, 6))
axes[0].imshow(img_resized)
axes[0].set_title("Original Image", fontsize=14)
axes[0].axis("off")

axes[1].imshow(visualization)
axes[1].set_title("Grad-CAM", fontsize=14)
axes[1].axis("off")

axes[2].imshow(visualization_pp)
axes[2].set_title("Grad-CAM++", fontsize=14)
axes[2].axis("off")

plt.suptitle(f"Model Focus: {categories[top5.indices[0][0].item()]}", fontsize=16)
plt.tight_layout()
plt.show()

6.4 マルチクラスGrad-CAM比較

# ★ Top-3クラスのGrad-CAMを比較 ★
fig, axes = plt.subplots(1, 3, figsize=(18, 6))

for i in range(3):
    class_idx = top5.indices[0][i].item()
    class_name = categories[class_idx]
    class_prob = top5.values[0][i].item()

    targets_i = [ClassifierOutputTarget(class_idx)]
    cam_i = cam(input_tensor=input_tensor, targets=targets_i)[0, :]
    vis_i = show_cam_on_image(rgb_img, cam_i, use_rgb=True)

    axes[i].imshow(vis_i)
    axes[i].set_title(f"{class_name}\n({class_prob:.2%})", fontsize=13)
    axes[i].axis("off")

plt.suptitle("Grad-CAM for Top-3 Predictions", fontsize=16)
plt.tight_layout()
plt.show()

# ★ 重要な観察ポイント ★
# 異なるクラスのGrad-CAMヒートマップは画像の異なる領域に注目しているか？
# これはモデルの異なるクラスに対する「注目領域」の違いを明らかにする

6.5 画像向けSHAP：定量的ピクセル帰属

import shap

# ★ 画像分類ラッパー関数を作成 ★
def predict_fn(images):
    """numpy配列 [N, 224, 224, 3] を受け取り、top-5クラスの確率を返す"""
    batch = torch.stack([
        preprocess(Image.fromarray((img * 255).astype(np.uint8)))
        for img in images
    ])
    with torch.no_grad():
        output = model(batch)
        probs = F.softmax(output, dim=1)
    # Top-1クラスの確率を返す
    top_class = top5.indices[0][0].item()
    return probs[:, top_class].numpy()

# ★ Partition Explainerを使用（画像にはKernel SHAPより適している） ★
masker = shap.maskers.Image("inpaint_telea", (224, 224, 3))
explainer = shap.Explainer(predict_fn, masker, output_names=[categories[top5.indices[0][0].item()]])

# ★ SHAP値を計算（max_evalsで計算量と精度を制御） ★
img_numpy = np.array(img_resized).astype(np.float32) / 255.0
shap_values = explainer(
    np.expand_dims(img_numpy, axis=0),
    max_evals=500,
    batch_size=50
)

# ★ 可視化：ピクセルレベルのSHAP帰属 ★
shap.image_plot(shap_values)

# ★ 重要な観察ポイント ★
# 赤い領域 = 正の寄与（予測クラスを支持）
# 青い領域 = 負の寄与（予測クラスに反対）
# SHAPとGrad-CAMが同じ領域に注目しているか比較する

6.6 Grad-CAM vs SHAP 並列比較

# ★ 最終比較：2つの手法の類似点と相違点 ★
fig, axes = plt.subplots(1, 3, figsize=(18, 6))

# 元画像
axes[0].imshow(img_resized)
axes[0].set_title("Original", fontsize=14)
axes[0].axis("off")

# Grad-CAM
axes[1].imshow(visualization)
axes[1].set_title("Grad-CAM\n(勾配ベース、高速)", fontsize=13)
axes[1].axis("off")

# SHAP（SHAP値をヒートマップに変換）
shap_img = shap_values.values[0, :, :, :, 0]  # 最初の出力を取得
shap_abs = np.abs(shap_img).sum(axis=-1)  # RGBチャネルを統合
shap_norm = shap_abs / shap_abs.max()  # 0-1に正規化

axes[2].imshow(img_resized)
axes[2].imshow(shap_norm, cmap='jet', alpha=0.5)
axes[2].set_title("SHAP\n(ゲーム理論ベース、精密)", fontsize=13)
axes[2].axis("off")

plt.suptitle(f"説明可能性比較: {categories[top5.indices[0][0].item()]}", fontsize=16)
plt.tight_layout()
plt.show()

print("\n[比較まとめ]")
print("  Grad-CAM: 高速（ミリ秒レベル）、リアルタイム可視化に最適；ただし解像度は特徴マップサイズに制限")
print("  SHAP: 数学的保証あり、定量的帰属を提供；ただし計算コストが高い（分単位）")
print("  実践的推奨: Grad-CAMで素早く位置特定 -> SHAPで詳細分析")

7. 意思決定フレームワーク：企業はどのようにXAI手法を選択すべきか

十数種類のXAI技術に直面して、企業には実用的な意思決定フレームワークが必要である。以下の表は、コンプライアンス要件、モデルタイプ、説明の対象者、計算予算の4つの主要次元に基づくガイダンスを提供する：

シナリオ推奨手法根拠
金融信用審査（高コンプライアンス）SHAP + 本質的に解釈可能なモデルSHAPは公理保証を提供；EU AI Actが適用される場合、GAM / 解釈可能な決定木の直接採用を検討
医用画像診断Grad-CAM + SHAP ImageGrad-CAMは即座の視覚的フィードバック；SHAPは医師レビュー用の定量的エビデンスを提供
NLP感情分析 / カスタマーサービス分類SHAP Text単語レベルの帰属が直感的で理解しやすく、数学的保証付き
推薦システム（低コンプライアンス）LIMEまたはAttention速度優先；LIMEは高速プロトタイピングに有効；Attentionはゼロコスト
自動運転認識モジュールGrad-CAM + Integrated Gradientsピクセルレベルの精度が必要；IGの公理的特性が安全性重視のシナリオに適合
コンプライアンスレポート / モデル監査SHAP（グローバル + ローカル）グローバル重要度ランキング + 個別ケース説明が規制当局の二重要件を満たす

主要原則：シナリオのコンプライアンス要件が高いほど、数学的保証のある手法を選択すべき（SHAP > LIME > Attention）；計算予算がタイトなほど、軽量な手法を選択すべき（Grad-CAM > LIME > SHAP）。

8. コンプライアンスから競争優位へ：XAIの戦略的価値

説明可能性は単なるコンプライアンスコストではない――企業AIの競争優位増幅装置である。

9. 結論と展望

説明可能機械学習は「学術研究」から「企業標準」への転換点にある。EU AI Actの義務的要件、金融規制からのコンプライアンス圧力、医療AIの臨床検証要求――これらの外部要因がXAI技術の産業化を加速している。

技術面では、いくつかの注目すべきトレンドがある：

  1. LLMの説明可能性：GPT-4やClaudeなどの大規模言語モデルの普及に伴い、これらのモデルの「推論プロセス」を理解することが新たな研究フロンティアとなっている。Mechanistic InterpretabilityはニューロンレベルでのlLMの内部表現の理解を試みている
  2. 概念レベルの説明：「どのピクセルが重要か」から「どの概念が重要か」へと進化――例えば、モデルは「尖った耳」と「ひげ」があるから猫と認識している、特定のピクセル値があるからではない
  3. リアルタイム説明：XAIをオフライン分析ツールからリアルタイム推論パイプラインの一部へと変革し、すべての予測に説明が伴うようにする
  4. 因果推論との統合：相関的帰属（SHAP、LIME）から因果的帰属へと移行し、「もしこの特徴が変わっていたら、予測はどう変わったか」という反事実的質問に答える

しかし最も重要な洞察――Rudin[4]が繰り返し強調するもの――は：説明可能性は事後的な対処法であるべきではなく、AIシステム設計の出発点であるべきである。高リスクシナリオにおいては、100層のディープネットワークをSHAPで説明しようとするよりも、最初から十分な性能を持ち本質的に解釈可能なモデルを選択する方が望ましい。

もし貴社のチームがAIシステムの説明可能性戦略を評価している、あるいは特定のドメイン（金融、医療、製造業）向けのXAIパイプライン構築が必要であれば、ぜひ技術的な対話の機会をいただきたい。Meta Intelligenceのリサーチチームは、技術選定と概念実証からコンプライアンスレポーティングまでの完全な工程をサポートできる。