AIコーチが
AIコーチ／説明可能性
あとで読む保存した記事へ →
まず答え
理由を説明できることは大切ですが、それだけで診断が正しい証拠にはなりません。説明が判断過程を正しく表しているかと、診断そのものが正しいかは別に確かめる必要があります。
詳しい解説
AIコーチの説明は、「何を根拠にその提案をしたか」を人間が確認する助けになります。ただし、もっともらしい理由が付いているだけでは十分ではありません。AIでは、説明が実際の判断過程を正しく表しているかという精度と、判断そのものが正しいかという精度は別に評価されます。
ゴルフなら、測定したフェース向きに基づいて理由を説明されても、映像や弾道の測定が不正確なら診断も外れます。理由の分かりやすさに加えて、元データの品質、別のショットでも再現するか、提案した修正を試した後に結果が良くなるかまで確認すると、説明だけを信用してしまうリスクを減らせます。