生成AIリテラシーの本質——『使いこなす能力』より大切なこと
「生成AIを使いこなせる医師が生き残る」 こういう言葉を、最近よく目にします。確かにAIは便利で、文書作成・情報収集・要約といった作業を大幅に効率化してくれます。 しかし「使いこなす能力」だけに注目すると、見落とすことがあります。 生成AIリテラシーの本質は、AIを最後まで『ツール』として扱い続ける能力にある——そう考えるようになりました。 AIは「構造」の存在 生成AIは、アルゴリズム・統計・最適化の集合体です。 大量のデータからパターンを学び、確率的に「もっともらしい出力」を生成する——それが生成AIの正体です。苦しみも喜びも持たず、責任も負わず、患者の人生に関わることもありません。 これを「構造」と呼ぶことにします。 一方で、医師は患者と向き合う「実存」です。診断が間違えば患者さんに不利益が生じ、その責任を引き受けるのは医師です。患者の苦しみを前にして動揺し、家族の悲嘆に心を痛める——この「実存としての医師」の部分は、AIには代替できません。 陥りやすい罠——AIへの「実存の仮託」 生成AIを使っていると、あることが起きやすくなります。 「このAIが言うなら正しいだろう」という感覚です。 高精度の出力が続くと、AIの回答を批判的に検討せずに受け入れるようになります。「AIが判断してくれた」「AIが推奨した」という意識が生まれると、AIはもはやツールではなく「責任を持つ存在」に変わっています。 しかしAIは責任を取れません。誤った情報を自信満々に出力する（ハルシネーション）こともあります。最終的な判断と責任は、常に人間の側にあります。 EBMとの類比 「構造を使いつつ、責任は人間が引き受ける」という構図は、医療においてすでになじみのあるものです。 EBM（根拠に基づく医療） がそれです。 ガイドラインやランダム化比較試験のエビデンスは、「構造」として医師の判断を支えます。しかし目の前の患者さんへの適用は、ガイドラインが自動的に決めてくれるわけではない。患者の価値観・合併症・生活背景を総合して、最終的な判断をするのは医師です。 生成AIとの関係も、本質的には同じです。 AIをエビデンスと同じように扱う——参考にするが、鵜呑みにしない。批判的に検討して、責任は引き受ける。これがAI時代のEBMとも言えます。 実際に使って気づいたこと 筆者自身、文書作成・情報整理・アイデア出しにAIを日常的に使っています。 使い続けて気づくのは、AIが「もっともらしい誤り」を生成することがあるという点です。一見正確に見えるが事実と違う、あるいは最新の医学情報が反映されていない——こうした出力は、専門知識がなければ見抜けません。 逆に言えば、専門知識があるからこそAIを安全に使えるのです。 「AIが何でも答えてくれるなら、専門性は不要では？」という発想は、ここで逆転します。AIの出力を批判的に評価できるのは、その分野の専門家だけです。 AIリテラシーの3層構造 「AIを使いこなす」を細かく分解すると、3つの層があると思っています。 層 内容 操作層 プロンプトを書く・ツールを選ぶ・出力を整理する 批判層 出力の正誤を判断する・ハルシネーションに気づく 判断層 AIの提案を踏まえて、最終的に人間が決断する 多くの「AI活用術」は操作層の話です。しかし医療において重要なのは、批判層と判断層です。この2つは、専門知識と臨床経験がなければ機能しません。 まとめ 生成AIは「構造」——責任を持たない。責任を引き受けるのは医師 AIへの「実存の仮託」が最大の危険。「AIが言ったから正しい」は成り立たない EBMと同じ構図：参考にするが鵜呑みにしない、批判的に検討して責任は人間が持つ AIリテラシーの本質は「使いこなす能力」ではなく、AIを最後まで『ツール』として扱い続ける能力 専門知識はAI時代に不要にならない。AIの出力を正しく評価するために必要になる 「AIに仕事を任せる」と「AIに仕事を奪われる」は、紙一重かもしれません。その境界線は、判断と責任を手放すかどうかにあります。 関連記事 AIに代替されない緩和ケア医——「例外の連続」という仕事の本質 参考 本記事は、医師向け媒体における生成AIリテラシーに関する議論をもとに、筆者の実用経験を加えてまとめたものです。 筆者：田舎の県庁所在地に住む医師。外科学会専門医・乳癌学会認定医。現在は乳がんの検診・診断と緩和ケアを専門に担当。医師になって20年。