【DX／AI活用】生成AIの回答を鵜呑みにした看護判断が招くインシデント ～ 事例で学ぶ危険性～

生成AIの回答を確認せずに看護判断に用いた場合、どのようなインシデントにつながるかを3つの想定事例で学びます。事例①は夜勤帯にAIへ薬剤の用量を質問し、誤った回答をもとに医師へ報告したニアミス。事例②はAIが生成した糖尿病の食事指導パンフレットに極端な糖質制限の記載が混入し、患者が低血糖で救急搬送されたケース。事例③はAIに看護記録の下書きを依頼し、実際には観察していない「異常なし」の記載がそのまま残り、次の勤務者の対応が遅れたケースです。3事例に共通するのは「AIの出力と臨床事実を照合する確認プロセスの欠落」です。自動化バイアス、時間的プレッシャー、相談しづらい職場環境がこの欠落を助長するため、個人の注意力ではなく、用途の確認・原典との照合・臨床事実との一致・他者の目という4つのチェックポイントを組織の仕組みとして整備することが不可欠です。