一般社団法人Health ISAC Japan、医学論文における生成AIの適切な利活用に向けた提言を公表

研究公正性や透明性、説明責任、サイバーセキュリティ等、医学関連学会・団体・ジャーナルが医学論文で生成AIの利用ルールを検討する際の基礎的な枠組みを提示

一般社団法人Health ISAC Japanは、医学論文の執筆・投稿、査読及び編集業務において生成AIを利用する際に、関係者があらかじめ検討すべき事項を整理した提言「医学論文における生成AIの安全な利活用に向けた基礎的な検討事項」を公開します。

本提言は、当団体内に設置するセキュリティ民主化分科会の生成AIサブワーキンググループにおいて検討を実施し、成果物として取りまとめたものです。

近年、急速な生成AI技術の進展に伴い、医学研究分野においても、論文の執筆・投稿、文献整理、査読、編集等、様々な場面で生成AIの利用が広がりつつあります。

生成AIは、文章作成や情報整理等の効率化をはじめ、研究・学術活動を支援する有用な技術として期待されています。その一方で、ハルシネーションによる誤情報の生成、学習データに起因するバイアス、AIの出力への過度な信頼等、医学論文の信頼性に影響を及ぼす新たな課題ももたらしています。

医学論文は、研究成果を広く共有するだけでなく、診断・治療法、医薬品や医療機器の有効性・安全性を示す科学的根拠等として、診療ガイドラインや医療政策、日々の診療にも活用されるものです。このため、生成AIの利用によって論文の内容や評価プロセスの信頼性が損なわれた場合、その影響は研究活動の範囲にとどまらず、医療の質や患者安全にも及ぶ可能性があります。

こうした状況のもと、国際的な医学関連学会・団体、ジャーナルにおいて、医学論文における生成AIの利用方法に関する議論や方針整備が活発に進んでいますが、国内ではその取組は未だ十分とは言えない状況にあります。

また、医学論文では基本的に患者情報や未公表の研究成果等の機密性の高い情報を取り扱うことから、生成AIという技術を利用することに伴うサイバーセキュリティ上の対策についてもあわせて考えなければなりません。

上記のような背景・課題認識のもと、本提言は、公開・出版されるまでの医学論文のライフサイクルのなかで、投稿者（執筆者）、査読者及び編集者それぞれの立場において、生成AIの利用において研究公正性を確保するために基礎的に検討・留意すべき事項を取りまとめたものです。

主な論点として、出力内容の正確性の確認、利用範囲・目的の透明性の確保、研究者自身による医学的・学術的判断に関する説明責任、査読における独立性の維持、編集プロセスにおける統一的な方針の必要性などを取り上げています。加えて、患者情報や未公表の研究成果等、機密性の高い情報を汎用的な生成AIサービスで取り扱う場合の情報管理やサイバーセキュリティ上の基礎的な検討事項についても補足的に整理しています。

なお、本提言は、個々の利用場面や具体的な事例ごとに詳細なルールや判断基準を示するものではありません。あくまで医学論文における生成AI利用について、各学会・団体、ジャーナル等が今後それぞれの実情に応じた具体的な利用ルールを検討していく際の出発点の一つとして、初期検討すべき事項を抽象的な水準で整理し、基礎的な枠組みを提示するものという位置づけとなります。

今後、生成AIサブWGによる本提言の説明会をオンラインで開催する予定です。

説明会では、医学論文・学術研究における生成AIの利用を巡り、すでに国内外で指摘・発生している具体的な課題、実際の利用場面で留意すべき事項等についても取り上げ、本提言の内容とあわせて解説することで、本提言の内容を具体的な補助線・着眼点をもとに多角的に説明することを想定しています。説明会の開催日については別途アナウンスいたします。

また、今後、外部の学会・団体、ジャーナル等と連携しながら、各組織における投稿(執筆)・査読・編集個々の特性を考慮した観点より本提言の具体的な展開に向けた支援活動を推進することを計画しています。当該活動を通して得られた新たな知見・教訓等はHIJサイトで適宜公開していきます。

HIJでは、本提言の公開及び今後の取組が、国内医学分野における学会・団体、ジャーナル、研究機関、医療機関等が、それぞれの立場や実情に応じて医学論文における生成AIの利用ルールを検討する際の一助となることを期待します。

提言「医学論文における生成AIの安全な利活用に向けた基礎的な検討事項」の公開 

(Health ISAC Japanサイトへ移動）

【ウェブサイト】

https://health-isac-japan.jp

【本件問い合わせ先】
E-mail：secretariat@health-isac-japan.jp