学術的な文章における生成AI（GenAI）の使用は、必ずしも簡単に見抜けるものではありません。剽窃検出ツールとは異なり、AI生成テキストの検出ツールは必ずしも正確とは限らず、偽陽性が頻繁に起こり、スコアもツールによってばらつきがあります。さらに、人間が書いたもの、AIの支援を受けたもの、AIが生成したものを区別するという問題にも向き合わなければなりません。これは、今日のほとんどの学生が、次の4つのステージで生成AIを使っているためかもしれません。
- ステージ1：計画（ブレインストーミング、文献検索）
- ステージ2：執筆（アウトライン作成、文章生成、文法や表現の確認）
- ステージ3：解析（機密情報、未発表データの入力）
- ステージ4：発信（研究成果の伝達）
これらの各ステージでAIを使用することには、それぞれ異なる長所と短所があり、リスクもあります。学生がAIを使っているとわかっても、必ずしも警戒すべきことではありません。AIの使用がすべて不正行為の兆候というわけではないのです。研究室でのAI使用を全面的に禁止するよりも、学生がAIをどのように使っているかを把握し、責任ある使い方ができるよう指導するほうが賢明でしょう。
以下は、学生が文章の執筆にAIを使ったかどうか、またどのように使ったかを確認するためのチェックリストです。
ステージ1：計画段階でのAI使用（ブレインストーミング、文献検索）
リスク：この段階で生成AIに過度に依存すると、偽の参考文献や誤った主張が文章に含まれてしまう可能性があります。学生が自分自身の仮説を十分に理解していなかったり、文献を批判的に分析する自らの能力を低下させたりするおそれもあります。
確認すべきこと
☐ 学生に、使用した検索戦略を尋ねる。どのデータベース、検索語、そして該当する場合はどのプロンプトを使ったか？
☐ 参考文献を抜き取りで確認する：5～10件を選ぶ。それらは実在するか？ 著者、年、DOI、ジャーナルは一致しているか？ その論文は、本文の記述が主張している内容を実際に述べているか？ 特に次の点を確認する。
- 実在しない論文でないか
- 不正確に引用された論文でないか：主張と無関係、誤って引用されている、または内容が歪めて伝えられている
- その分野の基礎となる重要論文や画期的な研究が抜けていないか
☐ 学生が文献を読んでいるかを確認する。注釈付きのPDFを見せてもらう。論文を集めてはいても、学生は実際にそれらを読んだのか？
☐ 「ツールは何を提案し、あなたはその中から何を選んだのか？」と尋ねる。AIを使ってブレインストーミングをするのはかまわないが、学生は、自分の仮説を根拠に基づいて説明し、その妥当性を論理的に示せなければならない。
ステージ2：執筆段階でのAI使用（アウトライン作成、文章生成、文法や表現の確認）
リスク：自分の書いた文章の文法や言語のチェックにAIを使うことは、広く受け入れられています。アウトライン作成にAIを使うことのリスクは低～中程度です。しかし、内容のある文章を生成する際には、学生自身が下書きを理解できない可能性があるため、検証が最も重要になります。さらに、ジャーナルがAIの過度な使用を問題視し、論文を不採択とする可能性もあります。
確認すべきこと
☐ 数値が、表、図、または元のファイルに由来しているかを確認する。サンプルサイズ、パーセンテージ、p値、信頼区間、単位は、要約、結果、表の間で一致しているか？
☐ 方法の記述は、あなたの研究室／クリニックで実際に行われたこと（機器、カタログ番号、ソフトウェアのバージョン、倫理審査の承認番号、同意取得の手順）を説明しているか？ ありきたりに見える方法の記述は、AIによる生成を示している可能性がある。
☐ 考察は実際のデータと整合しているか。それとも、研究分野の知見をあまりに整然とまとめたうえで、実際に得られた結果から言える範囲を超えた主張をしていないか。
☐ その学生の過去の文章（ドラフト、実験ノートの記録、メールの履歴）と比べて、次の点に急な変化が見られるか？
- その学生の語彙や文の複雑さ
- 文章のトーンやスペル
- 主張を口頭で説明する能力
☐ 生成AIの出力をコピー＆ペーストしたことを示す痕跡を探す。
- 「Certainly! Here’s a revised…」（もちろんです！ 修正版はこちらです…）、「As an AI language model」（AI言語モデルとして）、「Regenerate response」（回答を再生成）といった生成AIの名残を、［Ctrl+F］で検索する。
- 連続したハッシュ記号（###）やアスタリスク（**）をCtrl+Fで検索する。これらは、チャットボットの出力を文書に貼り付けたときに現れることがある書式記号である。
- 「Make this sound more professional」（もっと専門的な感じにして）や「reduced word count」（語数を削減）といった、プロンプトの指示やユーザーの指示がそのまま最終稿に貼り付けられていないかを確認する。
☐ バージョン履歴を確認する：文章は何日もかけて積み上げられたのか、それとも大きなまとまりで突然現れたのか？
☐ 完成した原稿を求める前に、必ずアウトラインを求め、思考のプロセスを実際に確認する。そのうえで、準備のさまざまな段階で、書き上がったセクションを提出してもらう。
☐ 言語の推敲にどのツールのどのバージョンを使ったかを尋ねる。実際にやって見せてもらうのもよい。
＊ これらの指標は、さらに質問をするきっかけとして扱い、AI使用の証拠とはみなさないでください。
ステージ3：解析段階でのAI使用（機密情報、未発表データの入力）
リスク：第三者のツールに入力されたデータは、「送信を取り消す」ことができません！ さらに、偽のデータを生成したり、データを非倫理的に改変したりすることは厳しく禁じられています。
確認すべきこと
☐ 次の情報を一般公開されているAIツールに入力したことがあるか、ある場合はどのツールを使用したのかを学生に尋ねる。
- 個人を特定できる患者データ
- 保護対象医療情報（PHI）
- ゲノムデータ、ヒトを対象とする研究の情報未発表の結果機密扱いの研究費申請書の文章
- 機密性の高い査読資料
☐ データが匿名化されていたか、またどのように匿名化されたかを尋ねる。
☐ データ、臨床的な内容、画像、コード、参加者に関する記述、統計結果のいずれかが、捏造されたり不適切に改変されたりしていないかを尋ねる。
ステージ4：発信段階でのAI使用（研究成果の伝達：ポスター、スライド、平易な言葉による要約、プレスリリース、ソーシャルメディアへの投稿）
リスク：AIは、不必要な誇張（スピン）を加えたり、研究結果をやや大げさに見せたりすることがあります。AIが生成した図は、実態を誤って伝えている可能性があります。
確認すべきこと
☐ 平易な言葉による要約やプレスリリースは、論文よりも多くのことを伝えていないか？「breakthrough（画期的な）」「proves（証明する）」「cures（治療する）」といった語に注意する。
☐ 抄録、ポスター、スライド、投稿に記載された数値は、論文と一致しているか？
☐ AIが生成した画像やAIで加工した画像が、実験結果を誤って伝えていないかを確認する。そうした画像に、解剖学的な不整合、意味をなさない文字列、溶けたような文字、判読できない背景のロゴ、質感の不自然な混ざり合いがないかを確認する。
最も信頼できる確認方法：日常的な会話
☐ 学生に、中心となる研究課題を、自分の言葉で説明してもらう。
☐ なぜその方法を選んだのか、ほかにどのような選択肢を検討したのかを尋ねる。
☐ 主要な結果を解釈し、その臨床的または生物学的な意義を説明してもらう。
☐ その研究の主な限界を挙げ、それが結論にどう影響するかを説明してもらう。
☐ 引用文献を1件取り上げて内容を順に説明し、それが該当する記述をどのように裏付けているかを説明してもらう。
学生がこれらの質問に十分に答えられない場合、生成AIが単なる執筆支援以上の目的で使われていた可能性があります。その学生は、研究の科学的内容に十分に向き合っていなかったということです。実際、これらの質問は、研究室のすべての学生に、普段の質問と同じように、これらの質問を定期的に尋ねてみても良いでしょう。
最後のチェック：自分自身を振り返る
☐ あなたは学生のドラフト全体を読んだか？ それとも要約と図表だけだったか？
☐ 学生のドラフトを要約するのに、AIツールを使ったか？
研究室責任者（PI）の役割は、すべての論文が正確で独自性を備え、その内容と責任の所在が、責任を負う研究者に明確に結び付いている状態を確保することです。このチェックリストを使えば、あなたの研究室でのAI使用の傾向が見えてくるでしょう。さらに一歩進んで、次のような措置を講じることで、許容されるAI使用についての研究室独自の方針を定めることができます。以下のサンプルをもとに作成してみてください。必要に応じて方針を更新することを忘れないでください。ツールとその能力は変わり続けているのです。
AIの適切な使用に関する方針：XYZ研究室
- AIの使用を規定する、所属機関、部局、ジャーナル、研究資金提供機関、研究室の方針を定期的に見直す。
- 執筆中の原稿、プロトコル、研究費申請書、学位論文、報告書において、次の用途での生成AIの使用が認められているかを確認する：ブレインストーミングやアウトライン作成、文法やスタイルの編集、文献検索、コーディングや統計解析の支援、図・画像の生成または改変。
- AIによる支援の開示が求められているか、求められている場合はどこに記載しなければならないかを確認する。
- ドラフトの生データとバージョン履歴を保管する。
- プレプリント、ソーシャルメディアへの投稿、メディア向けの声明を公開する前に、誰が最終承認を行うかを決めておく。
- 批判的思考と分析を促すため、研究室で健全かつ定期的な読書の習慣（抄読会など）を育てる。
- 次の内容を含む「AI使用記録」をつける。
- 使用したAIツールとそのバージョン
- 日付と作業内容
- 入力した内容（機密データが含まれていないことの確認を含む）
- 採用した出力、または採用しなかった出力
- 人間が行った編集と検証
- 最終文書での開示
