ChatGPTが学術研究に深く浸透する中、コロンビア大学のマルセル・ブーフ教授に衝撃的な出来事が起こりました。彼はChatGPTの「データ使用許可」機能をオフにした途端、過去2年間にわたる自身の学術成果、つまり研究費申請書や論文、講義資料などすべてを失ってしまったのです。AIツールの利便性の裏に潜む、予期せぬリスクが浮き彫りになったこの事例は、私たちに何を教えてくれるのでしょうか。その詳細と、学術界におけるAI活用への警鐘を掘り下げます。
まさかの事態！ChatGPTデータ設定変更で2年分の成果が消失
コロンビア大学植物科学のマルセル・ブーフ教授は、自身の学術成果が一瞬にして「翼なくして飛び去ってしまった」と、著名な科学誌『Nature』のコラムで明かしました。この壊滅的な出来事の原因は、ChatGPTの「データ使用許可（Data Authorization）」機能をオフにしたことでした。
教授がこの機能をオフにしたのは、「個人データをOpenAIに提供しなくても、ChatGPTの全機能が使えるか」を検証するためだったといいます。しかし、結果は彼の予想をはるかに超えるものでした。オフにした途端、過去2年間にわたるすべてのチャット履歴、ひいてはそれらを通じて作成・整理していた研究費申請資料、論文修正稿、講義資料、試験問題などが、事前の警告や復元オプションもなく、跡形もなく消え去ってしまったのです。残されたのは、ただ空白のページだけでした。
教授への賛否両論と専門家の視点
この事件が公になると、インターネット上では様々な声が上がりました。一部のネットユーザーからは、「なぜ2年間もローカルバックアップを取らなかったのか」「AIへの過度な依存が招いた結果だ」といった批判や、学術活動におけるAIへの過度な依存を理由に教授の解雇を求める意見さえ出ました。
一方で、教授に同情を示す声も少なくありませんでした。ハイデルベルク大学の教授コーディネーター、ローランド・グロームス氏は自身のSNSで、「ブーフ教授のワークフローには欠陥があり、愚かな過ちを犯したが、この経験を公に語った勇気は称賛に値する」と述べ、「多くの研究者は自分があらゆる落とし穴を回避できると思っているが、誰もがちょっとした不注意で同じようなトラブルに遭遇する可能性がある」と指摘しました。
ブーフ教授自身も、ChatGPTが生成する内容について「もっともらしく見えるが、実際には時には多くの欠陥がある」と認め、「モデルの信頼性をコンテンツの真実性と同一視したことはない」と強調しています。しかし、彼は「プラットフォームのワークスペースの継続性と表面的な安定性」に依存しており、ChatGPT Plusを日常的に個人的なアシスタントとして活用していたのです。
学術界を揺るがすAIの功罪と課題
生成AIの科学界での応用は、常に大きな議論の的となってきました。特に、今回のようなデータ消失問題だけでなく、AI生成コンテンツの信頼性や質に関する問題は深刻化しています。
『The Atlantic（アトランティック）』誌の報道によると、出所不明でAIが生成した質の低い原稿が大量に科学誌に流れ込み、査読プロセスが「災難」と化しているといいます。さらに悪質なケースでは、AIが生成した「ジャンク原稿」を専門的に出版することで利益を得る、偽の学術誌まで出現しています。これにより、AIが生成した質の低いコンテンツがAIモデルによって査読されるという悪循環が生まれ、学術文献の「汚染」が深刻化しています。
また、研究者が自身の研究成果が新しい論文で引用されたという通知を受け取り、確認するとその引用内容が純粋にAIによる「虚構」であったという事例も頻繁に報告されています。ブーフ教授がAI生成コンテンツを不適切に使用した証拠は現在のところありませんが、彼の痛ましい経験は、AIツールの利用における透明性、信頼性、そしてデータ管理の重要性について、学術界全体に警鐘を鳴らしています。
ブーフ教授はコラムの中で、OpenAIに対し「ユーザーが数年間の心血を注いだ努力が一瞬で無駄になるのを防ぐ『基本的な保護措置』を提供せずに、軽率に（ChatGPTを）リリースした」と非難しています。
まとめ：AI時代におけるデータ管理と責任
マルセル・ブーフ教授の事例は、AIツールがもたらす計り知れない恩恵の裏側に潜む、予期せぬリスクを私たちに強く突きつけました。ChatGPTのような強力なツールが日常に深く浸透する今、ユーザー側にはデータの適切なバックアップや、プラットフォームの仕様に対する深い理解がこれまで以上に求められます。
同時に、AIを開発・提供する企業側も、ユーザーのデータを保護するための「基本的な保護措置」や、重要な設定変更に対する明確な警告、そして万一の事態に備えた復元オプションの提供など、より強固なデータ管理体制と責任あるサービス提供が不可欠であることを示唆しています。
日本を含む世界中の研究機関や企業にとっても、この事例は大きな教訓となるでしょう。AI技術の積極的な活用と同時に、データガバナンスの強化、従業員へのAIリテラシー教育、そして利用ガイドラインの策定が急務です。AIの進化が止まらない時代において、その恩恵を最大限に享受しつつ、リスクを最小限に抑えるための知恵と対策が今、求められています。
元記事: gamersky
Photo by Markus Winkler on Pexels
