現在開発中のプロダクトにおいて、AI による文章添削の導入進めています。実験的な機能追加はしていたのですが、本格導入に向けて AI と人を真正面から品質チェックを行いました。その結果、AI の限界と人間の強みを改めて認識しました。今回は、AI 添削の精度チェックを通じて、AI の強み、人間の強み、AI と人間との共生について考察します。

AI の強み

AI の進化により、教育現場での効率化が飛躍的に向上しています。特に添削作業では、文法の誤りや単語選びの改善提案など、AI は正確かつ迅速に課題を指摘し、修正案を提示することが可能です。まず AI が圧倒的に有利なのは、大量のデータを瞬時に処理できる点です。人間が一つ一つの文章を読み込み、誤りを見つけるのに時間がかかるのに対し、AI は瞬時に膨大なデータを解析し、正確な添削案を提示できます。

また、AI は人間の誤りを検出するだけでなく、その背後にあるルールやパターンを学習し、将来の添削に活かすことができます。例えば、エッセイのトピックに対して添削用の TIPS を用意しているのですが、人間は都度都度全部読むことはスキップしがちです。一方に AI、毎回これらを尊重し、個別のトピックに特化した添削案を提案することが可能です。こうした個別対応は、人間が行うには限界があるため、AI が大きな効果を発揮します。

端的にまとめると下記のとおりです。

• AI は適当な仕事をやる人間より圧倒的にパフォーマンスは高い
• 一方で丁寧な仕事をする人間は AI には勝てる
• AI は大量のデータを瞬時に処理できる＝ 添削におけるコストは 10 から 100 倍程度の効率化が見込める

加えて上記は現時点での AI の処理です。今後、数年は AI の進化が続くことが予想されます。コストについては間違いなくもっと効率化するでしょう。ポイントは丁寧な仕事する人間のクオリティを超えてくるのかです。これについては現時点でわかりません。

人間の強み

教育の根幹を考えると、将来にわたって AI だけでは補いきれない部分が存在します。それが「教育の核心部分」、つまり生徒一人ひとりに向き合い、彼らの個性や感情、成長のプロセスを理解し、適切に導く役割です。

まず、AI の限界として考えられるのが「文脈の深い理解」と「感情的な配慮」です。文章の文法的な正しさや語彙の適切さは AI でも処理可能ですが、生徒がその文章に込めた背景や意図を読み解くのは難しい場合があります。例えば、ある生徒が自分の経験を作文に書き、そこで感情的な揺れや葛藤を表現していたとしても、AI はそれを単なる文章構造の問題として処理してしまうかもしれません。その背景にある心理や文化的な要素を汲み取ることができるのは、人間ならではの能力です。

（大胆な予測をすると、いま優秀の定義＝知能が高いと考えられていますが、優秀の定義＝共感能力が高い、もしくは認識修正能力が高い、となるのではと考えています。AI は指摘をすると誤りを認識したように振る舞いますがあくまでインタラクションです。人はリアルタイムに他者に共感し、内省的に認識を修正することができます。）

また、生徒のモチベーションを引き出し、自発的な学びを促す役割も、人間だからこそ可能です。AI がどれほど正確なフィードバックを与えても、それを受け取る生徒の心理状態や学習意欲が低ければ、効果は限定的です。ここで重要なのは、教師が生徒の努力を認めたり、進歩を褒めたりすることで、学びの楽しさや達成感を伝えることです。AI にはこうした「共感」を伝える能力はなく、それゆえに教師の存在が欠かせません。つまり AI と人間の関係性が重要であると言えます。

AI と人間の関係性

上記のように、教育には「人間関係」の構築が不可欠です。教育は単なる知識の伝達にとどまらず、生徒と教師、あるいは生徒同士の信頼関係の中で成り立っています。教師が生徒にとっての「ロールモデル」となり、生徒が教師から社会的な価値観や倫理観を学ぶ場面も多々あります。こうした役割は、AI がいくら進化しても代替するのが難しい部分です。

AI は教育における強力なツールとして、日々の負担を軽減し、効率を向上させる役割を果たします。しかし、人間の介在が必要な領域、つまり生徒の成長を深く理解し、共感し、学びの動機を引き出す役割は、これからも人間が担い続けるべきです。AI と人間が互いに補完し合うことで、教育の質をさらに高める未来を目指すべきだと考えます。

そんな事を考えていた折、J. C. R. リックライダの Man-Computer Symbiosis という論文に出会いました。この論文は、人間とコンピュータが相互に補完し合う関係を提唱しています。リックライダは、コンピュータが人間の知的活動を支援し、人間がコンピュータの計算能力を活用することで、新たな知識や発見を生み出す可能性があると述べています。

• コンピューティング史見聞録（22） リックライダーの更なる飛躍: https://kyototextlab.org/2024-12-02-licklider-bbn/
• Man-Computer Symbiosis （原文）: https://groups.csail.mit.edu/medg/people/psz/Licklider.html

この論文の中で、リックライダーは「人間で拡張された機械」に対抗する「人と計算機の共生」という概念を提示し、リックライダーは、人間とコンピュータが相互に補完し合う関係を築くことで、新たな知識や発見を生み出す可能性があると述べています。

一方で現状の大規模言語モデルによって作られた AI は、人間で拡張された機械の概念のほうが近いのではないかと思います。リックライダーが人間で拡張された機会の行き着く先は「大規模なコンピュータ中心の情報制御システムでは、人間のオペレーターは主に自動化するのが割に合わない機能を担当する」事になると述べています。しかしながら、これは私の望む未来ではないです。

ひとつの具体的な事例を挙げることができます。ライティング添削の精度チェックにおいてわかったことは、人は人のミスには一定の許容を示しますが、AI のミスには厳しいです。大規模言語モデルの振る舞いは確率的なので一定程度のミスは起こりうることです（ハルシネーション）。ただ、このミスを人間がチェックするとなると、上記の「AI 化するのにのが割に合わないことをする人間であふれる」未来に近づくことになりそうです。

まとめ（私達が AI に期待すること）

AI を考えたときに人間の強みとしては、その一つの有機体として人間として存在、およびその多様性ににあります。これをどのように維持する考えなくてはいけないと思います。また、AI と人間の共生において、AI のミスを許容し、同時に AI を信頼しすぎない事が重要です。そうでないと「人間で拡張された機械」の未来になってしまいます。これは私達が AI に何を期待するのかによって変わると思います。この点が注意すべきポイントです。