『生成AIの核心』
書籍情報：ＪＰＯ出版情報登録センター
※書籍情報の無断転載を禁じます
「生成AI」とは一体なにか？彼らと上手につきあっていくために「人」が意識すべき1つのこと
［レビュアー］ 印南敦史（作家、書評家）
AIの進化は突然起こったものではない。だが、変化の可視化は急激に起きた。
何十年にもわたる試行錯誤とコンピュータの性能向上がうまく噛み合い始め、2022年に入ると「文章から絵を描く」AIが注目され、そして、人間並みの文章を生成する「ChatGPT」が生まれた。
精緻な絵を描き、人間に近い精度で文章を作る「生成（ジェネレーティブ）AI」は、人間の想像を超える速度で進化してきたコンピュータの能力を最大限に活かすことではじめて実現された。
いよいよ「人間が夢見てきたもの」が生まれる瞬間を見ているかに思える。
想像しにくい事象と想像しやすい事象。この二つが噛み合っていることが、昨今の「生成AIブーム」を巡る一つの特徴である。（「はじめに」より）
『生成AIの核心: 「新しい知」といかに向き合うか』（西田宗千佳 著、NHK出版新書）の冒頭にはこう書かれています。
ご存知のとおり、生成AIであるChatGPTは、文章で命令すれば簡単に使うことができます。しかし必ずしも完全ではなく、往々にして間違いが混在するものであるのも事実。
ところがその理由は、なかなか理解されにくいものでもあります。いうまでもなく、技術的な部分を理解する必要があるからです。
しかも生成AIはいまのところ「人間のように思考するAI」ではなく、これまで人間がつくってきたものから学習することによって「人間がつくるようなもの」を人間より素早くつくれるだけのものにすぎません。
また多くの人にとっては、基本的なことを知る機会が著しく少ないものでもあるかもしれません。そこできょうは本書を参考にしながら、生成AIについての基本、具体的には「生成AIとはなんなのか」という部分をあえて確認してみたいと思います。
AIと生成AIの違い
いまや流行語のようにさえなっている生成AIには、そもそもなにができるのでしょうか？ あるいは、どのような限界があるのでしょうか？
多くの方が知りたい問題ではないかと思いますが、しかし、正確に答えるのは難しいことでもあると著者は述べています。
理由は2つ。まず1つ目は、急速に進化しているだけに、最新の「限界」を明示するのが難しいこと。
もう1つが、いまのAIは「なぜその回答をしたのか」を100パーセント説明できるわけではないという点。
そして重要なポイントは、AIと生成AIとの関係性、いいかえれば「AIのなかにおける生成AIの位置づけ」を理解しておくことであるようです。
生成AIはAIという大きな括りの中にある一種別であり、また、機械自身が学習した結果から答えを出す「機械学習」の一部に属する。
これまで以上に、実用性も高い「AIの一つ」でありながら、その全容も可能性も掴みきれていない存在。若干矛盾するようだが、これこそが生成AIの現状であり、重要な特性なのだ。（55ページより）
『生成AIの核心: 「新しい知」といかに向き合うか』（西田宗千佳 著、NHK出版新書）より図版化Image：ライフハッカー・ジャパン
詳しく解説していくと長文になってしまいますので簡略化しますが、つまりはこれが基本的な考え方。（54ページより）
AIと生成AIはどう違う？
ところで、そもそもAIと生成はなにがどう違うのでしょうか？
この問いについて著者は、「極論すると『たいして違わない』」と述べています。もちろん構造が異なる部分はあり、その違いこそが生成AIの特別な部分であることは事実。
現在は、基本的な仕組みがディープラーニング（深層学習）であることにも違いはないようです。
ただし、生成AIが出てくるまでは、AIにできるのは「短い文章をつくる」ことくらいだったといいます。画像認識や音声認識に有用な仕組みではあったものの、長い文章をつくらせると破綻しやすかったというのです。
そこで出てくるのが「生成AI」である。
生成AIを実現する上で重要なのが、「トランスフォーマー」という手法である。
これはすごく簡単に言えば、「単語の順序を見て、出力した時に一番関連している（アテンションが高い）のはどの組み合わせか」に着目する仕組みだ。
さらに簡単に言えば「次に出てくる単語はどれが自然か」を、ランク付けされた確率に則って並べていく仕組み、ということになる。（71ページより）
いわば「関連している・注目すべきところ」にフォーカスし、ディープラーニング処理をその部分（最後の文章化に近いところ）に集中しているのが生成AIの特徴だということ。
文章の意味を理解しているわけでも、次に来るものの意味を考えているわけでもなく、あくまで記号的に扱っているにすぎないのです。
別ないいかたをすれば、「いままでに学習した内容から考えると、次のこの単語・文章がくるのが望ましいようだ」と逐次処理しているわけです。（69ページより）
つねに意識しておくべき大切なことは？
生成AIはAIの中の一つの形である。AIは、人間が行っている判断や行動をコンピュータで再現するのが目的であり、その中で、人間との対話やコンテンツ生成の価値を重視したものが生成AI、ということになる。（186ページより）
つまり生成AIは“正しさ”を判断しているわけではないので、そこに出てきたものを判断基準にしてはいけない。著者はそう主張しています。AIを使うとは、「間違いも含まれる道具をどう使うか」というルール作りに他ならないのだとも。
重要なのは、野放図に使うことを避ける、という発想だ。（中略）バイアスを避けるには、そもそも「本当にその情報が必要なのか」という点から判断する必要がある。（212ページより）
生成AIは我々の生活を楽にし、豊かにしてくれる存在になりうる。
だが、あえて擬人化して語るが、「彼ら」の知性（に見えるもの）は人間とは違う観点で動いている。だから、その答えを鵜呑みにすることもできないし、最終的な判断と責任、監査は人間が行わねばならない。（220ページより）
したがって、むしろ「別の観点で我々をサポートしてくれる存在が生まれつつある」と捉えてつきあったほうが安全で、そして建設的なあり方なのではないだろうかと著者はいいます。たしかにそれは、つねに意識しておくべき大切なことではないでしょうか？（186ページより）
技術の進化はとても早いものなので、最新事情ですらすぐに古びてしまう可能性があります。
「本書もその一例であるかもしれない」と著者も認めていますが、それでも大切なのは、つねに“いま”を見据えることではないでしょうか？
なぜならそれは、必ず未来へとつながっていくのですから。そういう意味において、“2023年における生成AIのあり方”を客観的な視点で捉えた本書は、間違いなく参考になるはずです。
Source: NHK出版新書
-
2023年11月25日 掲載
※この記事の内容は掲載当時のものです
