巷で耳にする「AIで業務を効率化できる」という話…
私自身もAIを導入しましたが、連発するハルシネーション（バグ）には相当なストレスが溜まり、ブチギレそうになることも多々あります。
決して「AIに頼めば仕事が完結する」ほど簡単な話ではありません。
しかし、そもそもなぜハルシネーションは起きるのでしょうか？
「膨大なデータに引きずられる」と言われますが、だとしたらなぜ個人情報リスクを冒してまで、AIに学習させる必要があるのでしょうか？
本記事では、私が執筆している「私小説」の生成ではハルシネーションが起きづらいという検証結果も踏まえて考察します。
何故、ハルシネーションは起きるのか？
そしてリスクを冒してまで学習を続ける理由とは何なのか。
実体験から見えてきたAIの仕組みを紐解いていきます。
時折乱発するハルシネーションの実態
文章の作成や添削、画像生成、プログラミングのコード作成など、ありとあらゆる場面で活用されるAI技術。
近年では「AIコンシェルジュ」というワードまで飛び出すほど、私たちの身近に使われるようになりました。
「人類から仕事を奪う」とまで謳われるほど重宝されているAI。
ですが、実際に使っていて感じるのは「指示一つまともに聞けないポンコツ」という印象です。
当然、すべてにおいてとは言いません。
しかし、ハルシネーションという指示を無視した暴走を引き起こし、あり得ない結果を堂々と返してくるのですから、本当に手に負えず頭を抱えるばかりです。
ちなみに
- 「具体的にハルシネーションとは何を指すのか？」
- 「どんな現象をそう呼ぶのか？」
を簡単に解説すると、以下のようなものがあります。
- ゲームの攻略情報を調べているのに、存在しない嘘のスキルを堂々と提示してくる。
- 少しでもネガティブな発言をした途端、急に英語の文章を羅列して会話を一方的に終わらせる。
- パソコン画面を見ている人物の画像を依頼したのに、画面とは全く違う方向を向いた謎の人物を描いてくる。
などなど、挙げたら切りがありません。
このような「明らかに事実と異なる気味の悪いバグ」をしれっと提示してくるのが、ハルシネーションです。
また、指示を繰り返しているにもかかわらず、完全に無視して「自己流」を提示し続けてくるのもハルシネーションの一種。
ここまで来ると、どちらが使われている側（人間なのかAIなのか）わからないレベルですね。
話を戻しましょう。
私自身、以前こんなニュースを目にしたことがあります。
とあるアニメーション会社では、【アニメーション制作にAIが活用されている】とのこと…
確かに、ニュースになっている話がデタラメとは思いませんが、AIをここ数ヶ月使い、様々なハルシネーションを体験した私にとって、「本当にこんな結果があやふやなAIが現場で使えるのだろうか？」と、首を傾げたくなるのが本音でした。
AIはが便利なものであることは紛れもない事実です。
しかし、決して手放しで喜ぶような代物ではなく、状況によっては暴走し続ける厄介な代物であることだけは理解して扱ったほうが良いと思いますよ。
ハルシネーションが起こる最大の要因
先ほどもお話しした通り、とあるアニメーション会社では、アニメ制作にAIを導入して効率化を図っているようです。
当然、現場で使えているということは、きちんとハルシネーション対策ができているということでしょう。
アニメ作品というのは、何枚もの絵を細かく分割して描くことで、パラパラ漫画の要領でアニメーション化しています。
間違っても、ハルシネーションによって1枚1枚の絵の方向性やキャラクターの形がバラバラになってしまっては、全くアニメになりません。
頻繁にハルシネーションが発生していたら、到底作品として成り立たないわけです。
そういえば、私が執筆している私小説『電脳の竜と白理の狼 〜デジタルハッカーと明治のリーガル・ガール〜』も、プロットからAIを使って小説化していく際は、なぜかハルシネーションがほぼ出ずに済んでいます。
もしかして、アニメ制作の現場と私の小説執筆の間には、何か共通する因果関係があるのでしょうか？
気になって色々と調べてみたところ、ある興味深い事実が判明しました。
実は、AIの大きな弱点として「データが多すぎるとハルシネーションを引き起こしやすい」という特徴があったのです。
アニメ会社の事例では、著作権侵害を防ぐ対策として、自社以外のデータを一切AIに学習させていなかったそうです。
そして結果的に、この「データを絞ったこと」が功を奏し、ハルシネーションに振り回されることなく作業の効率化が図れていた模様。
一方、私が『電脳の竜と白理の狼』を書いているときも、AIには基本的に渡したプロット以外の余計なデータを与えていません。
だからこそ、ハルシネーションが発生しづらかったのだと合点がいきました
逆に、ゲームの攻略情報や画像生成においては、AIがネット上の膨大な雑多情報を学習してしまっているため、あの暴走が起こっていたのです。
ということは、データを限りなく与えないようにして、必要最低限の情報だけでAIを使うことができれば、ハルシネーションに振り回されずに済むということなのでしょうか？
だとしたら、なおさら「リスクを冒して個人情報までAI学習に使っている」というのが、どうもしっくり来ませんよね。
ですが、実はそれにも「AIならではの理由」があるようです。
ハルシネーションのリスクを冒してまで個人情報を学習させる理由
データ量が増えるごとにハルシネーションの発生率が高まるのであれば、なぜリスクを冒して個人情報まで学習させ、サービスを提供しているのでしょうか？
誰もが疑問に思う最大のポイントだと思いますが、これにも明確な理由があると私は考えています。
あくまで私個人の考察ではありますが、結論から先にお伝えしますね。
それは、ネット検索や画像解析、スケジュール調整など「日常のあらゆる場面でAIを活用できるようにするためには、膨大な情報を網羅しておく必要があるから」です。
私が執筆している私小説や、アニメ会社が手がける映像作品のような「創作（クリエイティブ）」の世界であれば、与えられた最小限の情報の中で作業を完結できるため、何の問題もありません。
しかし、1枚の写真に写っている物体を判別したり、個人のスケジュールを調整したりする場合は全く話が変わってきます。
位置情報や行動履歴、個人情報も含めたあらゆるデータを網羅しておかなければ、適切な回答やサポートを提供できないからです。
AIを使うユーザーは、クリエイターだけではありません。
スマホでネット検索をする人もいれば、パソコンでスケジューリングを確認するビジネスパーソンもいます。
そうした多様なニーズに応える「万能な存在」であろうとする以上、個人情報を含む膨大なデータを学習させなければサービスとして成り立たないのです。
だからこそ、ハルシネーション（暴走）という副作用のリスクを高めてでも、AIはあらゆる情報を学習し続けているのだと考えられます。
ハルシネーションを極力抑える賢い付き合い方
では、このハルシネーションのリスクを踏まえて、私たちユーザーはどのようにAIと向き合っていけば良いのでしょうか？
私自身もまだ完全にAIを熟知しているわけではありませんが、一つの提案として「あえて情報を少なく限定した状況（＝縛りプレイ）を作り出すこと」が重要だと感じています。
例えば画像生成で「教室」を描く際、机や席の位置がぐちゃぐちゃになってしまうなら、いっそのこと黒板を中心に描き、席を画面外にカットしてしまうのも一つの手です。
また、あらかじめ構図をまとめたラフや絵コンテをアップロードし、生成するシーンを極限まで絞り込むのも有効な対策です。
（…と言いつつ、ここまで指定しても教壇の真ん前に席を描いてきたりするのがAIの恐ろしいところなのですが…泣）
完璧に防ぎ切ることは難しいものの、「余計なハルシネーションを起こす確率を少しでも下げる抵抗策」としては十分に機能してくれます。
一方、ネット検索や調べものでAIを使う場合は、最初から「ハルシネーションは起きるもの」と頭の片隅に置いておくこと。
そして、AIが出した情報をそのまま鵜呑みにせず、自分で検索して「裏取り」を徹底する。
多少の労力はかかりますが、この割り切りを持っておくだけで、ハルシネーションに振り回されてストレスで疲れ果てることは格段に減るはずです。
AIがどれだけ便利になっているとはいえ、あくまで取っ掛かりの情報を提示し、作業をサポートしてくれる「相棒」的な存在に過ぎません。
だからこそ、くれぐれも「完璧」を求めるような過度な期待はせず、上手く手懐けながら付き合っていきたいものですね。
まとめ
今回はハルシネーションの不具合と学習データの関係性を考察しました。
AIの暴走は気まぐれではなく、あらゆる要望に応える「万能性の代償」です。
とはいえ、作業中にバグを連発されればイラッとするのは人間として当然のこと。
頭で理解していても怒りを抑えるのは難しいものです。
しかし、ハルシネーションの仕組みを知識として頭の片隅に置いておくことには大きな意味があります。
一通りイライラした後に「あぁ、情報が多くてAIが迷子になったんだな」と思い出すことで、ふと冷静さを取り戻し、心を落ち着かせることができるからです。
完璧ではない不器用な相棒だからこそ、現場ではしっかり怒りつつ、後から仕組みを思い出して賢く心をクールダウンさせながら付き合っていきましょう！
コメント