検索をすると簡単に最適な答えが得られるAIサービス。便利な一方で、その回答には信頼性の問題がつきものです。しかし、今回の出来事は、AIが必ずしも間違うだけではないことを証明していました。
監修者
kawauso 編集長（石原 昌光）
「はじめての三国志」にライターとして参画後、歴史に関する深い知識を活かし活動する編集者・ライター。現在は、日本史から世界史まで幅広いジャンルの記事を1万本以上手がける編集長に。故郷沖縄の歴史に関する勉強会を開催するなどして地域を盛り上げる活動にも精力的に取り組んでいる。FM局FMコザやFMうるまにてラジオパーソナリティを務める他、紙媒体やwebメディアでの掲載多数。大手ゲーム事業の企画立案・監修やセミナーの講師を務めるなど活躍中。
コンテンツ制作責任者
おとぼけ（田畑 雄貴）
PC関連プロダクトデザイン企業のEC運営を担当。並行してインテリア・雑貨のECを立ち上げ後、2014年2月「GMOインターネット株式会社」を通じて事業売却。その後、「はじめての三国志」を創設。戦略設計から実行までの知見を得るためにBtoBプラットフォーム会社、SEOコンサルティング会社にてWEBディレクターとして従事。現在はコンテンツ制作責任者として「わかるたのしさ」を実感して頂けることを大切にコンテンツ制作を行っている。キーワード設計からコンテンツ編集までを取り仕切るディレクションを担当。
6クラス250人の過半数が同じ誤りを犯す
2月初旬、都内の私立中学で理科を担当する男性教師は、授業で出した課題の解答をチェックしている中で違和感を覚えました。課題は唾液アミラーゼの働きについてで、6つのクラスで合計250人の生徒のうち、過半数が＜唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする＞という誤った回答を提出していたのです。彼らが誤答を繰り返すのは不審で、教師は何故そのような状況になったのか疑問に感じました。そこでインターネットで「唾液アミラーゼの働き」と検索すると、すぐに理由が明らかになります。生成AIが、生徒たちが提出したものと同じく、＜唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする＞と表示していたからです。
生成AIを利用した生徒が7割
それから男性教師は、生徒たちに検索サイトの生成AIを使ったか尋ねたところ、6つのクラスで約6～7割の生徒が手を挙げました。学校では課題にネットを利用することが許可されていたが、今回は多くの生徒が、生成AIの回答を疑わずに受け入れ提出してしまったようです。教師は教科書や参考書を確認しながら、でんぷんは胃でなく口と十二指腸で分解されることを説明し、生徒たちは納得しました。
生成AIのソースが間違っていた！
その後、男性教師は生成AIがどの情報を元に回答を生成したのかも調べました。そうすると興味深い事実が明らかになります。生成AIが参照したソースは「キユーピー」のHPで、「一人何役？唾液の働き」と題した特集ページの中に＜唾液に含まれる酵素（アミラーゼ）が、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にします＞との誤った記載があったのです。男性教師は2月18日、自身のSNS（旧ツイッター）にキユーピーに対して投稿し、「もし修正できるならお願いします」とコメントした。
キユーピーがHPを訂正
キユーピーは翌19日に男性教師の投稿から事態を把握し、同社の研究所を含む関連部署で検討を行った結果、でんぷんの消化に関する表現が誤解を招く可能性があると判断。同月28日にはHPの記述から「胃で」を削除し、同時に胃で吸収されることを示すイラストも修正しました。キユーピーによれば、HPの初期の表現は2018年9月から存在し、同社は情報の正確性に注意を払っていくとコメントしています。
生成AIは情報の信頼性を判断しない
生成AIは、質問された内容に関する最適な解答をネット検索から提供しますが、その情報の信頼性は考慮しません。そのため、生成AIが誤った情報を元に解答を提示する可能性があります。つまり、生成AIは意図的に誤情報を提供するわけではないものの、元の情報が間違っている場合、生成される解答も誤りになるのです。インターネット上の情報は信頼性がまちまちであり、最終的な判断は人間が行わなければなりません。生成AIを利用する際は、必ず情報の裏付けを取る習慣が必要でしょう。
▼こちらもどうぞ
