GLOSSARY

ハルシネーション

（はるしねーしょん）

ハルシネーションとは、AIが事実と異なる内容を、もっともらしく出力する現象のことです。

なぜ起きるのか

言語モデルは、文脈として自然な語を選んで出力します。事実かどうかを判定しているわけではないため、知らないことも埋めてしまいます。

外部の情報を参照させる、出典を明示させる、人が確認する工程を残す。この3つを組み合わせます。

メルカートでは、AIが参照するデータをメルカートDWHに限定することで、根拠のある出力を確保する設計にしています。

ハルシネーションはなくせますか？

ゼロにはできません。確認の工程を前提に設計してください。

商品説明の生成でも起きますか？

起きます。仕様や成分の記載は必ず確認してください。