ハルシネーション

LLMが事実に基づかない情報を、あたかも真実であるかのように生成してしまう現象。幻覚とも呼ばれる。マルチモーダルAIでは、画像の内容を誤って解釈したり、存在しない詳細を追加したりすることがある。RAGの活用、情報源の明示、ファクトチェック機能の組み込みなどで対策が進められている。