因果驅動與不確定性感知的可信基礎模型推理

基礎模型推理作為當前人工智能領域最前沿的研究之一，在推 動知識應用與復雜決策方面展現出革命性潛力。在疾病診斷、 風險管理等高風險領域的決策任務中，需要模型精准應用領域 知識，並提供可靠的推理過程。針對現有基礎模型存在的知識 沖突、幻覺及推理不可信等挑戰，本項目旨在構建可信推理框 架，具體解決兩個關鍵問題：

• 問題一：如何識別評估基礎模型推理鏈中的不確定性？
• 問題二：如何迭代並改善推理鏈，使基礎模型決策更可 信？

針對問題一，本項目將探索不確定性感知的推理鏈分析方案， 通過度量模型對知識的不確定性，構建系統化的性評估框架， 量化推理鏈中各環節的置信度。首先，通過概率建模與不確定 性量化技術，度量模型在推理鏈各環節對領域知識的置信度。 進一步，捕捉推理鏈中的問題節點，識別潛在的知識沖突與幻 覺風險，為后續優化提供依據。

針對問題二，本項目將探索因果驅動的推理鏈優化方案，結合 因果推理算法，識別並優化推理鏈中的關鍵問題節點。首先， 將針對推理過程進行因果建模，為問題節點開發健全且完備的 識別算法。進一步，將針對所識別的問題節點，結合RAG技 術，主動和外部環境進行交互，調整並更新所用領域知識，迭 代地優化推理可靠性。