hallucination-detection

AI 代理的獨立審計。由人類或代理自行執行，以回答 AI 代理經濟中最關鍵的問題：代理是否在執行其應有的任務？使用 iFixAi，您可在 120 秒內得到答案。

能在 LLM 中直接查詢法制處國家法令資訊的 MCP 伺服器。提供法令、判例、條例搜尋與引用驗證

UpTrain 是一個開源的統一平台，用於評估和改善生成式 AI 應用程式。我們提供 20 多項預先設定檢查的評分（涵蓋語言、程式碼、嵌入使用案例），對失敗案例執行根本原因分析，並提供如何解決這些問題的見解。

開源的端到端平台，用於評估、觀察與改進 LLM 及 AI agent 應用程式。包含追蹤、評估、模擬、資料集、閘道器、安全護欄。支援自行架構。採用 Apache 2.0 授權。

[JMLR 2026] "UQLM：用於大型語言模型不確定性量化的 Python 套件"

Stop your AI from making things up — it proposes, deterministic tools decide, every claim checked against ground truth with evidence. Grounded facts and context survive resets. Reverse engineering is the proving ground. MCP server + CLI.

Dingo：一個全面的 AI 資料、模型與應用程式品質評估工具

AI 程式碼協作工作階段約可減少 97% token——零依賴、支援 33 種語言、MCP 伺服器

針對 RAG、程式碼及工具為基礎的 AI 輸出結果進行 Span 層級的對齊驗證。