KidneyTalk-open: No-code Deployment of a Private Large Language Model with Medical Documentation-Enhanced Knowledge Database for Kidney Disease
作者: Yongchao Long, Chao Yang, Gongzheng Tang, Jinwei Wang, Zhun Sui, Yuxi Zhou, Shenda Hong, Luxia Zhang
发布时间: 2025-03-07
来源: arxiv
研究方向: 医疗领域的大语言模型（LLM）应用与隐私保护
主要内容
本文介绍了一种名为KidneyTalk-open的桌面系统，该系统旨在解决医疗领域LLM应用中的隐私保护、技术门槛和知识整合问题。系统集成了先进的开源LLM模型、医疗文档处理管道和自适应检索增强管道，为临床医生提供无代码的、安全的、基于文档的医学问答功能。
主要贡献
1. 首次提出并实现了无代码部署的私有大型语言模型系统，用于医疗问答。
2. 设计了一种结合上下文感知分块和智能过滤的医疗文档处理管道。
3. 提出了自适应检索和增强管道（AddRep），通过多个代理协作提高医学文档的召回率。
4. 开发了一个零技术壁垒的图形界面，使临床医生能够管理医疗知识数据库并获得决策支持，无需编程技能。
5. 在 nephrology 考试问题上进行了实验验证，证明了 AddRep 的有效性，并与其他主流产品进行了比较，展示了 KidneyTalk-open 在真实临床查询中的优越性能。
研究方法
1. 本地推理引擎的无代码部署先进的开源LLM模型。
2. 医疗文档处理管道结合上下文感知分块和智能过滤。
3. 自适应检索和增强管道（AddRep）利用代理协作提高医学文档的召回率。
4. 图形界面设计，使临床医生能够管理医疗文档和进行AI辅助咨询。
5. 在 nephrology 考试问题上进行实验验证，并与主流产品进行比较。
实验结果
实验验证表明，AddRep 在 nephrology 考试问题上取得了 29.1% 的准确率，比基线方法提高了 8.1%。与主流产品相比，KidneyTalk-open 在真实临床查询中表现出更全面的性能，涵盖了 5/6 个关键管理维度，而竞争对手最多只覆盖了 2 个维度，并且在指南整合方面存在根本性的失败。
未来工作
增强复杂文档解析能力，例如集成本地PDF解析模型，如MinerU；扩展多模态医疗理解，引入视觉语言模型，构建分析实验室检验报告图像的管道；通过连续优化，KidneyTalk-open 预计将成为临床工作中重要的智能决策伙伴，促进基于证据医学的精准诊断和治疗实践。