2025年11月15日，第175期北大医学青年科技沙龙通过线上会议形式顺利召开。沙龙聚焦医学人工智能的伦理挑战，关注语言模型的伦理风险以及生成式人工智能搜索对医疗信息生态的潜在影响。本次沙龙由北京大学医学部张海洪副研究员主持，近百位同行专家参与。

学术报告

徐汉辉研究员做报告

复旦大学科技伦理与人类未来研究院徐汉辉研究员针对“大模型在医疗咨询应用中的伦理风险”做专题报告。报告以大模型的医学伦理合规评测和越狱评测为例，发现相比于公共安全等领域，大多数大模型在医学伦理主题中仍存在系统性风险。同时，即使在测评中表现较好的大模型，也面临伦理合规和效率的风险。

康辉博士做报告

华大科技伦理委员会康辉博士围绕“信息守门人”权力与“数字庸医”风险，探讨了生成式人工智能搜索对医疗信息生态的重构与挑战。报告从回形针制造机思想实验切入，分析人工智能搜索医疗健康信息的快速发展趋势，认为检索增强生成技术虽然重构了信息获取范式，但也引发了“数字庸医”风险，不仅给监管、隐私保护带来新的挑战，还可能导致偏向操纵的数字营销，影响医患关系和医学专业责任。

互动交流

专题报告结束后，发言嘉宾针对人工智能时代“用户”的人工智能素养、医学专业人员的伦理责任、医学伦理的适应性发展等问题进行了讨论。

与会人员进行交流

延伸阅读：

北大医学青年科技沙龙一直以来秉承青年引领、跨学科交叉、前沿探索的宗旨，为更多青年学者与资深专家搭建学术交流平台。后续将举办更多精彩活动，践行北京大学科技创新年战略，助力北大医学科研高质量发展，敬请期待！