VisionFM是什么

VisionFM（伏羲慧眼）是多模态多任务的视觉基础模型，专为通用眼科人工智能而设计。通过预训练3.4百万张来自560,457个个体的眼科图像，覆盖广泛的眼科疾病、成像模态、设备和人群统计数据。VisionFM能处理包括眼底摄影、光学相干断层扫描（OCT）、荧光素眼底血管造影（FFA）等在内的八种常见眼科成像模态，应用于眼科疾病识别、疾病进展预测、疾病表型细分以及全身生物标志物和疾病预测等多种眼科AI任务。在诊断12种常见眼科疾病方面超越了具有基础和中级水平的眼科医生，在大规模眼科疾病诊断基准数据库上超越了强大的基线深度神经网络。VisionFM还表现出对新眼科模态、疾病谱系和成像设备的强泛化能力。

VisionFM的主要功能

疾病筛查和诊断：VisionFM能够筛查和诊断多种眼科疾病，包括但不限于糖尿病视网膜病变、青光眼、老年性黄斑变性等。疾病预后：模型还能预测疾病的发展趋势和预后。疾病表型细分：VisionFM可以进行疾病表型的亚分类，包括病变、血管和层的分割，以及地标检测。全身生物标志物和疾病预测：除了眼部疾病，VisionFM还能从眼部图像中预测全身的生物标志物和疾病。多模态处理能力：VisionFM能够处理包括眼底摄影、光学相干断层扫描（OCT）、荧光素眼底血管造影（FFA）在内的八种常见眼科成像模态。模态无关的诊断：VisionFM支持模态无关的诊断，即可以用单一解码器诊断不同成像模态中的多种眼科疾病。少样本学习：VisionFM展现出少样本学习的能力，能够以高准确度诊断新疾病，即使只有少量的标注样本。强大的泛化能力：模型对新的眼科模态、疾病谱系和成像设备展现出强大的泛化能力。合成数据增强学习：VisionFM还能利用合成的眼科成像数据来增强其表示学习能力，从而在下游眼科AI任务上取得显著的性能提升。

VisionFM的技术原理

大规模预训练：VisionFM是一个基于深度学习的视觉基础模型，它通过预训练3.4百万张来自560,457个个体的眼科图像，覆盖广泛的眼科疾病、成像模态、成像设备和人口统计学数据。多模态多任务学习：VisionFM能够处理多种眼科成像模态，包括眼底摄影、OCT、FFA等，并应用于疾病筛查、诊断、疾病预后、疾病表型细分等多种眼科AI任务。专家级智能和准确性：预训练后的VisionFM在多个眼科AI应用中展现出专家级别的智能性和准确性，其全科智能在联合诊断12种常见眼科疾病方面超越了初级和中级眼科医生。

VisionFM的项目地址

Github仓库：https://github.com/ABILab-CUHK/VisionFMarXiv技术论文：https://arxiv.org/pdf/2310.04992

VisionFM的应用场景

眼科临床任务：VisionFM能帮助解决眼科临床任务，特别是在疾病筛查和诊断方面。多种眼科疾病诊断：该模型在诊断和预测多种眼科疾病方面表现出色，包括糖尿病视网膜病变、青光眼、老年性黄斑变性等。基层医疗环境：该模型在影像资源有限的基层医疗环境中可以发挥重要作用，减轻医生的工作负担。低眼科医生密度地区：VisionFM对于眼科医生密度低的地区和国家尤其有用。教育和培训：VisionFM可以作为资深眼科医生，培训初级眼科从业者，其在眼科影像和疾病诊断方面拥有广泛的知识。辅助生成诊断报告：该模型可以与大型语言模型（LLM）集成，生成诊断报告，完成眼科疾病诊断的闭环。