此处介绍的是一种使用 3D 打印参考标记设计增强现实智能手机应用程序的方法,用于对患者的解剖三维模型进行可视化。
增强现实 (AR) 在医疗领域的教育、培训和外科指导方面有着巨大的潜力。它与三维 (3D) 打印 (3DP) 的结合为临床应用开辟了新的可能性。尽管这些技术近年来呈指数级增长,但医生采用这些技术仍然有限,因为它们需要广泛的工程和软件开发知识。因此,此协议的目的是描述一个分步方法,使没有经验的用户能够创建一个智能手机应用程序,该应用程序将 AR 和 3DP 结合在一起,使用 3D 打印参考标记来可视化患者的解剖 3D 模型。该协议描述了如何创建从 3D 医学图像派生的患者解剖结构的 3D 虚拟模型。然后,它说明如何相对于标记引用执行 3D 模型的定位。还提供了有关如何 3D 打印所需工具和模型的说明。最后,提供了部署应用的步骤。该协议基于自由和多平台软件,可应用于任何医疗成像方式或患者。介绍了一种替代方法,用于在患者解剖学创建的 3D 打印模型和投影全息图之间提供自动配准。例如,提供了一个患有远端腿肉瘤患者的临床案例来说明该方法。预计该协议将加速医疗专业人员采用AR和3DP技术。
AR 和 3DP 是提供越来越多的医疗应用的技术。在AR的情况下,它与虚拟3D模型和真实环境的互动有利于医生在教育和培训1,2,3,与其他医生的沟通和互动4,并在临床干预5,6,7,8,9,10的指导。同样,3DP已成为医生在开发患者特定的可定制工具11,12,13或创建患者解剖学的3D模型,这有助于改善术前规划和临床干预14,15的强大解决方案。
AR 和 3DP 技术都有助于提高医疗程序的方向、指导和空间技能;因此,它们的组合是下一个逻辑步骤。以往的工作表明,他们的联合使用可以增加患者教育的价值16,促进解释医疗条件和建议的治疗,优化手术工作流程17,18和改进患者到模型登记19。尽管这些技术近年来呈指数级增长,但医生采用这些技术仍然有限,因为它们需要广泛的工程和软件开发知识。因此,本工作的目的是描述一种分步方法,使没有经验的用户无需广泛的技术知识即可使用AR和3DP。
该协议描述了如何开发 AR 智能手机应用程序,允许使用智能手机摄像头跟踪的 3D 打印标记将任何基于患者的 3D 模型叠加到真实环境中。此外,还介绍了一种替代方法,用于在 3D 打印的生物模型(即从患者的解剖结构创建的 3D 模型)和投影全息图之间提供自动配准。所述协议完全基于自由和多平台软件。
在以前的工作中,AR患者对图像的配准是使用表面识别算法10手动计算的,或者已经不可用2。当需要准确的登记时,这些方法被认为有些有限。为了克服这些限制,此工作提供了工具,通过结合 AR 技术和 3DP,在 AR 程序中执行准确而简单的患者到图像注册。
该协议是通用的,可应用于任何医学成像方式或患者。例如,提供了一个患有远端腿肉瘤的患者的真实临床案例来说明该方法。第一步介绍如何轻松地从计算机断层扫描 (CT) 医学图像中分割受影响的解剖结构以生成 3D 虚拟模型。之后,对 3D 模型进行定位,然后对所需的工具和模型进行 3D 打印。最后,部署了所需的 AR 应用。这个程序允许实时可视化患者3D模型覆盖在智能手机相机上。
这项研究是根据2013年修订的1964年《赫尔辛基宣言》的原则进行的。本文中包含的匿名患者数据和图片是在获得参与者和/或其法律代表的书面知情同意后使用的,其中他/她批准将这些数据用于传播活动,包括科学出版物。
1. 用于分段、3D 模型提取、定位和 AR 应用部署的工作站设置
注:此协议已使用每个工具所指示的特定软件版本进行了测试。它很可能适用于较新版本,尽管不能保证。
2. 生物模型创建
注:本节的目标是创建患者解剖学的3D模型。它们将通过对医学图像应用分割方法(此处,使用 CT 图像)获得。该过程包括三个不同的步骤:1) 将患者数据加载到 3D 切片器软件中,2、对目标解剖体积进行分割,以及 3) 以 OBJ 格式将分段导出为 3D 模型。生成的 3D 模型将在最终的 AR 应用程序中可视化。
3. 生物模型定位
注:在本节中,第 2 节中创建的 3D 模型将相对于增强现实可视化的标记进行定位。来自 3D 切片器的ARHealth:模型位置模块将用于此任务。按照步骤 1.3 中提供的说明将模块添加到 3D 切片器。定位 3D 模型有两种不同的替代方法:"可视化"模式和"注册"模式。
4. 3D打印
注:此步骤的目的是 3D 打印最终 AR 应用程序所需的物理模型。应用程序要检测的标记和所需的不同对象取决于第 3 节中选择的模式。任何材料都可用于 3D 打印,以便按照每个步骤要求的颜色材料进行。聚乳酸 (PLA) 或丙烯酰胺苯乙烯 (ABS) 都是足够的选择。
注:步骤 4.3 中的 3D 打印对象可以打印在任何颜色材料中。
5. AR 应用程序部署
注意:本节的目标是在 Unity 引擎中设计一个智能手机应用程序,其中包括前面部分中创建的 3D 模型,并将此应用程序部署到智能手机上。此步骤需要一个 Vuforia 开发许可证密钥(免费供个人使用)。该应用程序可以部署在 Android 或 iOS 设备上。
6. 应用可视化
该协议应用于患有远端腿肉瘤的患者的数据,以便从三维角度可视化受影响的解剖区域。使用第2节所述的方法,从患者的CT扫描中分离了受影响的骨骼部分(这里,骨质和纤维瘤)和肿瘤。然后,使用3D切片机的分割工具,创建了两个生物模型:骨骼(骨质和纤维瘤部分)(图1A)和肿瘤(图1B)。
接下来,两个 3D 模型几乎相对于标记进行了定位,以实现最佳可视化。本示例遵循了第 3 节中描述的两种模式。对于可视化模式,模型居中于标记的上表面(图 2)。对于注册模式,标记适配器位于骨骼中(具体来说,tibia =图 3*)。然后,使用 3D 标记适配器(图 4) 选择一小部分的 tibia 进行 3D 打印。Ultimaker 3 扩展 3D 打印机与 PLA 材料用于创建 3D 打印标记 (图 5A, B),标记持有人基础 (图 5C) 为"可视化"模式, 和部分 tibia 的"注册"模式 (图 5D)。图 5E显示了标记如何附加到"可视化"模式 3D 打印基。图 5F显示了带有"注册"模式的附件,3D 打印的生物模型。最后,Unity 用于创建应用程序并将其部署到智能手机上。
图 6显示了应用在"可视化"模式下的工作方式。全息图准确位于立方体的上部,如先前定义的那样。图 7显示了"注册"模式的应用程序,其中应用程序将完整的骨骼模型放置在 3D 打印部分的顶部。全息图的最终可视化清晰而逼真,保持了生物模型的真实尺寸,并准确定位。使用智能手机应用程序时,相机需要看到 AR 标记,应用程序才能正确显示全息图。此外,场景中的光线条件必须具有良好的质量和恒定,以便进行正确的标记检测。标记表面上的不良光照条件或反射会妨碍 AR 标记的跟踪,并导致应用程序出现故障。
创建应用所需的时间取决于几个因素。第 1 节的持续时间受下载速度的限制。关于解剖分割(第 2 节),影响分割时间的因素包括区域复杂性和医学成像方式(即 CT 易于分割,而 MRI 则更难)。对于 tibia 的代表性示例,从 CT 扫描生成两个 3D 模型大约需要 10 分钟。生物模型定位(第 3 节)简单明了。在这里,大约花了5分钟才定义与AR标记生物模型的位置。对于 3D 打印步骤,持续时间高度依赖于所选模式。"双色标记"在 5 小时 20 分钟内以高质量制造。"贴纸标记"在 1 小时 30 分钟内制造,加上粘贴贴纸所需的时间。应用开发的最后一步对于没有 Unity 经验的人来说可能非常耗时,但按照协议步骤可以轻松完成。一旦 AR 标记经过 3D 打印,即可在不到 1 小时内完成全新 AR 应用程序的开发。通过额外的经验,可以进一步缩短此持续时间。
图1:从远端腿肉瘤患者的CT图像创建的3D模型的表示。(A) 以白色表示的骨组织(头骨和腓骨)。(B) 以红色表示的肿瘤。请点击此处查看此图的较大版本。
图 2:结果显示 3D 切片器中的"可视化"模式如何相对于 3D 打印标记参考定位骨骼和肿瘤的虚拟 3D 模型。患者 3D 模型 (A) 位于标记立方体 (B) 的上表面上方。请点击此处查看此图的较大版本。
图 3:显示 3D 切片器中的"注册"模式如何相对于 3D 打印标记参考 (B) 定位骨骼和肿瘤的虚拟 3D 模型 (A)。标记适配器连接到骨组织模型。请点击此处查看此图的较大版本。
图4:骨组织小部分和3D标记适配器。两个组件组合后进行 3D 打印。请点击此处查看此图的较大版本。
图 5:最终应用程序所需的 3D 打印工具。(A) "双色立方体标记"3D 打印,有两种颜色的材料。(B) "贴纸立方体标记"3D打印,贴有贴纸。(C) 标记基多维数据集适配器.(D) 患者骨组织3D模型和标记立方体适配器的部分。(E) 放置在标记基立方体适配器中的"贴纸立方体标记"。(F) "双色立方体标记"放置在附着在患者解剖结构上的标记适配器中。请点击此处查看此图的较大版本。
图 6:使用"可视化"模式时应用显示。患者受影响的解剖 3D 模型位于 3D 打印立方体的上表面上方。请点击此处查看此图的较大版本。
图 7:使用"注册"模式时的 AR 可视化。3D 打印标记支持将 3D 打印的生物模型与虚拟 3D 模型进行注册。请点击此处查看此图的较大版本。
AR在医疗领域的教育、培训和外科指导方面有着巨大的潜力。它与 3D 打印的开放式结合可能为临床应用开辟新的可能性。该协议描述了一种方法,使没有经验的用户能够创建一个智能手机应用程序,结合AR和3DP,以可视化患者的解剖3D模型与3D打印参考标记。
一般来说,AR 和 3DP 最有趣的临床应用之一是改善患者与医生的沟通,为患者提供不同的病例视角,改进对特定医疗条件或治疗的解释。另一个可能的应用包括目标定位的手术指导,其中3D打印的患者专用工具(附有参考AR标记)可以放置在刚性结构(即骨骼)上,并用作导航参考。此应用对于骨科和颌面外科手术特别有用,在手术过程中很容易接触到骨组织表面。
该协议从第 1 节开始,描述工作站设置和必要的软件工具。第 2 节介绍如何使用 3D 切片器软件从任何医学成像模式轻松分割患者的目标解剖,以获得 3D 模型。此步骤至关重要,因为创建的虚拟 3D 模型是最终 AR 应用程序中显示的模型。
在第 3 节中,3D 切片器用于使用 AR 标记注册上一节中创建的 3D 模型。在此注册过程中,患者 3D 模型能够根据 AR 标记高效且简单定位。本节中定义的位置将确定最终应用中的全息图相对位置。据认为,此解决方案降低了复杂性,并增加了可能的应用程序。第 3 节描述了两个不同的选项来定义模型和 AR 标记之间的空间关系:"可视化"和"注册"模式。第一个选项"可视化"模式允许 3D 模型相对于标记放置在任何位置,并显示为整个生物模型。此模式提供患者解剖学的逼真的 3D 视角,并允许通过移动跟踪的 AR 标记来移动和旋转生物模型。第二个选项"注册"模式允许将标记适配器附着和组合到生物模型的任何部分,从而提供自动注册过程。使用此选项,3D 模型的一小部分(包括标记适配器)可以进行 3D 打印,并且应用程序可以将模型的其余部分显示为全息图。
第 4 节提供了 3D 打印流程的指南。首先,用户可以在两个不同的标记之间进行选择:"双色标记"和"贴纸标记"。整个"双色标记"可以 3D 打印,但需要双挤出机 3D 打印机。如果此打印机不可用,则建议使用"贴纸标记"。这是一个更简单的标记,可以通过 3D 打印立方结构,然后粘贴立方体的图像与贴纸纸或贴纸胶获得。此外,两个标记都设计了可扩展部分,以完美地适应特定的适配器。因此,标记可以在多种情况下重复使用。
第 5 节介绍了使用 Vuforia 软件开发工具包为 AR 创建 Unity 项目的过程。对于没有编程经验的用户来说,此步骤可能是最困难的部分,但使用这些准则,应该更容易获得第 6 节中介绍的最终应用程序。当相机识别 3D 打印标记时,应用程序会在智能手机屏幕上显示患者的虚拟模型。为了使应用程序检测到 3D 标记,需要从手机到标记的最小距离约 40 厘米或更少,以及良好的照明条件。
该协议的最终应用允许用户选择特定的生物模型来可视化和位置。此外,该应用程序可以使用连接到生物模型的3D打印标记和适配器执行自动患者全息图注册。这解决了以直接和方便的方式将虚拟模型注册到环境中的挑战。此外,这种方法不需要广泛的医学成像或软件开发知识,不依赖于复杂的硬件和昂贵的软件,可以在短时间内实施。预计这种方法将有助于加快医疗专业人员采用AR和3DP技术。
作者没有什么可透露的。
本报告得到PI18/01625和PI15/02121项目(西恩西亚大学、圣卡洛斯三世研究所和欧洲区域发展基金"欧洲大学")和欧洲区域发展基金(马德里大学)的支持。
Name | Company | Catalog Number | Comments |
3D Printing material: Acrylonitrile Butadiene Styrene (ABS) | Thermoplastic polymer material usually used in domestic 3D printers. | ||
3D Printing material: Polylactic Acid (PLA) | Bioplastic material usually used in domestic 3D printers. | ||
3D Slicer | Open-source software platform for medical image informatics, image processing, and three-dimensional visualization | ||
Android | Alphabet, Inc. | Android is a mobile operating system developed by Google. It is based on a modified version of the Linux kernel and other open source software, and is designed primarily for touchscreen mobile devices such as smartphones and tablets. | |
Autodesk Meshmixer | Autodesk, Inc. | Meshmixer is state-of-the-art software for working with triangle meshes. Free software. | |
iPhone OS | Apple, Inc. | iPhone OS is a mobile operating system created and developed by Apple Inc. exclusively for its hardware. | |
Ultimaker 3 Extended | Ultimaker BV | Fused deposition modeling 3D printer. | |
Unity | Unity Technologies | Unity is a real-time development platform to create 3D, 2D VR & AR visualizations for Games, Auto, Transportation, Film, Animation, Architecture, Engineering & more. Free software. | |
Xcode | Apple, Inc. | Xcode is a complete developer toolset for creating apps for Mac, iPhone, iPad, Apple Watch, and Apple TV. Free software. |
请求许可使用此 JoVE 文章的文本或图形
请求许可探索更多文章
This article has been published
Video Coming Soon
版权所属 © 2025 MyJoVE 公司版权所有,本公司不涉及任何医疗业务和医疗服务。