透明的神经网络：模型浏览器让您了解人工智能的“黑匣子”内部

Google 推出了 一种新的机器学习图形可视化工具 Model Explorer，让您可以通过以直观的分层格式可视化模型来探索、调试和优化 ML 模型。

图形可视化在模型开发过程中起着关键作用。它可以帮助您查找并修复转换和量化错误、识别性能瓶颈、找到优化模式以及更好地理解模型架构。当将模型部署到资源受限的设备（例如移动设备）时，此类功能特别有用。

然而，变压器和扩散器等现代模型的规模和复杂性不断增加，对现有可视化工具构成了重大挑战。大型 Transformer 模型通常会使传统渲染器过载，从而导致渲染失败或渲染复杂性过高。

Model Explorer 就是为了解决此类问题而设计的。该工具能够可视化大型模型并提供分层信息，例如函数名称和范围。

Model Explorer 支持各种图形格式，包括 JAX、PyTorch、TensorFlow 和 TensorFlow Lite 中使用的图形格式。 Model Explorer 最初是为 Google 研究人员和工程师设计的，现在 作为 Google AI Edge 产品线的一部分 提供。

将大型模型部署到设备时，模型资源管理器特别有用，其中转换、量化和优化数据的可视化非常重要。该工具结合了 3D 游戏制作和动画中使用的图形技术，使其适用于图形可视化。这使您可以了解模型架构、调试转换错误和性能问题。

由 WebGL 和 Three.js 提供支持的 GPU 加速渲染可在 60 FPS 下提供流畅的性能，即使对于包含数万个节点的图形也能创建逼真的运动和交互。该工具还使用实例技术在场景中的不同位置同时显示对象的多个副本。具有 50,000 个节点和 5,000 个边的图形的示例展示了具有集成显卡的 2019 Macbook Pro 上的流畅性能。

为了调试转换错误，模型资源管理器提供了并排图形比较模式，允许您通过比较图层输入和输出的形状和数据类型来查找转换错误。

模型资源管理器的另一个重要功能是能够在图形节点上叠加数据，允许您根据该数据对节点进行排序、搜索和设置样式。结合分层视图，用户可以快速将性能问题或数值错误隔离到图表的特定区域。

Model Explorer 提供了一种强大的新方法来分析架构和调试任何规模的模型，而不会牺牲用户体验或渲染性能。该工具提供了模型结构的清晰视图，通过层和分组提高了理解，并包括层级调试和见解以支持模型分析。