谷歌引入 TpuGraphs 数据集以提升 AI 模型的深度学习能力

谷歌最近推出了一个名为TpuGraphs的模型训练数据集，主要用于优化编译器和提升人工智能深度学习能力

▲ 图片来源 谷歌博客（下同）

谷歌指出，当前的AI深度学习系统通常使用TensorFlow、JAX、PyTorch等框架进行训练。这些框架主要通过底层编译器的启发式算法来优化模型。在相关的编译器中应用"学习成本模型"可以改善编译器的性能，并提升最终输出模型的深度学习能力

谷歌推出的 TpuGraphs 数据集被IT之家获悉，它是一款“学习成本模型”。这个数据集主要包含了各种开源深度学习程序，涵盖了多种热门模型架构，例如 ResNet、EfficientNet、Mask R-CNN 和 Transformer 等

谷歌声称，与业界竞品相比，谷歌的 TpuGraphs 数据集在“平均图大小”方面大了 770 倍，在“图数量”方面增加了 25 倍。谷歌声称，应用 TpuGraphs 数据集可以有效解决最终输出模型的“可扩展性”、“效率”和“质量”等问题

除此之外，谷歌还推出了一种名为GST（Graph Segment Training）的模型训练方法，该方法允许在内存有限的设备上训练大型图神经网络。据称，这种方法可以将模型的“端到端训练时间”缩短三倍，有效提高模型训练效率