清华团队提出知识引导的图 Transformer 预训练框架：提高分子表征学习的方法
编辑|紫罗为了促进分子特性预测，在药物发现领域，学习有效的分子特征表征非常重要。最近，人们通过采用自监督学习技术，预先训练图神经网络（GNN）来克服数据稀缺的挑战。然而，目前基于自监督学习的方法存在两个主要问题：缺乏明确的自监督学习策略和GNN的能力有限近日，来自清华大学、西湖大学和之江实验室的研究团队，提出了知识引导的图Transformer预训练（Knowledge-guidedPre-trainingofGraphTransformer，KPGT），这是一种自监督学习框架，通过显著增强的分子表征学习
为了促进分子特性预测，在药物发现领域，学习有效的分子特征表征非常重要。最近，人们通过采用自监督学习技术，预先训练图神经网络（GNN）来克服数据稀缺的挑战。然而，目前基于自监督学习的方法存在两个主要问题：缺乏明确的自监督学习策略和 GNN 的能力有限
近日，来自清华大学、西湖大学和之江实验室的研究团队，提出了知识引导的图 Transformer 预训练（Knowledge-guided Pre-training of Graph Transformer，KPGT），这是一种自监督学习框架，通过显著增强的分子表征学习提供改进的、可泛化和稳健的分子特性预测。KPGT 框架集成了专为分子图设计的图 Transformer 和知识引导的预训练策略，以充分捕获分子的结构和语义知识。
通过对 63 个数据集进行广泛的计算测试，KPGT 在预测各个领域的分子特性方面表现出了卓越的性能。此外，通过鉴定两种抗肿瘤靶点的潜在抑制剂验证了 KPGT 在药物发现中的实际适用性。总体而言，KPGT 可以为推进 AI 辅助药物发现过程提供强大且有用的工具。
该研究以《A knowledge-guided pre-training framework for improving molecular representation learning》为题，于 2023 年 11 月 21 日发布在《Nature Communications》上。
通过实验确定分子特性需要大量时间和资源，鉴定具有所需特性的分子是药物发现领域最重大的挑战之一。近年来，基于人工智能的方法在预测分子特性方面发挥着越来越重要的作用。基于人工智能的分子特性预测方法的主要挑战之一是分子的表征
近年来，基于深度学习的方法的出现成为预测分子特性的潜在有用工具，主要是因为它们具有从简单输入数据中自动提取有效特征的卓越能力。值得注意的是，各种神经网络架构，包括循环神经网络（RNN）、卷积神经网络（CNN）和图神经网络（GNN）擅长对各种格式的分子数据进行建模，从简化的分子输入行输入系统（SMILES）到分子图像和分子图。然而，标记分子的有限可用性和化学空间的广阔限制了它们的预测性能，特别是在处理分布外数据样本时。
随着自监督学习方法在自然语言处理和计算机视觉领域取得的显著成就，这些技术已被应用于预训练 GNN 并改进分子的表征学习，从而在下游分子性质预测任务中取得了实质性的进展
研究人员假设将定量描述分子特征的额外知识引入自监督学习框架可以有效应对这些挑战。分子有许多定量特征，例如分子描述符和指纹，可以通过当前建立的计算工具轻松获得。整合这些额外的知识可以将丰富的分子语义信息引入自监督学习中，从而大大增强语义丰富的分子表征的获取。
通常，现有的自监督学习方法依赖于GNN作为核心模型。然而，GNN的模型容量有限。此外，GNN可能很难捕捉原子之间的远程交互。而基于Transformer的模型已经成为一种改变游戏规则的模型。它的特点是参数数量不断增加，并且能够捕捉到长程相互作用，为全面模拟分子的结构特征提供了有希望的途径
自监督学习框架 KPGT
在这项研究中，研究人员引入了一种名为 KPGT 的自监督学习框架，旨在加强分子表征学习，从而推动下游的分子属性预测任务。KPGT 框架由两个主要组件组成：一个被称为 Line Graph Transformer（LiGhT）的主干模型和一个知识引导的预训练策略。KPGT 框架结合了高容量的 LiGhT 模型，该模型专门用于准确建模分子图结构，并利用知识引导的预训练策略来捕捉分子结构和语义知识
研究团队使用ChEMBL29数据集中的约200万个分子，通过知识引导的预训练策略对LiGhT进行了预训练
重写内容为：图表：KPGT 概述。（资料来源：论文）
KPGT 在分子性质预测方面优于基线方法。与几种基线方法相比，KPGT 在 63 个数据集上取得了很大的进步。
此外，通过成功利用 KPGT 识别造血祖细胞激酶 1 (HPK1) 和成纤维细胞生长因子受体 (FGFR1) 两个抗肿瘤靶点的潜在抑制剂，展示了 KPGT 的实际应用性。
研究局限性
尽管 KPGT 在有效分子特性预测方面具有优势，但仍然存在一些局限性。
首先，附加知识的整合是所提方法最显著的特征。除了 KPGT 中使用的 200 个分子描述符和 512 个 RDKFP 之外，还有可能纳入各种其他类型的附加信息知识。 此外，进一步的研究可以将三维 (3D) 分子构象整合到预训练过程中，从而使模型能够捕获有关分子的重要 3D 信息，并有可能增强表征学习能力。 虽然 KPGT 目前采用具有大约 1 亿个参数的主干模型，以及对 200 万个分子的预训练，但探索更大规模的预训练可以为分子表征学习提供更实质性的好处。
总的来说，KPGT 为有效的分子表征学习提供了强大的自监督学习框架，从而推动了人工智能辅助药物发现领域的发展。
论文链接：https://www.nature.com/articles/s41467-023-43214-1
Android作为用户最多的移动操作系统，其开放性支持厂商定制与多元应用生态。用户可通过官方商店或第三方渠道获取APK格式应用，安装时需注意来源安全并手动授权。使用中应管理应用权限，定期清理软件，建议从官方下载并设置密码，以保护隐私与设备安全。
负载均衡是提升系统可用性与性能的关键技术。本文介绍其核心概念，包括分发算法与健康检查机制。通过对比Nginx、SpringCloud等常见方案，阐述其适用场景。最后，以Nginx配置为例，演示如何快速搭建一个基础的负载均衡环境，帮助开发者理解并实践这一重要架构模式。
Ubuntu默认仅支持英文输入，需用户自行安装中文输入法。主流框架有IBus（集成度高）和Fcitx（功能丰富），安装后需在系统设置中切换并重启。常见问题如快捷键冲突或应用内无法调出输入法，可通过调整设置或安装对应模块解决。掌握输入法配置是融入Ubuntu生态、实现个性化使用的关键一步。
WindowsPhone以其独特的动态磁贴界面和与微软服务的深度整合而著称。本文旨在为新手提供一个清晰的入门指南，涵盖系统核心特性、基础操作设置以及应用生态的获取与使用。通过了解主屏幕定制、系统导航和账户关联，用户可以快速上手并高效利用这款移动操作系统，探索其简洁高效的设计哲学。
Unity是一款跨平台游戏引擎，支持2D/3D、VR/AR及数字孪生开发。核心优势是可视化编辑器与脚本扩展，覆盖20多个平台。项目需保留Assets、Packages、ProjectSettings文件夹。场景中的GameObject依靠组件实现功能，Transform组件必备。图片建议使用PNG格式，注意碰撞层与显示层设置。
Go语言是一种现代编程语言，以其快速、高效和易用性著称。其必备特性包括：变量和常量：变量可重新赋值，而常量一旦声明就无法修改。数据类型：提供丰富的内置数据类型，包括数值、字符串、集合等。控制流：支持if-else、for循环和switch-case语句。函数：支持函数声明和调用。并发和Goroutine：提供Goroutine（轻量级线程），支持并发编程。
入门Java：创建并运行简单程序，熟悉语法和编译过程。循环：使用for循环重复执行代码块。数组：声明数组类型、长度，并填充元素。方法：使用类封装代码块，传递参数调用方法。异常处理：使用try-catch块捕获并处理异常。实战应用：使用数组和循环计算并打印斐波那契数列。
Go编程入门常见疑点消解：通过brew、apt或choco安装Go并检查版本；编写helloworld程序并运行；使用var关键字或简写定义变量；Go支持整数、浮点数和布尔等数据类型；函数是可重用的代码块，用于执行特定任务；错误可以用error类型变量表示，并在错误发生时返回。
Go语言新手入门手册涵盖以下内容：安装与配置：下载工具链，设置环境变量，验证安装。基本语法：变量声明、函数声明、数据类型、控制流、数组和切片。并发编程：戈程、通道、同步原语。数据结构：map、slice、struct。实战案例：创建一个简单的Web服务器，在浏览器中运行。
随着互联网时代的到来，网站和应用程序越来越受到人们的欢迎。在Web开发中，PHP是一个非常流行的脚本语言。PHP是一种解释性语言，它可以在服务器上执行。由于PHP语言易学易用，因此它成为了PHP开发人员的首选之一。但是，当涉及到高负载应用程序或在服务器上处理大量数据时，PHP是不太适合的。因此，我们需要使用线程池来解决这个问题。线程池是什么？线程池是一
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
