当前位置:

首页 > 系统应用 > ApacheDruid中的数据模型和查询性能(第一部分:查询性能和分层金字塔模型)

ApacheDruid中的数据模型和查询性能(第一部分:查询性能和分层金字塔模型)

介绍靠数据驱动的应用服务和仪表台会对底层的数据存储的性能及规模提出较高的要求。在当今大数据下的时代,每个应用服务或仪表台都可能在一秒内发出几十甚至上百的查询, 一个设计糟糕的查询就可能摧毁整个用户体验。 本教程详尽阐述了Apache Druid中的数据模型和查询性能间的相互作用关系。我们会帮您深入了

介绍

靠数据驱动的应用服务和仪表台会对底层的数据存储的性能及规模提出较高的要求。在当今大数据下的时代,每个应用服务或仪表台都可能在一秒内发出几十甚至上百的查询, 一个设计糟糕的查询就可能摧毁整个用户体验。 本教程详尽阐述了Apache Druid中的数据模型和查询性能间的相互作用关系。我们会帮您深入了解查询请求是如何提交给 Druid 引擎以及 Druid 是如何响应的,并提供了集中优化查询性能的方法和技巧。

首先,我们会讨论我们是如何思考查询性能的。我们的目标是讨论Apache Druid中的数据模型,不过同样重要的是我们要理解数据模型最终是为查询性能而服务的,不然我们还不如随心所欲地导入数据还不在乎导入的数据结构和模型,作为最终目的所有数据模型的讨论都是关于 Druid 查询性能的优化讨论。

其次, 我们会讨论数据模型和查询性能之间的联系,以及它们是如何互相影响的。

最后,我们将介绍如何使用四种最常用的数据模型优化技巧来达到所需要的查询性能:

  • 归并
  • 分区
  • 排序
  • 索引
解锁 Druid 的高性能就在弹指之间

已故伟大的卡尔·萨根(Carl Sagan) 告诉我们如果你想从头开始做一个苹果派,你需要先发明能容纳它的宇宙。类似的,如果想要做一个性能优良的数据类应用,你必须首先理解查询引擎和数据层级是如何协同工作的。

用户所生成的查询请求,会被提交至查询服务器的Broker组件(1),就像下图顶部所展示的那样。自此,查询请求会进行扇出(Fan Out)(2),并分发给数据服务器(Data Server)。每个数据服务器负责处理与自身相关的查询部分(3),最终结果通过扇入(Fan In)传回Broker服务器。Broker组件会合并所有结果(5),然后再将它们返回给用户。

仔细审视这个架构图能帮助我们理解数据模型是怎样影响查询性能。查询请求通过 Broker 运用了扇入和扇出的机制来提高查询效率生成结果。我们会从底部开始,先阐述扇出之后在各个数据服务器节点的查询流程。

这张图被称为查询性能分层金字塔模型(Great Layered Pyramid of Query Performance),帮助我们理解一个查询请求是如何将数据从存储层返回到 Druid 引擎。底下两层是数据服务器 (Data Node) 的行为,上面两层是代表了 Broker 在查询服务器(Query Node)内的行为。扇入机制( Fan In) 发生于这两个部分之间,连接了数据服务器和位于查询服务器的 Broker组件。

在第一讲中,您已经大致了解了查询的机制和分层的金字塔模型。

在后面几讲里,我们会深入解析每个层级里具体的查询细节和性能优化注意事项。

下一篇: Apache Druid 中的数据模型和查询性能 (第二部分:数据服务器查询处理流程)

相关链接:

  • Imply 官方网站:https://imply.io/
  • Apache Druid 官方网站:https://druid.apache.org/
  • Apache Druid 社区用户群:https://www.druidforum.org/
  • Apache Druid Github:https://github.com/apache/druid
  • 快速上手:https://docs.imply.io/latest/quickstart/
  • 预约演示:https://go.imply.io/request-a-demo-mandarin

Imply及Imply属Imply Data, Inc.在美国及/或其他国家均为所有商标。Apache Druid、Druid及Druid商标为Apache Software Foundation在美国及/或其他国家的注册商标或商标。文中所展示的所有其他商标皆为其各自所有者所拥有。

本文内容来源于网友投稿,如有侵权请联系删除。
作者最新文章
系统应用
相关文章 更多
Win11专业版和家庭版安装流程有什么区别
Win11专业版和家庭版安装流程有什么区别

Windows 11 家庭版和专业版在安装步骤上并无本质差异,主要区别在于产品密钥激活和功能解锁。本教程指导你如何检查硬件兼容性、使用官方媒体创建工具制作安装盘,以及在安装过程中正确选择版本。同时解析安装后如何验证激活状态,以及从家庭版升级到专业版的正规路径,确保系统稳定且合规。

除了界面,Windows11和Win10还有哪些实质差异
除了界面,Windows11和Win10还有哪些实质差异

除了开始菜单的变化,Windows 11在TPM 2.0安全要求、窗口贴靠布局、驱动兼容性以及系统更新策略上与Windows 10有显著不同。本文详解两者实质差异,助你判断是否值得升级。

win10专业版和家庭版关闭更新方法差别在哪
win10专业版和家庭版关闭更新方法差别在哪

详解Windows 10家庭版和专业版在关闭或暂停自动更新时的操作区别。涵盖通用的暂停更新、活动时间设置,以及专业版独有的组策略管理入口,帮助不同版本用户合理控制更新节奏,避免系统安全风险。

win10暂停更新最长可以设置多少天怎么操作
win10暂停更新最长可以设置多少天怎么操作

想知道Win10暂停更新最长能设多久?官方支持最长暂停35天。本文图文演示如何在设置中开启暂停、确认生效日期,以及到期后如何恢复更新或调整活动时间以避免打扰。

win10怎么屏蔽win10系统更新的弹窗提醒
win10怎么屏蔽win10系统更新的弹窗提醒

本教程介绍如何在Windows 10中通过暂停更新、设置活动时间及安排重启时间来减少更新弹窗提醒。包含通知隐藏技巧及更新失败排查步骤,帮助你在保持系统安全的同时减少工作打扰。

win10更新后台占用CPU过高怎么关闭自动更新
win10更新后台占用CPU过高怎么关闭自动更新

Windows 10 更新时 CPU 占用过高怎么办?本教程演示如何通过任务管理器确认更新进程,使用“暂停更新”功能临时停止后台活动,并设置“活动时间”防止自动重启干扰工作。提供安全的故障排查步骤,避免直接禁用系统服务带来的风险。

win10正在玩游戏弹出更新重启怎么禁止
win10正在玩游戏弹出更新重启怎么禁止

Win10玩游戏时突然弹出更新重启提示?不要强制关机。本文教你如何通过设置“活动时间”避免自动重启,利用“安排重启”规划空闲时间,以及合理使用“暂停更新”功能。区分不同状态下的应对策略,既保护游戏进度又维持系统安全。

win10自动更新抢占网络带宽该怎么处理
win10自动更新抢占网络带宽该怎么处理

Win10自动更新抢占带宽导致游戏卡顿或网页打不开?本教程教你通过任务管理器确认更新进程,利用暂停更新、按流量计费连接和传递优化带宽限制,精准控制Windows Update下载速度,解决网络拥堵问题。

win10家庭版有没有简单办法阻止强制更新
win10家庭版有没有简单办法阻止强制更新

Win10家庭版用户常受强制更新困扰。本文详解如何利用系统自带的暂停更新、活动时间和安排重启功能,在不破坏系统稳定性的前提下减少更新打扰,并分析注册表修改的风险及系统支持现状。

win10升级新版本后取消开机密码失效怎么修复
win10升级新版本后取消开机密码失效怎么修复

Windows 10更新后开机突然要求输入密码?本文解析自动登录失效的真实原因,提供通过netplwiz重新保存凭据、关闭Windows Hello干扰及排查账户策略的完整步骤,助你恢复免密进入桌面。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
photoshop
photoshop
Windows、macOS 、 iPad

Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。

Blender
Blender
Windows、macOS 和 Linux

Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。

灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

WINDOWS 更多
3dmax(3ds max)
3dmax(3ds max)
Windows

Autodesk 3ds Max 是一款专业的三维建模、动画与渲染软件,广泛应用于建筑可视化、游戏开发、影视动画、广告设计和产品展示等领域。

photoshop
photoshop
Windows、macOS 、 iPad

Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。

Blender
Blender
Windows、macOS 和 Linux

Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。