当前位置:

首页 > 业界资讯 > 大数据不是Hadoop,基础软件国产化替代加速

大数据不是Hadoop,基础软件国产化替代加速

近年来,大数据产业飞速发展,应用层和基础层软件不断进步,但是实施复杂、技术进步步伐迟滞的Hadoop却不断遭遇挑战,各种替代技术不断涌现。


以前,在人们的心目中,大数据就是Hadoop。

近年来,大数据产业飞速发展,应用层和基础层软件不断进步,但是实施复杂、技术进步步伐迟滞的Hadoop却不断遭遇挑战,各种替代技术不断涌现。

11月1日,在2019金融科技产业峰会上,在金融、通信、能源、政府等行业得到广泛应用的中国大数据基础软件提供商星环科技CEO孙元浩表示,星环科技已经完成了大数据基础软件的完全自主研发,未来将不会存在开源软件Hadoop身影。

星环科技CEO孙元浩接受记者采访

同时,受国家自主可控政策的支持,以及星环科技技术的不断突破,星环科技不但一年内获得两次融资,其大数据基础软件产品在不同领域开始替换甲骨文、IBM等国外软件。

中国软件网观察,大数据基础软件的国产化替代加速。

抛弃开源Hadoop 坚持自主研发

毫无疑问,星环科技的产品研发从开源Hadoop起步,慢慢的离开源软件越来越远了。星环科技为什么要放弃开源坚持自主研发的道路呢?

孙元浩说,不管是开源还是闭源,其实都是一种营销的方式,现在成功的开源软件基本上背后都由商业公司在运作,开源只是一种营销手段而已。

星环科技创始团队2009年起即开始致力于大数据平台软件的自主创新和开发,早期的产品基于Hadoop技术在做改进,直到2013年创立星环科技、发现Hadoop技术上碰到了难以逾越的挑战。Hadoop是基于15年前的技术环境设计的,如今的硬件技术环境发生根本性变化,网络普及万兆,存储每秒钟能够做上百万次操作,当时的架构已经完全跟不上硬件的发展。另一个原因,Hadoop软件是仿造谷歌的系统来构建的,最初的目标是用于互联网公司的日志处理和营销推广等场景。当这个技术应用到各行各业时,就发现它在功能缺失、一致性和可靠性、高性能并发等问题上的局限性,无法突破,甚至有分析机构说Hadoop已死,因此星环科技认为修补已经不能解决根本问题,需要重新设计大数据软件。

在这样的背景下,为了支持企业现有的大数据业务的同时更换大数据技术引擎,在接口保持兼容的同时,星环科技重构一个五层架构,开始自主研发。脱离了原来架构,更容易在技术上突破,如在分析数据库,星环科技远远甩开了国外的大数据厂商,也超过了传统数据库厂商。在一些数据技术上面,星环科技可以把批处理与事件驱动的流处理融合,实现了别人难以实现的技术突破。

星环科技研发总监刘汪根介绍,经过6年的自主研发,星环科技建立了多个产品系列,包括:

在分布式数据库领域,目前星环科技是国内少有的能够覆盖几乎全部数据库品类的厂商。在分析型数据库方面星环有两款产品,一个是基于Hadoop打造的分析数据库Inceptor,另外一个是完全自研的专门为新一代的硬件闪存设计的闪存数据库ArgoDB。

过去不管是开源技术还是商用产品,都不能处理大规模的图,尤其是中国的用户群巨大,我们需要有一个更具扩展性的图数据库。星环科技分布式图数据库StellarDB就提供大规模的图片搜索、检索、分析。

未来闪存将成为服务器的主流,目前几乎所有芯片公司或者服务器公司的服务器当中都已配备闪存服务器。从用户角度分析,用户既需要一个能够具有高性能的数据库,同时也希望出现一个兼顾分布式数据处理的简化架构而不再是太多的组件。ArgoDB拥有分布式处理的引擎以及分布式的SQL引擎,是星环科技自主知识产权的数据库。

在交易数据库方面,虽然星环最近两年才开始投入,也拥有一个比较完整的产品线。交易型数据库KunDB、分布式图数据库StellarDB和NoSQL数据库Hyperbase。分布式数据库产品目前在国内的装机量达到十万级别。

从大的产品分布来讲,星环科技推出了基于容器的智能大数据云平台Transwarp Data Cloud ( TDC )、一站式大数据平台Transwarp Data Hub ( TDH )、智子人工智能平台Transwarp Sophon,覆盖ABC三大领域。

国产化替代加速

作为一家自主研发的大数据基础软件提供商,星环科技在国内已经拥有1600多家用户,它们选择使用星环科技的平台构建大数据底层的基础设施,为各个行业赋予相关的业务能力,包括了金融、政府、能源、运营商、交通、媒体、物流等。

在诸多领域,星环科技的平台已经在众多行业开始替代包括甲骨文、IBM,甚至一些国外Hadoop供应商的产品。

孙元浩表示,替代国外产品主要还是技术革命造成的,不光在中国发生,在美国创新型的大数据基础软件也开始替代传统企业的数据库等产品,面对日益增加的数据量,传统软件的处理性能已经无法满足用户需求,分布式技术带来的性能飞跃是客户进行替换的一个重要动力。在新的技术领域,星环科技走得会更快一点,替代成功的项目更多一点。

自主可控大数据软件和硬件得到国家政策的鼓励与支持,政府加强对知识产权的重视,加强对芯片、原创数据库、软件和人工智能产品等一系列国产化技术的重视,鼓励原创技术企业发展。科研上加强基础人才培养,鼓励重视原创,从企业上下游加强合作,共同推进产业发展,也是星环科技坚持自主研发的另一个外在驱动力。

两次融资 钱会花在哪

10月底,星环科技宣布完成D2轮融资,融资金额约5亿元人民币。参与本轮投资的包括知名投资机构金石投资、中金资本、渤海中盛和国家级的产业投资基金。这距星环科技D1轮融资,过去了仅仅半年多的时间。

能够得到资本青睐,源于星环科技技术的突破和业务增长。参与星环科技两轮投资的中金资本董事总经理张清表示:"星环科技在核心基础软件领域历时六年自主研发,实现了分布式核心软件的重构,产品和技术达到了世界领先水平,并且引领了大数据技术的发展方向。星环科技的产品布局广泛,覆盖了数据库领域的各个产品品类,并能持续保持创新和技术领先。"

这两次融资,钱会花在哪?是市场推广还是在研发上?孙元浩介绍,融资用途包括三大块:

从产品研发上,星环科技产品覆盖ABC三大领域,充分发挥大数据平台的多年积累和技术优势,完善人工智能平台建设,并推出新一代智能大数据云平台。在研发上面,星环科技将在现有的AI、大数据、云计算三方面加大研发投入。在基础软件领域的研发投入是持续的,新的融资让星环科技有足够的力量在现有的领域深入,更加有机会实现“成为世界级的基础软件公司”的目标。

在市场推广上也将加大投入,在过去一年,星环科技的产品覆盖了20多个行业,在某些细分行业,客户数量也是在快速增长,细分行业的市场份额超过70%。未来会继续扩大行业覆盖和细分行业的占有率。

在生态上加大投入,推动更多行业深入使用大数据、AI和云计算技术。星环科技2019年采取“平台+生态”战略,着力推进与生态伙伴的合作深度与广度,打造全新的生态体系,携手生态伙伴,共创数据价值新纪元。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯 大数据
相关文章 更多
大数据分析师Linux环境教程:安装Hadoop并验证版本与进程状态
大数据分析师Linux环境教程:安装Hadoop并验证版本与进程状态

本教程指导大数据分析师在Linux环境中安装Hadoop,通过配置环境变量、验证版本及启动服务,确保Java和Hadoop命令可用。最终利用jps命令检查NameNode等核心进程状态,为后续学习HDFS和Spark打下基础。

数据解码天性,麦富迪联合达索系统举办技术公开日
数据解码天性,麦富迪联合达索系统举办技术公开日

麦富迪与达索系统联合举办技术公开日,展示数智化研发系统。通过WarmData大数据中心采集犬猫天性数据,结合达索系统仿真能力,实现配方模拟优化,缩短研发周期,推动宠物食品行业从经验驱动转向数据驱动。

centos虚拟机内存分配技巧是什么
centos虚拟机内存分配技巧是什么

总体原则匹配负载:以工作负载为锚点分配内存。轻量服务(如 Nginx、小型数据库)起步可给1–2 GB;桌面环境或中等负载建议2–4 GB;重负载(多服务/大数据/容器编排)在此基础上按峰值再加余量。始终以“应用需求 + 系统基线”为准,而非拍脑袋给大值。留有余量:宿主机需为自身与后台进程预留充足内

DebianPostgreSQL数据库迁移方案有哪些
DebianPostgreSQL数据库迁移方案有哪些

Debian 下 PostgreSQL 数据库迁移方案一、方案总览与选型方案适用场景停机窗口版本/平台要求关键工具主要优点主要限制逻辑导出导入(pg_dump/pg_restore、pg_dumpall)跨版本、跨平台、只迁部分库/表、云上/云下迁移一般为分钟级(取决于数据量)基本无限制,适合升级或

计算存储分离在消息队列上的应用
计算存储分离在消息队列上的应用

云妹导读:随着互联网的不断发展,大数据高并发不再遥远,是大部分项目都必须具备的能力。其中,消息队列几乎是必备技能。成熟的消息队列工具有很多,本篇文章就来介绍一款京东智联云自研消息队列工具——JCQ。JCQ全名JD Cloud Message Queue,是京东智联云自研,具有CloudNative特

干货丨时序数据库流数据教程
干货丨时序数据库流数据教程

实时流处理一般是将业务系统产生的数据进行实时收集,交由流处理框架进行数据清洗,统计,入库,并可以通过可视化的方式对统计结果进行实时的展示。传统的面向静态数据表的计算引擎无法胜任流数据领域的分析和计算任务。在金融交易、物联网、互联网/移动互联网等应用场景中,复杂的业务需求对大数据处理的实时性提出了更高

Fluid0.5版本发布:开启数据集缓存在线弹性扩缩容之路
Fluid0.5版本发布:开启数据集缓存在线弹性扩缩容之路

导读:为了解决大数据、AI 等数据密集型应用在云原生场景下,面临的异构数据源访问复杂、存算分离 I/O 速度慢、场景感知弱调度低效等痛点问题,南京大学PASALab、阿里巴巴、Alluxio 在 2020 年 6 月份联合发起了开源项目 Fluid。Fluid 是云原生环境下数据密集型应用的高效支撑

拥抱云原生,Fluid结合JindoFS:阿里云OSS加速利器
拥抱云原生,Fluid结合JindoFS:阿里云OSS加速利器

什么是FluidFluid是一个开源的 Kubernetes 原生的分布式数据集编排和加速引擎,主要服务于云原生场景下的数据密集型应用,例如大数据应用、AI 应用等。通过 Kubernetes 服务提供的数据层抽象,可以让数据像流体一样在诸如 HDFS、OSS、Ceph 等存储源和 Kubernet

Hologres+Flink流批一体首次落地4982亿背后的营销分析大屏
Hologres+Flink流批一体首次落地4982亿背后的营销分析大屏

简介: 本篇将重点介绍Hologres在阿里巴巴淘宝营销活动分析场景的最佳实践,揭秘Flink+Hologres流批一体首次落地阿里双11营销分析大屏背后的技术考验。 概要:刚刚结束的2020天猫双11中,MaxCompute交互式分析(下称Hologres)+实时计算Flink搭建的云原生实时数仓

直播实录|37手游如何用StarRocks实现用户画像分析
直播实录|37手游如何用StarRocks实现用户画像分析

作者:向伟靖,37 手游大数据开发工程师37 手游使用 StarRocks 已有半年多,在此期间非常感谢 StarRocks 团队的积极协助,感受到了服务速度和产品速度一样快,辅导我们解决了产品使用上的一些问题。首先介绍下 37 手游的背景。37 手游主要专注于移动端游戏发行和游戏运营,成功发行运营

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。