AutoMQ[1] 是新一代基于共享存储架构实现的云原生 Kafka。得益于其存算分离的共享存储架构,通过和阿里云合作,深度使用阿里云可靠、先进的云服务如对象存储 OSS、块存储 ESSD、弹性伸缩 ESS 以及抢占式实例实现了相比 Apache Kafka 10 倍的成本优势并且提供了自动弹性的能力。
很多人提到云计算,一定会说到云计算具备自动伸缩能力,会按照客户的业务负载自动伸缩,我在刚接触云计算时也这么认真。真是这样吗?没这么简单!
Apache Kafka 自诞生之日起,就以其卓越的设计和强大的功能,成为了流处理领域的标杆。它不仅定义了现代流处理架构,更以其独特的分布式日志抽象,为实时数据流的处理和分析提供了前所未有的能力。Kafka 的成功,在于它能够满足各种规模企业对于高吞吐量、低延迟数据处理的需求,经过多年的发展铸就了极其丰富的 Kafka 生态,成为了事实上的行业标准。
历史上,数据分析需求的不断提升(更大的数据规模、更快的处理速度、更低的使用成本)和计算基础设施的不断进化(从专用的高端硬件、到低成本的商用硬件、到云计算服务),这两大因素推动数据仓库的架构大体经历了三个时代:软硬一体的一体机时代、存算一体的分布式时代以及存算分离的云原生时代。
今天,中国信息通信研究院“原生聚力,云数赋能”第四届云原生产业大会首日活动取得圆满成功。作为云原生领域盛会,本次大会将邀请云原生业界顶级专家代表共探云原生产业发展方向,见证云原生发展阶段性成果,分享云原生应用先进经验。 腾讯云数据库专家团携顶尖云原生数据库TDSQL-C亮相,腾讯云数据库技术负责人程彬在主论坛分享了云原生时代数据库的技术沿革,四位鹅厂专家在下午的《云原生数据库架构探索与实践》专场中详细剖析了腾讯云在云原生数据库领域的技术演进历程、架构探索、问题解决思路和发展方向。 此外,凭借创新技术和领先实
Blog: https://databend.rs/blog/databend-0-7-0-release
近日,AutoMQ 团队发布了基于云的开源云原生 Kafka—— AutoMQ for Kafka,所有的代码采用 Apache 2.0 开源许可。AutoMQ 充分挖掘了云原生的技术红利和成本优势,再结合 Serverless 弹性技术,实现了 Apache Kafka 十倍的降本增效。本文从技术架构的角度,来揭秘 AutoMQ 为 Kafka 量身打造的云原生十倍降本方案。
日前,第11届PostgreSQL中国技术大会圆满落幕,大会上腾讯云多位顶级技术达人携手亮相,分别对腾讯云PostgreSQL系列产品技术亮点和创新实践案例进行了深入解读,针对TDSQL-C PostreSQL高可用特性、TDSQL-A发展历程、技术架构等做出了详细介绍。 会上腾讯云数据库开源产品TDSQL PostgreSQL版(开源代号Tbase)再次公布升级:分区表能力增强,分区剪枝性能提升30%,分布区表关联查询性能(Join)提升超十倍。此外,异地多活易用性增强、分布式死锁自动检测并解锁功能上线
TDSQL-C再创佳绩 9月16日,Distributed Cloud|2021全球分布式云大会在上海召开,腾讯云原生数据库TDSQL-C荣获“云原生卓越技术提供商”奖项,TDSQL-C 是腾讯自研的云原生分布式数据库(原CynosDB), 基于共享存储,实现了强大的扩展能力和超百万级QPS的高吞吐性能,深度定制的数据库内核TXSQL是支撑关键业务平稳运行的基石。 (云原生卓越技术提供商奖项) TDSQL-C的总体架构是基于共享存储,存储和计算分离的架构。 (传统的MySQL主备架构和TDSQL
云原生Clickhouse 优势概述 以Clickhouse为基础,借鉴Snowflake等系统的设计思路,打造一款高性能的云原生OLAP系统,为用户提供多场景下的一站式的数据分析平台。 简单、易维护:集群管理、统一共享分布式调度服务 高可用、可扩展:支持500万以上的Table 低成本:存储成本至少降低了50% 兼容开源,复用超高性能:兼容协议、语法、数据库存储格式 Clickhouse是一款性能十分强悍的OLAP引擎,凭借优秀的性能在用户行为分析、ABTest、在线报表等多个领域大放异彩,但是目前C
在云计算中,存储扮演着非常重要的作用,采用共享存储的方式可以实现Oracle RAC等应用场景的需要。实际上云计算中的NAS、SAN存储中,有着不同的应用场景,我们来看一看。
腾讯云文件存储CFS在中国香港地区上线,提供企业出海高速直通车服务。这是国内首家在中国香港地区提供该服务的云厂商。CFS主要为云主机服务的可多客户端共享、弹性拓展的高性能NAS存储服务。随着中国社交软件、视频点播产品、游戏等业务在国外的扩张,如何保障海外用户体验的诉求越来越强烈。腾讯云文件存储CFS作为最便捷易用的静态文件存储产品,此次中国香港节点的推出,既免去用户用云主机自建NAS的繁琐及高成本,也为用户出海提供更高效便捷的共享存储方案。
贾晶晶,Zilliz 数据工程师 & 高昌健,Juicedata 解决方案架构师,十年互联网行业从业经历,曾在知乎、即刻、小红书多个团队担任架构师职位,专注于分布式系统、大数据、AI 领域的技术研究。
POLARDB 是一个具有国际性质的数据库产品,虽是一个“国产数据库” ,可最专业的资料还要看 E 文。以下为翻译
大数据领域对ClickHouse可谓非常的熟悉了。这个最初由俄罗斯的Yandex公司开发并开源的数据仓库,以单表查询快闻名于世,一改传统Hadoop技术栈“笨,重,慢”的特点。很多时候,ClickHouse的性能相对于Hadoop技术栈,性能有百倍的提升。 ClickHouse的查询性能快,不仅仅在老东家Yandex得到了证实,更是征服了世界各地大量的互联网公司,成为了它们数据分析的不二选择。 然而开源版的ClickHouse要想用好并不是很容易。很多企业用ClickHouse不但没有见到它传说中的极速
从传统关系型数据库到云数据库,数据库在不断演进。与此同时,它也发挥着越来越重要的作用。从云计算、新媒体、音视频、云游戏到移动 App,几乎各行各业都离不开数据库。一方面,数据库作为 IT 基础设施的关键一环,对企业业务的发展起着支撑作用;另一方面,数字化在经济社会中不断深入,数据成为核心要素,围绕数据的生产、存储和消费均依赖数据库。
在数据量持续爆增、数据日益多样化的今天,传统数据库的迭代速度已经追不上数据的增速,且企业对数据库计算和存储能力的要求越来越高。面对当前的挑战和机遇,国产数据库厂商的研发创新速度不断加快,可以说云计算时代的到来,扭转了国外商业数据库一家独大的局面。 目前,国产数据库领域正处于百花齐放的状态,已经有越来越多的行业巨头参与到了数据库的建设中,腾讯云便是其中之一。为了更深入地了解腾讯云数据库的发展历程,从而进一步透视国产数据库的发展方向,InfoQ 和腾讯云数据库专家工程师窦贤明就云数据库的发展、前景与挑战进行
李飞飞,现任阿里巴巴集团副总裁、高级研究员,阿里云智能数据库事业部总负责人。加入阿里巴巴之前为美国犹他大学计算机系终身教授。研究成果多次获得了IEEE ICDE、ACM SIGMOD最佳论文奖等重要学术奖项。
2024年1月22日,沙利文分析师对《2023年中国云原生数据库十大厂商推荐-市场综合力表现》报告进行了线上解读,在分享云原生数据库发展现状以及最新技术趋势的同时,对腾讯云在云原生数据库领域的产品能力给与了最高评价。
随着“云”的热度不断升温,作为最新兴的产业之一,如果连云存储是什么,你都不知道,是不是离Out不远啦~
最近,隔壁部门的工程师小刘正在探索如何搞一套支持多地域容灾、且能共享访问的文件服务解决方案。在之前他尝试过本地的NAS存储,无奈扩容艰难、远程访问性能和吞吐量都很受限,管理复杂且成本高昂,多地备份服务更是代价巨大。其实这些功能,利用腾讯云的公有云基础服务,简单几步就可以实现。这篇小教程中,将和大家一起轻松探索,在腾讯云上搭建高可用的共享存储解决方案。
本文介绍了如何在腾讯云上构建企业级应用环境,从安全、网络、服务器、应用、集群、存储、监控、运维等多个方面进行阐述。同时,本文还提供了详细的操作步骤和截图,以帮助读者快速掌握腾讯云上的企业级应用环境构建方法。
日前,Distributed Cloud|2021全球分布式云大会·上海站隆重召开。腾讯云凭借其信息技术系统的安全可控性和前沿技术的创新性,在一众企业中脱颖而出,荣获“分布式数据库创新技术奖”。这是继腾讯云数据库TDSQL获第四届中国保险大数据分析与人工智能创新国际峰会年度“保险创新者大奖”之后再次获评。 在云原生专题论坛上,腾讯云数据库产品专家梁文灿先生就腾讯云企业级分布式数据库TDSQL生态发展战略、落地应用案例做出了详细介绍。同时腾讯云数据库专家工程师张远先生对云原生数据库TDSQL-C的内核关键技
Dropbox允许存储您的文档,是Dropbox公司的线上存储服务,通过云计算实现互联网上的文件同步,用户可以存储并共享文件和文件夹。Dropbox提供免费和收费服务,在不同作业系统下有客户端软件,也可以在安装在服务器上使用。本文将简介Dropbox如何在服务器上使用,本文需要一台CentOS或Ubuntu服务器,推荐你使用免费的腾讯云开发者实验室进行试验,学会安装后在购买服务器。
【编者按】对比虚拟机,Docker在体量等方面拥有显著的优势。然而,当DevOps享受Docker带来扩展性、资源利用率和弹性提升的同时,其所面临的安全隐患同样值得重视,近日Chris Taschner在SEI上撰文进行了总结。 以下为译文 基于容器的虚拟化平台提供了一种方式在隔离的实例中运行多个应用程序。容器技术可以为DevOps提供显著的优势,包括提高系统的扩展性、资源利用率和弹性。然而除下容器与主系统完全解耦,这种使用就会存在潜在的安全隐患。因此,这篇博文主要描述了为什么系统管理员应该密切关在容器中运
在过去数十年,Oracle与微软是软件行业当之无愧的两大巨头,同时也是数十年的竞争对手——从数据库到ERP,从营销策略到法律诉讼。2013年之前,两位巨头在企业级市场的厮杀可谓是乐此不疲,然而现在它们却坚定的走在一起: 从“恨到爱”只用半年 2013年6月的一则消息“惊呆了”IT领域的小伙伴们——微软宣布Hyper-V和Azure支持Oracle软件;而在之前,Oracle的CEO 拉里·埃里森更宣布将成立一个新的技术联盟,其内部成员可能会是Salesforce.com、NetSuite以及微
ORACLE数据库既能跑OLTP业务,也能跑OLAP业务,能力是商业数据库中数一数二的。支持IBM小机和x86 PC服务器,支持多种OS。同时有多种数据库架构方案供选择,成本收益风险也各不相同。
云服务器帮助您快速构建更稳定、安全的应用,降低开发运维的难度和整体IT成本,使您能够更专注于核心业务的创新。那么云服务器相比VPS、独立服务器又有哪些优势呢?首先先了解一下什么是云服务器:
"鹅厂网事"由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营,我们希望与业界各位志同道合的伙伴交流切磋最新的网络、服务器行业动态信息,同时分享腾讯在网络与服务器领域,规划、运营、研发、服务等层面的实战干货,期待与您的共同成长。 前言 4月14日,2016 ODCC技术分享和成果宣贯会在深圳召开。开放数据中心委员会的技术专家分享了各自研究领域的最新进展及部分已公开成果。ODCC服务器工作组项目经理、腾讯服务器平台中心架构师王伟,介绍了天蝎3.0在整机设计优化方面的思考,并向行业征求意见。 和小编一起
导语 | 分析型数据仓库经历了共享存储、无共享MPP、SQL-on-Hadoop几代架构的演进,随着云计算的普及,传统的数据仓库架构在资源弹性,成本等方面已经很难适应云原生的要求。本文由偶数科技 CEO,腾讯云TVP 常雷在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术,到海量数据分析技术」 的《新一代云原生数据仓库的应用》演讲分享整理而成,为大家详细剖析新一代云原生数据仓库的架构、原理和实现技术,以及如何充分应用云原生数据仓库的特点来实现云上大数据应用。 点击可观看精彩演讲视频
容灾半径是衡量容灾方案所能承受的灾难影响范围的指标。不同灾难的影响范围是不同的,而距离也会影响到容灾技术的选择。容灾中心的架构按照源备端之间的距离,可分为本地容灾、同城双活、两地三中心。
随着各行各业电子信息化的不断加深,线上交易数据保持了长时间高速增长的态势,对数据存储的需求越来越大,数据库管理系统(DBMS)面临越来越大的性能、空间和稳定性压力。在此过程中,得利于计算&存储&网络等硬件领域的不断进步,业界流行的数据库管理系统逐步从单机架构向分布式架构演变。笔者希冀从梳理数据库管理系统所面临的一个又一个实际挑战及业界所提出的诸多解决方案的过程中,发现片缕灵感以指引未来的数据库开发工作。
云计算时代,数据库上云已成为产业数字化转型的重要动力。近期,在2022腾讯全球数字生态大会云原生数据库技术探索专场上,腾讯云分享了在云原生数据库领域的技术演进与探索,并就其在不同行业场景中的最佳实践进行了详细讲解,为广大企业运用云原生数据库实现业务创新提供了有效借鉴。 腾讯云数据库高级工程师潘怡飞在致辞中表示:“作为基础软件的‘三驾马车’之一,国内数据库的发展正呈现三大趋势:行业客户的多元化,对数据库性能与成本的平衡提出了更多样的需求;应用场景的不断丰富,要求数据库具备更高的弹性和灵活性;数据库已成为数字社
信息驱动型企业一直坚持统一数据管理的共同业务和IT目标,提高洞察力和构建知识库。对于许多企业来说,传统的关系型数据仓库和数据集市是唯一的企业级数据分析的途径,而存储阵列和归档是唯一提供访问大量多样历史数据的方法。今天,这些企业通过EDH有更好的办法来应对数据管理的挑战。Cloudera企业数据中心采用Apache Hadoop构建,提供灵活,可扩展和经济的数据管理平台,可以基于同一份数据执行各种企业工作负载(包括批处理,交互式SQL,企业搜索,高级分析等)。
裸金属服务器,让传统物理机具有了自动发放、自动运维、VPC互联、支撑对接共享存储等云的能力。可以像虚拟机一样灵活的发放和使用,同时又具备了优秀的计算、存储、网络能力。
编译|Ailleurs 作者|陈彩娴 李飞飞,阿里巴巴集团副总裁、阿里云数据库产品事业部负责人,也是达摩院的数据库首席科学家,任达摩院数据库和存储研究实验室的主任。他在加入阿里巴巴之前是犹他大学计算学院的教授。他的研究兴趣包括数据库系统、大规模数据管理、数据安全、数据分析以及用于系统性能和监控的机器学习方法。同时,他还是ACM Transactions on Database Systems(ACM TODS)期刊的副主编,曾多次担任ACM SIGMOD和ACM SIGKDD的高级区域主席,并担任过各种领导
当时买存储服务器的速度,根本赶不上用户增长,所以用户每天最多上传 800 万张图片。
在云计算时代,Kubernetes 已经成为容器编排的首选平台。随着越来越多的企业在 Kubernetes 上运行数据库和中间件,与 Kubernetes 兼容的持久化存储解决方案的需求也在上升。
云服务器无需提前购买硬件,即可迅速创建或释放任意多台云服务器,一切计算均在云端实现,降低开发运维的难度和整体IT成本。
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。您可通过新手入门全面的了解COS,学习产品的基础知识,掌握控制台、API、SDK、工具等操作,助力高效便捷地管理您的业务。
开源列式数据库ClickHouse以极致的性能、超高的性价比获得了广泛好评。在PB级查询分析场景下ClickHouse是最佳解决方案之一。开源ClickHouse集群采用SHARED-NOTHING架构,增加计算节点非常容易。
作者 | 百度云原生团队 根据 Gartner 的调查数据,到 2022 年底,全球企业在云计算基础设施方面的支出约为 3330 亿美元。麦肯锡在调查报告中指出,2020 年,由于缺乏成本优化手段,80% 企业的云资源成本大幅超出预算;同时,45% 的企业由于缺乏优化措施,在直接迁移上云的过程中会超买 55% 的资源,并且在上云的头 18 个月会多花 70% 的费用。 随着全球经济持续下行,企业应该如何做好精细化运营和降本增效,如何优化云资源的分配、使用和管理成为了当下必须要考虑的问题。 本文将会具体介绍百
最新Gartner全球主存储魔力象限报告《Magic Quadrant for Primary Storage, 2022》中,华为存储再次成为唯一入选领导者象限的中国存储厂商,并且在2021年基准上大幅进步,战略(愿景)完整性和执行能力两方面均显著提升。
Elasticsearch技术栈一直是日志、安全、搜索场景的开源首选方案。随着数据规模的海量增长,数据的写入、存储、分析、搜索、排序等场景都会遇到非常大的挑战(存储成本大、写入查询慢等),同时客户降本增效的诉求也越来越高。本文主要解析基于腾讯云ES构建低成本、高性能、高可用日志平台所利用的核心架构和技术。基于腾讯云ES自研存算分离、读写分离、查询/IO并行化、查询裁剪等一套完整的降本增效解决方案。本文将围绕以下几个关键自研技术点进行深入分析:
用proxmox做服务器虚拟化已经很长一段时间了,不过全玩的是单服务器,最多也就弄三台整个集群,因为没有共享存储,无法实现高可用(雇主舍不得投入,还欠俺很多工钱呢)。近期给人出了一个方案,计划用proxmox高可用的方案,虚拟出n多虚拟机,然后把业务系统部署上去。方案讨论了很多次,发现共享存储的方式,费钱又费磁盘。考虑性能的话,得用15000转的sas盘,但这种规格sas盘的容量最大是600G,而且单盘价格很高。用容量的sata盘吧,解决了容量问题,但性能又会成为瓶颈。回来对方说,有人用ceph做存储,挂接之,再创建做服务器虚拟化。
1. 前言 开源列式数据库ClickHouse以极致的性能、超高的性价比获得了广泛好评。在PB级查询分析场景下ClickHouse是最佳解决方案之一。开源ClickHouse集群采用SHARED-NOTHING架构,增加计算节点非常容易。 图1:开源ClickHouse架构 但是,开源ClickHouse也有明显的不足之处: 采用存算一体架构,计算与存储耦合。 存储与计算资源无法独立扩展。用户对计算与存储资源非对称需求越发强烈,并且希望云服务商能够提供更为灵活的资源编排能力。 不具备弹性能力。 开源Cl
之前讲过一篇文章 一步步教你Linux7安装Oracle RAC(11GR2版本) 教大家如何安装 Oracle RAC。
一 、腾讯云云函数 SCF 支持 CFS 文件系统 发布时间: 2020 年 7 月 22 日 产品介绍: 腾讯云云函数 SCF 本地文件系统是实例独享的,无共享存储空间,512 MB 存储空间较小且无法持久存储。云函数 SCF 支持与 CFS 无缝集成,只需进行相关配置,函数即可轻松访问存储在 CFS 文件系统中的文件。 CFS 符合标准的 NFS 文件系统访问协议,为多个计算节点提供共享的数据源,支持弹性容量和性能的扩展,现有应用无需修改即可挂载使用,是一种高可用、高可靠的分布式文件系统。 产品功能:
领取专属 10元无门槛券
手把手带您无忧上云