字节跳动是如何建设云的？_风闻

来源 ： 字节跳动

作者 ： 火山引擎

「创业最前线」经授权发布

12月2日，火山引擎的全系云产品正式亮相。

依托于字节跳动云原生理念和实践，火山引擎推出了78项云产品服务，涵盖云基础、视频及内容分发、数据中台、开发中台、人工智能等5大类。

过去9年，字节跳动持续建设IT基础能力。如今，我们已经实现每天新增1500个AB实验和2万次线上变更，3周完成设计和上线新App，27天备战春晚红包项目。

在这些敏捷迭代和创新背后，“云”都发挥了关键作用。那么，过去9年里，字节跳动是如何建设云的？字节跳动副总裁、火山引擎业务负责人杨震原和大家聊了聊我们的云实践。以下为演讲全文：

早上好，欢迎大家来到火山引擎云产品发布会。特别感谢大家一直以来对火山引擎的支持。

今天火山引擎云产品发布会的主题是“新云，共未来”，不管是新朋友还是老朋友，大家都知道我们要发布云产品。火山引擎是字节跳动技术能力的输出。火山引擎的云产品，也是基于字节跳动的理念和实践来建设的。今天我要跟大家分享的，就是字节跳动在发展的历程中是怎么建设云的。

1、IT基础建设的目标：敏捷要讲这个话题就要回到很多年前。当时我们公司还很小，主要有一个核心产品今日头条。按照公司一直以来的做事风格，我们在讨论IT基础建设时，首先就在讨论，我们的目标是什么。直到现在我还记得很清楚，我们定下来的核心目标就是敏捷，就是要快。

当时，今日头条是一个全新的移动互联网产品，我们有着去建设全球最大内容分发平台的愿景。我们每天都会有很多想法、很多讨论，包括内容体裁、创作工具、产品交互、推荐算法等等，每天都在变。如果这些想法能更快实验、更快发布，就会给公司带来很强的竞争力。如果有想法但不能快速上线，就会给公司发展造成很大的风险。

我们实现了敏捷的目标，产品增长很快，大家觉得建设敏捷的IT基础效果很好。这个理念一直延续到现在。

但是，只关注敏捷是不行的，因为还有很多问题。我们需要考虑到稳定性、综合成本，不能说做得非常快，但成本很高；还要考虑到运维的复杂度等等。实现敏捷目标的同时，不能让稳定性等问题成为短板。

在介绍我们怎么做云之前，首先分享一些案例。外界有些人说字节跳动好像是一家App工厂，虽然并不准确，但我们做产品确实是非常快的。有些新的产品从开始有想法，我们决定要做，只用三周时间就能发布上线，这个基础就是围绕着敏捷目标建设的云。

再分享一个案例。去年距离除夕只有27天的时候，我们的产品技术团队收到了参加央视春晚红包互动的通知。这个活动很复杂，有很多环节。大家也知道，春晚是一个突发用户量非常大的事情，只有27天的时间，要做方案的设计、资源的准备、产品开发上线，最后我们顺利完成了这个工作。而在以前，这类活动一般都会有3个月的准备时间，而且都是互联网大厂在有很多资源准备的情况下完成的。

再列一些数据。第一个是数据中心的天级部署。这是什么概念？当我们交付了一个新的数据中心，我们的物理服务器上架联网之后，部署业务以及切流，只要一两天就可以完成。这也是因为我们自建数据中心，以及在全球范围内用了很多云的供应商，不断迁移，锻炼出了这一套能力。

第二个数据，我们每天线上变更是两万次。云的能力，让业务有非常灵活调整的空间。

第三个数据是我们每天新增大约1500个A/B测试，说明我们有很多想法的时候可以快速验证，就会产生进化。我再举个例子，假设有两家公司，他们的方向一致，战略水平也差不多，如果一家公司每个星期能做10个A/B测试，验证10个想法，另一家公司每个星期只验证1个想法，可以想象经过半年之后，两家公司会拉开多大的差距。所以说当方向、战略差不多的情况下，敏捷就是决定竞争力的关键因素。

**2、如何做到敏捷开发？**首先是对业务有宏观设计，对整体架构做合理分层。因为不可能所有地方都敏捷，一些更偏应用、更频繁改动的部分需要敏捷，一些基础的模块需要更稳定、更高性能。我们要对业务有宏观的设计，这样可以把不同子系统放到对应的位置上去。如果胡子眉毛一把抓，什么地方都想快，这是错误的，而且也是很难实现的。

有了宏观的设计，接下来说具体的实现方法：第一是微服务化，拆更小的服务单元，从开发上就可以有利于快速地变更，这些服务单元能够在很多业务系统中灵活组合，以及多人并行开发。微服务是提高开发效率非常重要的一点。

第二个是容器化，这个概念我相信在座各位都比较了解。容器对于运维体系来讲有点像集装箱对于货运，可以解决环境部署的问题、隔离的问题、资源分配的问题。容器本身的开销可控，未来还有进一步提高灵活性的空间，以及重组的空间。

是不是有这些技术之后就很美好了？我想说的是，从实践来看，问题才刚刚开始。

**比如说运维、质量和发布体系的问题。**有了大量的微服务，一旦有一个服务出问题，会导致故障的影响面不可控，排查很麻烦。做过运维的同学会了解，有可能会产生服务雪崩。另外，当我们想扩容的时候，怎么样在一条服务链路的依赖体系下比较自动地扩容，还有灰度发布问题，还有很多其他的问题。如果这些问题处理不好，你会发现你的发布是变快了，但维护代价也在成倍增加，渐渐的就敏捷不起来了。

所以我们做了大量投入，建设完善的DevOps体系，包括持续集成的流程、平台、线下测试环境、灰度发布、全面的监控系统、容灾系统、故障半径分析与治理、自动缩扩容等。直到今天我们还一直在做，就是让开发人员更关注业务本身，其他麻烦事儿让平台解决。

**第二个是存储的易用性问题。**微服务化之后，存储成为限制敏捷开发的一个关键因素。

存储是一个技术很复杂的领域，专业性很强，目前还没有一种可以应用于各个领域的存储技术，我们需要建立一套产品矩阵来满足需求。通过存储计算分离、架构改进、容器化部署、自动运维工具等等，来达成更优的存储方案。

**第三是性能优化。**前面做了这么多敏捷、自动帮助开发者降低成本的事情，都是有代价的，性能损失就是其中之一。如果不去改进，从系统延迟和综合成本两方面，都会遇到挑战。我们做了大量的性能优化工作。

经过多年的技术实践，我们的在线微服务数量超过10万，这是指微服务的类型，确实是很大的一个数字，我自己都觉得可能有点太大了；我们容器实例部署的规模大概是1000万的量级，应该是国内容器规模最大的企业之一，目前我还没听到过其他企业公布过更大的数字。我们在微服务和容器的使用上是非常极致的。

3、云原生理念的实践我刚才讲的字节跳动建设云的实践，和云原生概念是非常契合的。

云原生这个概念，也火了很多年了。它的本质是什么？我自己感觉，云原生就是软件研发体系向前发展的一个过程。

大家想下，计算机刚刚被发明的时候，人们写机器代码太麻烦了，程序员都怕麻烦，于是有了高级编程语言，编译器；人们自己定义各种数据存储格式，读写存储非常麻烦，还容易出错，于是有了数据库；人们已经写了软件，想用的时候，还得买机器，租机房，部署网络，太麻烦了，于是有了云计算。

那么，现在还有哪些事情太麻烦？还有很多，我上面提到了一些问题，其实现在也还有很大的进步空间。

所以，我觉得云原生，就是考虑云上的软件开发、维护全流程，去改进各个子系统，目标就是让开发人员更聚焦在业务本身，让云平台去解决其他的“麻烦事儿”。

基于敏捷开发的理念，字节跳动不断改进系统，就是希望让开发人员更聚焦在业务。这让我更加相信云原生这个理念，因为这个理念是有实践基础的。

4、高密度计算、数仓与底层硬件探索接下来再分享下我们在云实践过程中的三点经验。

**第一点是高密度计算。**业务系统有很多类型，有些系统用非常敏捷的方式是好的。另外有些系统比如推荐、搜索、广告、视频理解，这些系统的计算密度很高，服务粒度要稍微大一点。当我们在这些系统上做敏捷的时候，可能要选择用插件化的方式去加速它的开发和迭代，这是一类高密度计算的问题。

**第二点，数仓的问题。**字节跳动的核心技术理念是数据驱动和敏捷开发，我们需要全面的数据平台。我在2014年初刚入职的时候，发现公司已经有一个小时级可以看到结果的A/B测试平台，之后我们也一直都在践行数据驱动理念，让新的产品发布、新的功能可以很方便地做A/B测试。所以我们在敏捷开发的同时，需要保证数据平台有很高的数据准确性、一致性、稳定性。

这里列一些规模和效率的数据。现在我们数据仓库本身，不算视频和机器学习的数据，总量已经到了9500PB的规模，每天新增40PB左右，指标数超过27000个。在这样的一个体量之下，我们依然能够很快地去做新产品的数据支持。一个全新的产品线，大概需要两周时间就可以完成所有核心数据的分析，包括数据报表建设等工作。

第三点，底层硬件的技术探索，这肯定是基础的事情，我们也有很多的投入，比如自研服务器、DPU、AI芯片、数据中心技术等等。这里不展开介绍，未来可以和大家做更多展示。

以上就是我对字节跳动建设IT基础的一些思考。这些技术、这些实践全部都会在火山引擎云产品中开放给我们的客户，希望能够帮助更多的企业，这样也会产生更大的社会价值和商业价值。

这就是我今天的分享，谢谢大家！