chunk
stringlengths 691
7.02k
| source
stringlengths 40
108
|
---|---|
2023 年的平台工程:事半功倍
本文翻译自 Platform Engineering in 2023: Doing More with Less。
平台工程建立在最佳传统 DevOps 实践之上,并使用这些知识和经验来识别和实现新的效率。
问题的一些变体,“DevOps 死了吗? ”继续在云原生开发空间中被问到。答案是明确的“不”。随着平台工程的兴起,真正的问题和明确的答案是:DevOps 正在发生变化,但不会很快消失。 DevOps 角色的转变将成为推动开发人员体验的动力,帮助每个人事半功倍,随着各行各业的公司面临不确定的经济逆风,这正在成为指导原则。
开发者平台已经成为为开发者铺平道路的一种方式,他们的目标是提高生产力并减少认知负担,同时安全地快速交付软件。平台工程作为一门学科,尽管它仍然是未定义和模糊的——尽管随着更多打包的、商业选择的出现,这也开始发生变化——已经成为简化云原生开发旅程的工具。
虽然“平台工程”的定义仍有待解释,但其方向是全速前进,专注于塑造和改善开发者体验。实现这一目标的最有效方法之一是重新调整现有 DevOps 团队的工作重点,以少花钱多办事,成为类似于“PlatformOps”的东西来支持开发人员体验。
有两件事说明了平台工程和开发平台的出现、即将到来的主导地位和商业化。
首先,开发人员的挫败感是真实存在的。 Kubernetes 开发人员有理由对微服务和云原生开发的引入带来的一些新挑战感到沮丧。开发范式的彻底改变,加上突然期望开发人员应该能够“左移”并为他们的代码承担端到端的代码交付运行责任,造成了额外的、不受欢迎的认知负担。
添加大量例行的、重复性的任务,这些任务突然落到了开发人员的身上——在许多情况下,他们没有任何路线图或抽象集来确定要使用什么工具。或者如何获得对服务的可见性以获得并加快他们所需的反馈循环,所有这些都等于减慢了产品和功能的交付。 Garden 的一项开发人员生产力调查发现,开发人员每周平均花费 15 小时在非开发任务上。
这不仅会导致糟糕的开发人员体验,还会拖累生产力,从而影响底线。
其次,虽然一些开发人员享受试验和尝试新工具的自由(1%),但绝大多数开发人员(99%)希望并且可能需要明确的护栏和“黄金路径”来发布和运行他们的代码。大多数开发人员希望将他们的时间集中在编写代码上——而不是运行基础设施和试图找出为了提高生产力而应该正常工作的事情,例如维护工具、设置开发环境、自动化测试等。
推而广之,大多数企业都需要标准化、可复制性和一致性的安全性和稳定性。能够满足客户需求、控制成本和确保安全是首要任务,虽然本质上并不反创新,但关键业务要求会阻碍过多的创造力,并依赖于流程、自动化和使用相同标准和工具的每个人。
这就是 DevOps 继续挽救局面的地方。 DevOps,就像开发人员的工作一样,也在不断发展,但并没有消失。相反,DevOps 正在转向平台工程(又名 PlatformOps)支持模型,该模型扫清了道路,降低了开发人员体验的复杂性,并通过创建开发人员平台消除了开发人员日常工作中的摩擦。
平台工程建立在传统 DevOps 最佳实践的基础上,并利用这些知识和经验来识别和实现新的效率,并事半功倍。或者,正如最近一篇 New Stack 文章所阐述的那样,“你可以说平台工程采用了敏捷和 DevOps 的精神,并将其扩展到云原生世界的上下文中。”
鼓励开发人员对其软件进行全生命周期管理有一个好的开端,即让他们有更多的控制权和洞察力,从而能够提高速度和构建效率。但基础设施从来都不是,而且可能永远不会是开发人员的主要关注点——或者是开发人员释放能量的最有效场所。
然而,在云原生领域,开发人员需要更多地了解基础设施以及他们发布代码后会发生什么。如果出现问题,开发人员仍然需要对该代码负责并了解其依赖关系,以帮助排查和识别(并修复)下游问题。
但是组织和制定关于服务、环境、云本身的决策?这就要求一个学科的专家尝试在飞行中专门研究一些完全不同的学科,这既否定了提高速度和开发人员经验的最初想法,也否定了事半功倍的想法。有时,让非专家承担专家责任的想法,认为这样会减少资源使用,也就是事半功倍,会导致更多的问题。
中间立场和用更少的钱获得更多的途径是开发者平台的甜蜜点。从本质上讲,开发者平台可以:
为所需的工具和可见性提供开发人员自助服务,铺平道路,但又足够灵活以适应不同类型的开发人员。它既适用于完成入职培训的新开发人员,也适用于希望实现可靠、高效生产的有经验的开发人员。
-
使 DevOps/PlatformOps 能够支持和增强自助服务运动,增加他们在战略改进和项目上花费的时间和注意力,并减少救火时间。
-
允许更好地衡量性能、合规性和安全性,因为操作和资源数据集中在平台内。
-
缓解影响多个行业的许多公司的预算紧缩。正如我与 The New Stack 分享的那样,开发者平台是“确保您的本地开发环境设置良好,并且没有人坐在那里等待构建发生的一种方式。所有这一切都依赖于平台工程团队可以促进的快速反馈和透明度。”
-
如果开发者平台是为了提高效率和生产力,那么现实世界的可用性是关键。利益相关者(开发人员)必须想要使用该平台才能产生任何价值。必须创建开发人员平台以消除障碍并扫除开发人员和安全快速地交付软件之间的典型挑战。该平台必须解决开发人员在工作中需要知道、看到和经常做的事情,并定义无缝实现这一点所需的抽象。
反复谈论“开发者体验”可能听起来有点夸张,但如果它只是一种过去的趋势,它就不会成为一个永恒的主题。
许多开发人员、平台工程师、DevOps 和站点可靠性工程师都表达了一种观点,但 Arm 的 Cheryl Hung 说得最好,强调了为什么开发人员平台是必不可少的:“基础设施可能不可靠;它失败;这是不可预测的。与每次都以几乎相同的方式运行的软件相比,基础架构真的非常困难。”
如果开发人员体验——以及支持开发人员的工作——对于实现业务目标和明智地使用资源至关重要,那么 DevOps/PlatformOps 角色和平台工程同样有助于持续改进和保护开发人员体验。 | https://yylives.cc/2023/02/08/platform-engineering-in-2023-doing-more-with-less/ |
如何培育好的内部开发者平台体验
伦敦——Syntasso 的首席工程师 Abigail Bangser 在本周的 State of Open Con 上说,“应用程序开发人员希望快速行动,而运维工程师希望安全行动”,这就是 DevOps 模型的崛起之地。 DevOps 将发布所需的所有技能带入了一个团队,这减轻了开发人员的一些认知负担,他们不再需要——过多地——担心代码之上的安全性、支持和成本,因为他们团队中的运维工程师已经涵盖了。不可否认,DevOps 还提高了团队自主权和发布速度。
但是,Bangser 继续说道,这也导致了大型组织的大量重复工作,在这些组织中,DevOps 团队并没有 100% 专注于为最终用户创造价值,因为他们仍然关心基础架构、扩展和安全性。她强调,这没有太多不同,但并非不重要。这就是内部开发平台团队的用武之地,以减少云端繁重的认知负担,以便开发人员可以专注于开发,而运维人员可以专注于运营。而平台工程师专注于跨组织团队所需的非差异但重要的代码。
“所以你有一个团队来生产和操作工具来帮助其他团队为他们的最终用户生产和操作他们的软件应用程序,”Bangser 说,提供了平台工程的最新定义。
现在我们知道了平台工程团队应该做什么,让我们深入探讨如何培养良好的内部开发人员平台体验——这样您的客户同事才会真正想要使用它。
应用团队,也许应用团队是关于闪亮的,但平台团队是关于旧的可靠的。 “我发现人们专注于新的创新技术,但他们忘记了他们正在为哪些人开发它。” Nicki Watt 是 OpenCredo 分布式系统咨询公司的首席执行官和首席技术官,她帮助多家组织建立了内部开发人员平台,使她能够发现一些模式和反模式,她在 State of Open Con 群体中分享了这些模式和反模式。
她说,很多客户认为 Kubernetes 是一个平台,但“如果你想构建一个伟大的平台,它必须不仅仅是 Kubernetes 和围绕它的开源生态系统。”内部开发人员平台是人员、流程和技术的混合体——它不是简单的配方——也不是 Venn 图。这需要对您的内部开发人员社区产生同理心。
首先,Watt 提醒与会者,“你的听众比你想象的更加多样化。”尤其是随着组织的发展,平台工程师——他们自己大多是基础设施专家——往往不知道面前的技术栈是由多少不同水平的技能和经验构建。她警告说,这会导致低级别的 YAML 抽象,并且“有些社区要考虑的更多”。
主要是应用程序开发人员,但也不要忘记可能需要硬件或其他不同功能的数据科学家和机器学习工程师。她还观察到,在平台设计中需要考虑领导和治理社区——包括监管和金融。毕竟,他们希望通过报告了解他们是否以及如何从这项投资中获得回报。她说,平台工程之旅的一部分是让高管们了解它的价值。
然后,“根据特定的社区需求调整平台本身是好的,但还不够,” Watt 说,因为你不能单独解决技术问题,而且只解决一次。平台不是一劳永逸的——团队一直在变化和适应,她指出,治理和流程不可能一刀切。而且总会有不同类型的团队。
“一些人需要更多的创新自由,而另一些人则需要更多的指导,”她说。 “如果你想建立一个真正伟大的平台工程开发者体验,这需要你将其视为一个整体的社会技术挑战。”她对平台工程的定义归结为构建、维护和提供“为所有使用它的社区精心策划的平台体验”,这会影响所有不断发展的技术、社会和团队结构。
我们已经谈到了内部开发人员平台如何位于不同组织的不同级别——甚至在组织内的不同级别。Watt 说,良好的平台工程经验会建立明确的界限和责任,并回答这两个问题:平台能做什么?工程师需要做多少?否则你最终会陷入责备游戏,她解释道。
这些边界可能因利益相关者而异,但请记住记录这些差异,包括:
平台是做什么的?
-
平台团队负责什么?
-
应用程序团队负责什么?
-
当然,与任何开发人员的经验一样,文档是鼓励自助服务和自动化的重要组成部分,Watt 说,这是平台用户最想要的。 “这种自助服务使团队能够根据需要走得快或慢。”她强调说,目标是让团队独立于你而不是依赖于你——“我们的目标是在这里获得授权”,而不是平台工程师被内部工单弄得焦头烂额。
平台团队是黄金途径的建设者,她解释说,这条途径灵活且可发展,但主要是确保有秩序。她建议,在边界内促进自由,提前制定基本规则。这可以是单一云与多云设置,或者仅提供对标准堆栈的支持,而平台团队不提供对平台轨道之外的最新闪亮实验的支持。
Watt 说:“通过这样做,你可以让人们自由选择,但你不会让所有人自由竞争,这可能会在以后导致挑战。”选择仅限于生态系统。
API 不断成为开发人员以他们想要的方式使用内部平台的最简单方法。部分原因是,正如 Postman 的首席传播者 Kin Lane 所说,API 是一份合同,甚至可以作为您与 API 客户的服务水平协议。他在 2019 年首次写道:“API 合约是对数字接口功能的共同理解,允许应用程序在其上进行编程。”API 减轻并传达了人机界面的变化。可读的方式,并且应该提供一些可靠性和稳定性的保证,他继续说。
以 API 优先的方式构建您的内部平台,使其更易于自助服务。 Bangser 说,通过将该服务合同扩展到内部平台,API 变成:
可发现的产品目录
-
一个或多个用户界面选项
-
按需提供(虽然不一定是即时交付)
-
“什么都不做”脚本简介
-
这就是为什么她建议以有限的时间和投资来开始您的平台工程之旅,发布一个 API,开发人员可以使用该 API 访问将成为平台的内容。然后查看已经在运行的工具——Slack、Jira、Trello——并开始跟踪临时请求。什么是最频繁、最困难、最耗时的?您的应用程序团队的辛劳在哪里? Bangser 建议,寻找任何手动、非价值驱动且难以扩展的东西。并希望通过 API 优先开发来减少它。
“API 允许清晰的通信边界,”她说,“创建 API 提供了迭代的能力。”
Watt 进一步建议定义一个实际的内部平台合同,一个 la Amazon Web Services 的共享责任模型。澄清这些界限,比如如果组织希望平台团队处理所有安全检查,或者如果您的平台工程师只提供工具并且每个团队负责在自己的容器上运行扫描。她建议,只要有可能,就支持自动化和 API 驱动的交互,尤其是在入职和基础设施配置方面。
当然,文档是必不可少的,包括创建模板和参考实现,这进一步支持自助服务。
“你想让你的团队更接近平台,与平台互动。做到这一点的一个好方法是提供他们需要的文档和参考实施,”Watt 说。
不要忘记提供平台工程体验的专业服务方面。 Watt 说这可以包括研讨会、结对编程、嵌入 DevOps 团队,或者,正如我们从 CyberArk 了解到的那样,您可以为您的平台团队借用应用程序开发人员。随着您的平台团队规模的扩大,您可能需要自己的平台传播者来吸引您的同事客户。
不要忘记,如果您的内部平台是与您的应用程序团队签订的合同,那么可靠性很重要,并且必须从一开始就将持续测试纳入您的平台策略。Watt 说,获得内在弹性和可靠性的可靠方法是吃自己的狗粮并使用平台——“将对他人的限制强加给自己”,尤其是“启动基础设施的工具”。只要你这样做,你就会发现问题很快就会得到解决,”她说。如果那不可能,至少要将您的参考实现作为示例租户进行测试。
最后,平台工程要求你“调整你的想法——目标不仅仅是提供服务,而是成为一种服务并为你的社区服务,”Watt 说。 “我们不仅需要像开源一样开放,还需要开放我们与人互动的方式,并与团队开放我们需要什么才能取得成功。” | https://yylives.cc/2023/02/14/how-to-foster-a-good-internal-developer-platform-experience/ |
只想安静的学好 Kubernetes,怎么就开始弄平台工程了?
聊一下 IT 行业的发展和自己的一些体会。
作为一个经历复杂的中间件产品专家,综合能力给我的工作带来了很大的帮助。例如开发经验可以让我更好的和开发沟通,测试经验让我在诊断问题时可以考虑许多极端情况。但是这个工作本身其实还是比较单纯的,在 IBM 800 学习时,周围有不少同事就是没有研发经验的技术专家。他们大多有不错的教育背景,一毕业就学习软件产品,经过专业的训练,成为了一个优秀的产品专家。当时我的 Mentor 是一位非常专业的姐姐,每次接到问题都可以非常快速的反馈答案,而我很多时候都需要采取延迟策略,先接问题后反馈,因为确实不如她熟练。不过,当时我的 mentor 在一些与开发有关的复杂问题上也会找我讨论,我也觉得很开心。
可能是过去的软件本身就比较简单,亦或者是传统的软件厂商利用原厂优势刻意制造的一种“生态”,这种软件加服务的模式被业界所认可。原厂慢慢将更多的精力放到了产品,逐渐将利润较低的“服务”转给了其他合作伙伴。大量公司和人曾经也依然在这个生态中运转。
不过,随着业务压力越来越大,以及开源文化的发展,解决各类特定业务问题的开源中间件逐渐走向了舞台,这些软件将精力放在了解决问题上,与开发更加紧密,而且往往缺乏商业软件的包装,例如普遍缺乏精致的诊断工具和文档。也确实可能不需要这些,毕竟代码已经在这里了,有什么问题你不能自己解决?传统产品专家遇到了新挑战,或者说传统的软件服务的模式受到了挑战。此时,对一个产品最熟悉的专家可能是能改源代码的开发高手,或者是在自己的工作中有过大量实践的人。原先的产品专家失去了来自原厂的信息差优势,又缺乏足够多足够复杂的实践机会,所以想重新成为某个产品的专家,需要付出更大的努力。现实也是如此,做传统软件技术支持的专家,现在能比较好的转型到开源产品的,大多数本来就是开发出身,有比较强的动手能力。
说到 Kubernetes,问题更加复杂。首先,Kubernetes 可以看做是基础设施,所谓基础设施,就是一旦决定就不好改的东西,自然要考虑的更多,kubernetes 及其组件的复杂性,也决定了做出决策的困难性。第二,Kubernetes 是一个平台,但是很多人没有意识到这一点,还在按照传统的模式使用 Kubernetes,完全没有释放 Kubernetes 的能力。Kubernetes 已经改变了开发和运维的关系,工作方式必须有所改变,这里暂且放下,后面会详细介绍。
过去几年研发领域中的流行词一定会包括 DevOps 。每一种思想的产生,都不能离开其历史背景,显然 DevOps 也是如此。在软件开发早期阶段,或者许多初创公司,开发和运维并没有明确的界限。技术发展到了一定阶段,不管是有意还是无意,开发和运维变成了两个界限分明的工作。此时,随着交付的压力越来越大,界限分明的弊端显现,于是 DevOps 崛起,力图解决此问题。
如前所述,对于新兴的组织,采用 DevOps 的是没有任何负担的,因为根本还没有区分开发和运维。许多组织本身就是从一个开发者的应用开始的,所以 DevOps 天然的就是由开发主导的一种工作模式。
但对于已经建立起了开发和运维界限的企业,想要推行 DevOps ,无疑需要打破这种界限。但是,如康威定律所描述的,组织架构已经和开发运维架构匹配了,这种改变太难了。
所以,我们看到了许多怪异的现象。一方面,所有的人都在谈论 DevOps,新兴的企业自不必说,许多老套的企业也开始反复的提起 DevOps,可是实践中的 DevOps 支离破碎,也许个别项目获得了成功,但整个组织并没有发生特别大的变化。
几年之前,我还在 IBM ,也感受到了一种变化。一方面,我能体会到 IBM 有人早就看到了未来,当时学了很多内部课程,既有理论,也有实践,直到现在还很受用。但另一方面,不知道是哪方面的原因,我看不到客户的改变,或者说客户并不想和 IBM 一起改变,也可能是我当时的团队并不知道怎么改变,或者不想改变。
于是,我到了一家新兴的企业,期望有机会施展我所学到的东西。这家公司表面上是一个非常好的试验田。第一,这家公司利润不错,正处于成长期,所以有能力去尝试。第二,这家公司还是以开发主导的运维过程,与 DevOps 相同。第三,尽管存在所谓的 SRE 部门,但完全谈不上专业性,很被动,有很大的成长空间。虽然实际过程还有些波折,但我还是带领一个小团队,找到了一个能够紧密配合的研发团队,对应用进行了 Kubernetes 改造,设计了一个让开发很轻松的 CI/CD 过程,达到了 DevOps 的效果。
而此时,其他开发团队,也就是那些开发人员主导研发过程的团队,依然采用落后的模式。这种情况,很大程度上是因为这些开发人员对 Kubernetes 等产品认识的不足。当然,这种不足也是正常的,毕竟一个人的能力有限,并不是每个组织都有那种解决所有问题的天才程序员,DevOps 依然需要分工,需要专业人员。
许多组织还没来得及全面转向 DevOps ,结果就要回到老路吗?世界上有不少东西,会让人感到似曾相识,但其实已经发生了微妙的改变。经过 DevOps 洗礼过的运维开发者关系,发生了怎样的变化?
“人不能两次踏进同一条河流”,与上一次相比,许多东西都变了。交付速度的要求更高了,微服务让运维更复杂,Kubernetes 又简化了运维,CI/CD 将开发和运维串联了起来,我们应该有不一样的做法。
如前所述,在上家公司完成第一个项目的 DevOps 改造后,我发现了我们已经有了一个平台,还有许多最佳实践,很自然,我想将这种先进的生产力发扬光大。我们也发现,这个平台的“门槛”可能高了,每个开发者都需要了解一些 Kubernetes 的基本概念,需要了解 Jenkins ,也要对这个过程有清晰的认识,所以也才能在各个管理界面正确的切换。
因此,也许我们需要的是一个开发者平台。如果说以前开发和运维是通过工单来关联的,那么新时代将会是通过平台来沟通。这里借用一下 ThoughtWorks 的一张图:
这个图是按照 DevOps 的术语画的,但其实也有许多不同的表达方法。如果从传统运维改造的角度,可以认为是将原来的运维团队分成两部分,一部分构建上图所述”中心团队“,负责平台建设与赋能,而另一部分运维则转向业务和平台的结合,和不同的业务开发团队组合成各个”非中心团队“,帮助各个非中心团队用好平台,并能够反馈需求,提升平台的能力。
去年,怀着让自己的经验继续发挥的想法,我带领新公司完成了整个研发部门的云原生改造。又通过各种渠道了解了其他组织的情况,我的感受愈加的强烈,Kubernetes 不仅仅是一个技术问题。许多资源比我们丰富的团队,整个开发运维过程却没有我们顺畅。表面上看是因为没有释放 Kubernetes 和相关基础设施的能力,而更深层次的,则是组织架构与职责上,还没有调整到位。通过一些 DevOps 实践可以帮助我们理解这个过程,知道以后要怎么做,但这要付出许多成本。而实际上,平台工程这个想法本身就是许多 DevOps 实践的结果,如果说因为各种原因我们未能在 DevOps 尝试太多,那么直接借鉴其他组织的经验(平台工程)可能是一个好办法。相对来说,阻力会更小,组织结构依然分为开发与运维,只是开发与运维的界限有一些调整,沟通的方式有了一些变化。
欢迎大家关注我的网站 https://yylives.cc/,以及我们的公众号: | https://yylives.cc/2023/02/19/silent-engineer/ |
平台工程团队的架构和设计注意事项
本文翻译自 Architecture and Design Considerations for Platform Engineering Teams 。
究竟什么是平台?它是内部开发人员平台、开发人员自助服务门户还是仅仅是开发人员入职工具?
平台工程并不是一个新概念,在谷歌、亚马逊、Facebook、Netflix 和许多其他大公司中已经存在了很长时间。对于任何大型产品工程团队而言,平台是一组标准服务、框架和模式,最初由一个或多个团队开发供其使用,组织的其他团队可以利用这些服务、框架和模式。
工程组织的其余部分要么使用这些平台服务来开发其他应用程序或服务,要么用作内部工具。
产品团队过去常常在开放源、商业框架和平台服务,以及工具尚不可用时,自行构建许多这样的共享服务和工具。一个很好的例子就是 Google 的内部容器管理平台Borg,后来成为了 Kubernetes。
另一个很好的例子是 Kafka,它是 LinkedIn 最初为内部使用而构建的开源消息传递平台。同样,Amazon Web Services (AWS) 的 S3 和 EC2 最初是为内部使用而开发的,后来成为 AWS 公共云的核心基础。
由于这些平台、框架和工具作为开源或商业产品的可用性,平台团队不再需要为应用程序开发或自助服务云基础设施构建它们。
在云原生应用开发、部署和管理的背景下,平台到底是什么?它是内部开发者平台,开发人员自助门户,开发体验工具,还是简单的开发人员上手工具?除了开发人员之外,还有没有其他使用此平台的用户?
答案似乎对所有问题都是“是的”。我们现在提到的平台是所有这些的组合。由于大多数基础服务可以作为开源或商业产品,或二者兼而有之,因此平台工程团队的主要目标是使这些服务和工具变得易于发现、可自助使用,并通过API、UI、自助门户、Terraform等标准接口更易于使用。
例如,平台团队可以将集群或容器作为服务提供给他们的最终用户,这样每个业务单元或应用程序团队就不必配置或管理 Kubernetes 基础设施。另一个例子是应用部署作为服务,其中平台团队通过提供如 Argo CD 之类的工具作为服务来自动化应用程序部署过程。
为了最终取得成功,平台团队不仅要解决自己的开发人员用例,还要解决其他内部团队的用例。
在背后,平台团队可能会利用各种商业或开源框架,并增加一些自定义自动化功能。尽管开发人员是平台的主要内部用户,但 SRE、安全、产品支持和 FinOps 等其他团队也可以从平台中获益。
这样的一个平台可能拥有一个或多个用户界面,开发人员和其他内部用户可以轻松地利用这些服务以自助方式进行使用,而无需平台团队提供太多的帮助。
用户界面可能会因用户的不同而有所不同。例如,开发人员可以使用Backstage,一个开源框架,来构建内部开发门户,供用户自助访问全部开发资源,如目录、模板、部署管道、开发/测试环境等。团队可以使用 Terraform 进行基础设施管理和维护。
在用户界面的背后是平台的后端,它将所有组织的公共框架、基础设施、服务和工具集中在一起,并通过一个或多个用户界面向最终用户提供标准化服务。
组织的安全、治理和合规要求也被烘焙到后台,以在所有平台服务上应用,以便在整个组织中一致地执行这些要求。
最简单的形式中,平台可以看作是两部分(如下所示)—— 一个由一个或多个最终用户界面组成的前端和一个后端,它为前端提供必要的基础设施,服务和工具自动化,因此使最终用户能够以自助方式使用这些功能,以实现更高的生产力,加快产品开发进度和保持安全性和治理策略的一致性控制。
开发人员的前端可以是简单的本地门户,一个先进的后台部署,或者是一个商业内部开发平台(IDP)解决方案。同样,对于 SRE 团队来说,前端可以由平台团队开发的一组常用 Terraform 模块组成,用于预配和管理基础架构。
一些团队可能意味着将基础架构资源的声明性规范检入到 git 存储库中,并通过 GitOps 自动配置和管理基础架构资源。
后端实际上是基础设施自动化、应用服务、开发人员体验工具、SRE 工具和框架以及安全性和治理策略管理工具的集合。平台团队通常通过在这些基础架构、服务和工具之上添加额外的自动化层,将它们通过各种前端技术提供给用户。
例如,它可能是开发一个定制插件,允许开发人员从 Backstage 门户创建一个开发沙盒。同样,它可以是一个 Terraform 模块,用于创建带有所有必需插件和策略的 Kubernetes 集群,SRE/运维团队可以使用它来创建具有一致配置的集群。平台后端的各个主要组件如下所述:
每个应用程序团队在其应用程序开发中使用各种服务和工具,这些服务和工具不属于核心应用程序的一部分。范围可能从基本服务(如容器注册表、CI/CD 管道和 Vault 即 secret 管理服务)到高级服务(如消息传递、缓存、数据备份、灾难恢复等)。
平台团队将这些服务自动化,并通过一个简单的界面将它们提供给应用程序团队以进行载入/集成——减少应用程序团队的工作量和认知负担,并使他们能够更多地专注于核心应用程序开发以加速产品交付。
可观测性涉及从正在运行的系统收集数据,这些数据可用于故障排除和修复问题、分析资源使用情况以优化性能、收集容量规划指标或构建预警系统,以在任何潜在问题发生之前检测到它们等。
Logging、metrics 和 trace 是可观测性堆栈的基本组成部分。平台团队通常使用开源和/或商业解决方案,并可能实施额外的自动化以与各种应用程序无缝集成以进行数据收集;他们将其提供给开发人员和 SRE/Ops 团队进行分析和故障排除。
除了可观测性工具,SRE 和运营团队还使用许多其他工具和技术来管理和运营大型应用程序基础设施。这些可能包括舰队基础设施管理和运营的自动化、混沌工程、事件管理、警报管理、用于高级调试的自定义故障排除工具、自我修复等。
平台团队可以针对其中一些工具对开源和商业产品进行标准化,并将它们提供给 SRE 团队。同样,平台团队可以为舰队管理、高级调试和自我修复类型的用例开发自定义解决方案,因为这些用例可能非常特定于他们的基础设施和应用程序。
每当开发人员开始开发新服务或应用程序时,他们常常被迫从事重复性工作。这在拥有许多内部应用程序团队、产品团队和业务部门的大型组织中尤其普遍,这些团队之间通常很少共享代码和工具。这些重复性任务可能包括为已经存在的新服务创建样板代码模板、设置测试平台、启动开发/测试环境等。
除此之外,开发人员还需要了解他们所拥有的服务的相关信息——它使用了哪些资源、服务的健康程度、上次更改时间以及如何查看最新日志。平台团队可以通过利用 Backstage 或其他一些开发人员门户的统一开发人员门户以及自动化此类任务中涉及的可重复任务的能力来提供这些能力。
InfoSec 和安全团队为整个组织使用的所有组件、服务和基础设施定义安全框架和基线安全态势。这可能需要在所有系统中一致地执行所有安全策略和实践以满足安全基线态势,持续验证基线以检测任何偏差并在发生违规事件时快速补救。
安全基线策略包括单点登录和基于角色的访问控制、网络安全、用于在资源级别实施精细合规性和安全策略的开放策略代理 (OPA)、镜像漏洞扫描、运行时容器安全、CIS 基准测试等等。
平台团队需要在应用程序开发、部署和管理的每个阶段以及基础架构级别自动应用这些成本控制策略。
对于治理,成本控制政策对每个组织都是必不可少的。平台团队需要在应用程序开发、部署和管理的每个阶段以及基础架构级别自动应用这些成本控制策略。例如,这可能意味着为 Kubernetes 集群部署自动安装一组批准的系统附加组件和 OPA 策略、网络策略和成本控制策略。
平台工程没有放之四海而皆准的方法。它归结为每个组织的具体要求、优先事项以及他们希望通过平台实现的目标。该平台不仅仅是 IDP、Backstage 部署或自助服务门户。开发人员不一定是该平台的唯一用户。平台团队必须彻底了解他们所有的内部用户角色和他们的需求,并为平台开发合适的后端和用户界面,为所有内部用户提供最大价值 | https://yylives.cc/2023/02/25/architecture-and-design-considerations-for-platform-engineering-teams/ |
问答:团队拓扑如何支持平台工程
本文翻译自 Q&A: How Team Topologies Supports Platform Engineering。
Team Topologies 的联合创始人 Manuel Pais 讲述了如何以团队至上的心态将平台构建为产品。
今年以关于平台工程的大量对话拉开了序幕。在我接受的关于这个社会技术学科的每一次采访中,都提到了团队拓扑。
这种优化流程的软件开发和业务方法是由 Matthew Skelton 和 Manuel Pais 创建的。首先,他们合著了一本书,于 2019 年出版;然后他们将其扩展为一个组织,该组织经营一所学院来教授这种实践。
我们与 Pais 讨论了如何利用团队拓扑以及它如何与平台工程交互。因为篇幅和清晰度,对这次采访进行了编辑。
The New Stack:您能介绍一下自己并告诉我们团队拓扑是如何产生的吗?
Manuel Pais:我有 20 年的不同角色经验,从开发、测试、团队领导到咨询,尤其是围绕 DevOps 和持续交付。我在 2014 年遇到了 Matthew [Skelton],我们开始与世界各地的客户一起开展这些咨询业务,主要是从“我们想要采用 DevOps”或“我们想要持续交付之类的东西”开始。 ”
通常我们会发现问题在于团队互动或不互动的方式,团队的目的不明确,团队超负荷。尤其是我们现在所说的“平台团队”,它们通常有太多的利益相关者,因此他们分布很薄,无法为客户提供实际价值。
当我们与客户合作时,我们发现了不同的模式,有些很好,有些不太好。我们意识到这比 DevOps 更广泛。这就是“团队拓扑”出现的地方。
因此,这本书将工程原理应用于我们组织和建立团队的方式,我们建立了互动。
什么是“团队拓扑”?
“拓扑”是指系统的不同部分连接或排列的方式。因此,当我们谈论团队拓扑时,没有单一的正确拓扑或组织的理想操作模型。
但事实是,如果我们拥有工具,如果我们拥有构建模块来理解如何将它们组合在一起,我们如何以适合我们的组织、适合我们的目标和挑战的方式安排它们,那么我们可能比仅仅采用某种框架要好得多,因为这是我们被告知或认为的正确组织方式。
重要的是从我们今天所处的位置开始,找出其中的差距。我们是否需要在组织中建立一些新的能力?我们是否需要让团队更加拥有其产品,以便他们可以更快地前进、进行实验,并比今天更快地为客户改进产品?如果我们需要这些东西,我们应该建立哪些类型的团队和相互作用关系?
这可能会导致:我们需要做出一些改变。也许我们需要创建一些新的团队,比如赋能团队或平台团队,或者我们只需要改变职责或将其他人带入现有团队。
“我看到很多次:‘让我们重组为这种新的运营模式。’它基于这样的假设,即一切都会变得更好。很多时候情况并没有好转——或者没有我们预期的那么好。我们需要的是在连续的基础上采取更小的步骤。”
—Manuel Pais,团队拓扑
对我来说,团队拓扑学不是一个框架,也不是一个模型。对我来说,它只是一组关于组织思考方式的方法。然后是一些有用的团队类型和交互模式的模式,以及我们如何演进,如何以比过去更加连续的方式感知我们何时需要改变组织。
人们如何开始?它是作为一项自上而下的活动开始的,还是可以在逐个团队的基础上完成?
平台团队并不是新事物。我认为团队拓扑的不同之处在于我们不是孤立地谈论平台。这是一个团队网络,我们需要为组织和客户完成工作。
是的,通常情况下你需要某种形式的平台。它可能非常小,非常薄弱。在一个小公司中,你可能只有几个人来定义这个平台,以及如何更有效地完成某些事情。在较大的组织中,这可能是多个团队,甚至是多个平台来提供帮助。
为什么我们需要它们?它们为什么存在?在团队拓扑中,平台的首要目标应该是减少开发面向客户的服务或产品的流对齐团队的认知负荷。
我认为这就是为什么你在平台工程的背景下听到这么多关于团队拓扑的原因。我们将平台称为产品,因为它需要帮助他们的平台客户(即其他团队)更有效地开展工作,减少他们的认知负担,以及做某些事情需要付出的努力。
而在过去,我们只是孤立地谈论平台。我们会更多地考虑技术方面:我们应该建造什么?其他组织正在发生什么?那么我们需要构建相同的东西或者我们需要使用相同的新技术。是的,我们需要利用技术,但这不应该是起点。
您将软件组织称为“有机体”之类的团队网络。那是因为团队拓扑结构在不断变化吗?一个组织应该多久检查一次它的团队拓扑结构?
仍然很常见的是进行大规模的重组,有些公司每两三年就会进行一次重组,他们会调整人员并改变他们的角色。然后他们会惊讶地发现人们为什么没有参与感或疲劳不堪。这不是一种有效的方式。
相反,我们应该思考:在组织层面上,我可以做出最小的改变来获取反馈,并了解这个改变是否真正有帮助?我经常看到这种情况:“让我们对这个新的运营模式进行重组。”它基于这样的假设:这一切都会变得更好。但是很多时候它并没有变得更好——或者没有我们预期的那么好。
我们需要在持续的基础上采取更小的步骤。例如,我们需要在数据科学方面得到帮助,或者我们需要拥有更多的数据洞察力的团队。也许我们只有一个集中式的数据科学家团队,而他们已经超负荷了。这太慢了,他们成为了瓶颈。我们该怎么办呢?
也许我们可以从让这些数据科学家做一些使能工作开始。帮助其他团队学习基础知识,这样他们就可以自己做一些事情了。他们不会一天变成专家,但也许他们可以做一些基本的事情,不再依赖那个集中式的团队。这是一个非常小的变化。
理想情况下,你希望有一种文化,团队本身作为“传感器”来行动,“我们需要改变一些东西;这不起作用。也许我们有太多的依赖关系阻止了我们,或者我们没有我们需要的技能。”
我们需要看看康威定律和邓巴数来建立信任团队。管理层需要更好地理解存在的约束条件,塑造团队合作的方式,为团队提供文化和自主权,让他们决定需要进行的小改变。归根结底,要真正成功,需要顶层和底层方法的结合。
能源供应商比较网站 Uswitch 的团队拓扑案例研究,该网站包含多个平台团队以及站点可靠性工程 (SRE) 支持团队。 (来源:团队拓扑学院)
根据团队拓扑,告诉我们一些不同类型的团队。
流对齐团队是许多人称之为跨职能产品团队的团队。但是今天,对于我看到的大多数产品,你不能只有一个团队。这不够。因此,我们需要在多个层面识别价值流。
最近我与一家大型制药公司交流。在最高层面上,他们真正拥有两到四个主要的价值流 — 药物开发、诊断和其他 — 然后有成千上万的人在这三个价值流下工作。因此,我们需要将其细分:在这个大的价值流下,我们有哪些较小的流可能与不同类型的客户、不同的市场、不同的地区对齐?
然后你向下再走一层。在这些不同的价值流中,我们正在构建哪些产品?在产品中,有哪些不同的流程可能是不同的客户旅程或在产品中相对独立的不同功能集?
因此,组织内的这种分层价值流非常有用。每个流对齐的团队都对工作流拥有端到端的所有权,这可能是作为产品一部分的一项服务,也可能是作为产品一部分的一组功能。但是您希望该团队拥有该所有权。
关于 DevOps,这些团队拥有构建和运行的所有权。他们也有创意所有权。理想情况下,他们进行实验,从用户那里获取数据,并且了解我们下一步需要做什么。
然后我们讨论赋能团队,通常是围绕某个领域的专家组成的小团队——比如数据科学、安全或用户研究。
无论哪个领域需要专家知识,我们如何才能以有效的方式将这些知识带给流对齐的团队,从根本上减少学习曲线,让团队加快他们需要做的事情,使我们的应用程序或服务更安全的?我们如何获得我们需要的数据以及我们如何分析数据以获得我们需要的关于我们服务的见解?
因此,赋能团队将通过教学、指导、帮助他们快速学习来与流对齐团队一起做到这一点。
然后我们谈论平台团队。这是一个别名,对吧?从某种意义上说,平台团队最终成为一个流对齐的团队,拥有端到端的所有权,只是他们提供的服务是内部的,供组织中的其他团队使用,供内部客户使用。
最终在大中型组织中发生的事情是,该平台团队是一组团队,您可能在平台团队内部拥有多个流对齐的团队,与不同的服务对齐。也许一个团队正在从事监控服务,而其他团队正在从事某种[站点可靠性工程]相关服务等。
“这是我经常看到的反模式,平台变成了所有东西的桶,变得一团糟,缺乏所有权,缺乏重点和大量浪费,团队超负荷工作并致力于很多并不是真正的优先事项。”
—Manuel Pais,团队拓扑
在平台内部,您可能还拥有赋能团队。在初创公司或扩大规模时,该平台可能只是某种 Wiki 页面,一些人在那里收集了一些关于如何创建一些数据库的指导,如何以有效的方式做一些事情以供其他团队入门更快——减少认知负担的东西。
[随着规模的扩大],您希望每个平台,A,具有某种内部凝聚力,[和]B,提供一致的界面和供客户内部使用的方式。
例如,基础设施平台不同于数据服务平台,数据服务可能使用基础设施平台,并为组织中的其他团队提供数据服务。
您需要找到不同平台之间的界限,以便每个平台在内部具有凝聚力,共同研究如何以一致的方式为客户提供服务,而不会让他们感到困惑。但你也需要解耦平台,这实际上是两个不同的东西,它们应该是分开的,这样它们才能更独立地发展。
这也是我经常看到的一种反模式,平台变成了所有东西的桶,变得一团糟,缺乏所有权,缺乏重点和大量浪费,团队超负荷工作并致力于很多并不是真正的优先事项。
科技行业正处于技术裁员和招聘冻结的时期。您所描述的很多内容都暗示了招聘和培训的预算。您将如何调整团队拓扑以适应这些更贫乏的过渡和倦怠时期?
缺少的是团队至上的方法——将团队视为向客户交付价值的最小单位。意思是,我们不太关注个人,而是关注团队:什么可以帮助团队做出更好的决策,在工作中更加自主,并更快地为客户提供价值?
这通常与组织其他部分的工作方式不一致,例如培训预算。我们有这个在线学院,提供基于视频的培训。我们有一位工程总监,他们每个人每季度都有这样的培训预算——可能每季度 100 欧元。这位工程总监无法购买我们的课程,因为他们在本季度没有足够的预算。
我认为这是不该做什么的一个很好的例子。它非常关注个人,不支持团队应该决定的想法。从培训的角度来看,在这种情况下,您不需要增加培训预算,而是可以有一个桶,如果我们的团队中有 10 个人,那么我们就有 1,000 欧元,这是我们可以在每个季度使用的东西基础。
这就是为什么我们称之为团队优先方法。这也是关于团队中的个人将团队放在首位,然后思考 [关于] 什么对团队和组织有帮助。
将团队作为一个整体来考虑,然后裁员问题也很有趣,因为,是的,不幸的是,我们可能会有更小的团队,因为我们的人更少。但球队作为一个整体仍然存在,球队更有能力吸收裁员的影响。
但是你不需要拆散团队。你将团队作为一个整体,即使能力有所下降。团队拓扑结构在裁员期或经济低迷时期仍然有效。
你不想做的事情——我听过很多公司的例子——就是解雇拥有更多专业知识的人,可能是因为成本更高。当您在组织中拥有这些人时,他们非常有价值。
我们在团队拓扑中所说的是,您不希望它们成为瓶颈。您不想依赖专家来完成工作。您希望专家帮助他人。因此,让专家帮助其他团队学习我们在组织中存在差距的任何地方都会产生网络效应。不要放过专家,如果他们接受这种教导和帮助他人的想法,他们就会变得强大。
该平台是组织倾向于开始削减预算甚至裁员的另一个领域,因为他们认为,“哦,这是可以消耗的,因为它是内部产品的内部工作。”
但是你需要看整个局面:如果平台按照这种“平台即产品”的方法正确实现,那么潜在的收益可能比削减一些平台服务和团队所得到的收益要高得多,因为这些团队正在开发面向客户的产品。
团队拓扑如何定义团队?
我们将“团队”定义为通常由 5 到 9 个人组成的团队,他们一起工作 [一段时间] 并确定了他们喜欢的工作方式。他们相互理解,有一个与客户和组织目标一致的共同使命。
这是一个长寿或持久的团队。这是我们保持在一起的一个单位。这并不意味着它是静态的——当然,人们会离开,一些新人会加入——但团队作为一个整体保持稳定。
工作可能会发生变化,我们可能需要停止投资某些产品或某些工作流程,而我们正在投资其他一些工作流程。但我们将团队作为一个整体,因为这是很有价值的地方。该团队经历了一些人所说的 Tuchman 团队发展模型,团队需要时间真正了解彼此,相互信任,然后才能达到更高的绩效水平。
“您可以通过不同的方式将创新和新知识带入团队。这不仅仅是引进新人。你可以确保人们有时间、可用性和预算来学习新技能、进行培训或得到其他团队的帮助。”
—Manuel Pais,团队拓扑
这与组织创建团队来交付某些项目或变更,然后解散团队的情况不同。在这种情况下,您不拥有您构建的服务或能力的所有权,因为您只是移动人员。因此,这不是非常有效的,因为我们知道成功软件的大部分成本不在开发中,而是在维护和支持方面。
如果您有一个拥有该服务的团队,那可以确保它顺利运行,您可以整合新方法。你要确保你知道它一直在为客户提供价值。
这会阻碍创新吗?微软可访问性总监大卫·戴姆 (David Dame) 表示,一个在一起工作 18 个月或更长时间的团队已经形成了一种共同的思维方式,这会减少多样性和创新。
团队需要大约六个月到一年的时间才能真正凝聚起来,达到我们可以称他们为一个正在改进和执行的团队的程度。所以在 18 个月之后,这还很早,你绝对不想解散团队。
我很喜欢 Heidi Helfand 的著作《Dynamic Reteaming》,她谈到了一些这方面的模式和如何随着时间改变团队。团队的改变是不可避免的。但是如果你分散团队,那么你会失去团队拥有的所有知识。我们可以依靠团队所做的决策的文档,但是没有什么可以取代团队内部的那种讲故事的方式。
您可以通过不同的方式将创新和新知识带入团队。这不仅仅是引进新人。您可以确保人们有时间、可用性和预算来学习新技能、进行培训或获得其他团队的帮助。
这就是我们在团队拓扑中谈论的很多内容:我们如何以有效的方式将新功能构建到团队中?我们并不是说您可以在业余时间自学。我们应该在组织内部建立共享知识的机制。这就是您拥有支持团队和平台团队的地方。
关于“团队至上”的思想和价值交付的最小单位是团队的思想,这是否意味着在 DevOps 意义上,它们是完全自主的?这如何适应平台工程,他们应该能够自己构建和运行它?
平台的目标是帮助这些流程对齐的团队更有效地完成他们的工作。有些人谈到创建这些流程对齐的团队的“黄金路径”,意味着他们拥有自己的服务或产品,并负责监视、部署等。
“传统上,人们总是关注个人,围绕这位 10 倍工程师的一些被高估的想法。我们确实需要有专业知识的人,我们确实希望人们变得更好。但我认为这是对某种英雄文化和/或喧嚣文化的过度依赖。”
—Manuel Pais,团队拓扑
但是我们如何帮助他们减少做这些事情的认知负担呢?我们可以做到这一点的方法通常是使用平台,该平台提供非常好的监控服务、良好的可观测性服务、部署服务、持续集成和持续交付 pipelines ——所有这些类型的东西都可以作为基础设施平台的一部分提供,例如。
我们需要非常专注于作为平台团队或一组团队的目标,这是否能帮助流程对齐的团队更好更快地完成工作?因为平台提供服务的方式存在着一些真正的危险,比如这些服务不易于使用,或者不够可靠,或者令人困惑,或者不支持流程对齐的团队需要的用例。
如果这样,你并没有帮助他们,反而增加了他们的认知负荷。因为现在我们不得不使用那些不适合我们所需的服务,所以它实际上减缓了我们的速度,而不是帮助我们更快地前进。
将平台视为一种产品,了解您的用户 [并] 与他们交谈。对您在平台中提供的内容进行快速迭代,尽快从用户那里获得反馈。
我们需要优先考虑什么?什么更有价值?因为当你在一个平台上工作时,你可能会收到成千上万的请求,因为每个人都有自己的需求。所以你需要有我们要去哪里的产品愿景。对组织更广泛的价值是什么?我们不要构建只对一两个团队有帮助的东西。
所有这些都是产品思维。进行一些用户研究,与客户交流,了解他们如何使用您的服务。提供适当的文档作为自助服务,这样人们就可以使用平台而不依赖您作为平台团队来回答他们的请求。
为什么您认为培养团队至上的心态会有阻力?如果阻力来自团队之外会怎样?
传统上,一直关注个人,围绕这位 10 倍工程师的一些被高估的想法。我们确实需要有专业知识的人,我们确实希望人们变得更好。但我认为这是对某种英雄文化和/或喧嚣文化的过度依赖。
所有这些都导致组织大多数情况下都关注个人表现。从人力资源角度来看,他们关注的是个人,而从预算角度来看,它仍然非常基于项目或交付,并非基于团队,也不允许团队提供价值。
问题的一个重要部分是试图为我们认为客户需要的能力、产品或交付物进行预算。但是,由于我们周围的事物变化如此之快,三个月后,你会意识到它完全是错误的,但你已经为整整一年甚至多年进行了资金投入。 | https://yylives.cc/2023/03/01/how-team-topologies-supports-platform-engineering/ |
构建 Kubernetes 平台时需要考虑的 5 件事
本文翻译自 5 Things to Consider When Building a Kubernetes Platform 。
这篇文章旨在减少指导性,为评估建立在 Kubernetes 之上的抽象和平台提供一种方法,并帮助CTO办公室评估并为其软件工程团队做出明智的选择。
现代应用程序开发团队需要完全托管的自助服务平台。最近 Kubernetes 的转向中,已经看到许多团队争先恐后地在编排工具上构建平台。内部开发平台的需求由大型工程团队使用定制工具来满足非常具体的技术、流程和人员需求,例如 Uber 的 Devpod 和 Zalando 的 Sunrise。这种方法绝对值得效仿,但对于很多工程团队来说可能是遥不可及的,因为构建平台的成本很高,而且并不是所有软件团队的务实期望。
首席技术官的职责是平衡技术考虑和业务目标。你的责任是通过工程任务提供产品的竞争优势,但通常表现为业务结果的函数。一条通往生产环境的铺好的道路通常并不意味着它有明显的业务优势。
接下来是 CTO 办公室的优先事项清单。这个简短的清单是基于与多位经验丰富的技术领导和新手进行的讨论编制的。以下是一些假设:容器是事实上的应用程序交付机制。考虑使用 Kubernetes,或者已经在使用。云原生技术占据了他们的大部分流程。
1. 流畅的应用交付
应用程序平台必须能够为开发团队提供高速度。高速是两个因素的衍生物,即快速的应用程序交付和较短的开发周期。较短的开发周期来自开发人员认知负担的减少以及对 CI/CD 等现代实践的本地支持。应用程序平台必须支持以源代码开头的构建工作流。这些平台还必须能够支持在任何远程暂存实例上以可重复的方式部署应用程序。如果它能够整合团队现有的工作流程,例如触发测试和更新远程容器注册表,则可获得加分。
2. 多语言支持
一致性是应用平台的标志。该平台必须支持可重复和可复制的按需构建。提升平台体验的是跨所有语言和框架扩展同质体验的能力。无论团队使用何种语言,都保持相同的体验有助于支持当今能够使用任何编程语言编写服务的需求。如果平台支持本机构建过程以实现此目的,那么扩展和自定义此构建过程的能力是促成平台成功的关键因素。当软件工程团队有一些小众需求并且必须遵循复杂或极其具体的步骤来生成他们的容器镜像时,这个因素就会凸显出来。
除了少数例外,现代应用程序都是数据驱动的。平台必须协调应用程序和相关数据服务之间的连接和消费,以便为开发人员提供承诺的效率。容器的使用稍微复杂了一点,更不用说在 Kubernetes 上编排它们了。通过采用服务网格或服务代理策略来减轻这种负担是解决此问题并使他们的平台更具吸引力的常用方法。
3. 内置安全性
与传统工作负载相比,容器化环境的安全性非常不同。由于容器工作负载的短暂性质及其构建的架构(共享内核、权限、网络行为等),保护工作负载的传统方法将行不通。因此,为与容器和容器编排器一起工作而构建的平台必须考虑所有这些变化。一个基本的最佳实践是使用包含所有必需依赖项的已编译二进制文件。构建过程还应该包含一个指令,以去除应用程序运行不需要的所有组件。平台扩展的安全性还应该超越构建精益镜像。该平台必须有助于保持容器注册表的安全。定期扫描镜像被认为是一项重要的附加值。为所有镜像签名正迅速成为最佳实践。在编排部署的平台组件之间建立零信任架构对于改善工作负载的安全状况大有帮助。
4. 可调抽象
Kubernetes 的巨大成功及其操作的复杂性使得迫切需要帮助抽象它。进入门槛高,加上详尽的接口,需要抽象以帮助促进 Kubernetes 在整个组织中的采用。重申一下,并非所有团队都能“工作更多,让其他人做更少”。抽象 Kubernetes 原语以改善开发人员体验的能力是该平台目的的核心。
打造自以为是的平台有时会适得其反。开发人员体验是软件工程团队中技术需求和部落细微差别的脆弱组合。对于软件工程团队来说,能够定制一个平台来满足他们当前的需求并随着他们未来的工作流程而发展对于继续使用工具至关重要。一个平台既可以提供铺平道路,又可以灵活地满足软件工程团队的此类需求,则成功的可能性更高。
开源平台在这方面得分很高,尤其是具有模块化架构的平台,其中一个组件可以换成团队认为合适的其他组件。
5. 外在因素
技术能力范围之外的几个重要特性对平台的成功起着至关重要的作用。其中最重要的是存在于工具外围的社区力量。任何成功的开发者工具,都在开发者群体中拥有忠实的追随者。该工具的许多积极因素都源于这种认知盈余。采用者可以期待从业者的支持和指导,以及以去中心化方式传播的大量知识。
许可和问责制等商业方面有时会发挥作用,尤其是在需要严格合规的垂直领域。在这些情况下,附属于商业实体在成功采用这些平台方面发挥了作用。
一个好的起点是从市场上已有的适合您组织需求的众多解决方案之一开始。提供抽象以改善开发人员在 Kubernetes 上的体验的可用工具的一些示例是:
RedHat Openshift – 一个用于大规模构建、现代化和部署应用程序的统一平台。
-
Weaveworks GitOps – 一种免费的开源持续交付产品,可在任何 Kubernetes 中运行应用程序。
-
Gimlet – 一个基于 GitOps 的开发者平台,建立在事实上的标准之上。
-
Epinio – 安装到任何 Kubernetes 集群中,将您的应用程序从源代码带到部署。
-
Cloud Foundry Korifi – 云原生工作负载的 Cloud Foundry 体验。
-
D2IQ – 可以更轻松地大规模构建和运行 Kubernetes。
-
KubeFirst – 一个完全自动化的开源应用程序交付和基础设施管理 GitOps 平台。
-
Qovery – 一个可轻松复制您的基础设施并在 AWS 中创建类生产环境的平台。
-
Acorn – 一个简单的 Kubernetes 应用程序部署框架。
-
我们鼓励您在开始选择平台之前创建一份清单,列出对您和您的组织最重要的因素,以便在 Kubernetes 中铺平通往卓越生产的道路。这是示例清单的样子。
您对此类练习的评估有望让您更轻松地找到经过优化以满足工程团队需求的平台。 | https://yylives.cc/2023/03/04/5-things-to-consider-when-building-a-kubernetes-platform/ |
您的平台工程门户需要哪些特性?
翻译自 Which Features Does Your Platform Engineering Portal Need? 。
成功设计一个提供开发人员真正需要的门户平台是一项重大的工程壮举。这里有一些特性可以确保良好的开发体验。
平台工程已作为一种社会技术解决方案出现,以填补 DevOps 中缺失的许多空白。特别是,平台工程的主要好处是它如何大规模提高敏捷性和消除孤岛——尽管这一直是 DevOps 应该做的。
改善开发者体验是关键,因为这是提高敏捷性的主要途径。从实际角度来看,这意味着开发人员可以在优化的平台工程师支持下,通过提供自助服务功能和自动化基础设施操作,完成工作而无需承担与管理运营相关的繁琐任务。
这对于在云原生环境中工作特别有用,因此开发人员可以创建应用程序或完成拉取请求,而无需参与管理 Kubernetes 的巨大复杂性和其他相关任务,例如安全性。
Gartner 预计,到 2026 年,80% 的软件工程组织将建立平台团队,作为可重用服务、组件和应用程序交付工具的内部供应商。分析师预测,平台工程最终应该解决软件开发商和运营商之间合作的核心问题。
然而,平台工程的一个经常被忽视的关键要素仍然是实际的开发人员体验。这就是所谓的开发人员内部开发人员门户发挥作用的地方,作为工程平台之上的界面,将确保开发人员能够完成他们的工作,学习曲线类似于使用无代码替代方案。
有了正确的门户,开发人员必须首先花费一年多时间学习如何为 Kubernetes 创建应用程序和在 Kubernetes 上部署应用程序的日子已经一去不复返了。相反,开发人员几乎可以立即开始应用他们的才能来开发软件,以反映敏捷开发实践的节奏实现直接的业务目标。
事实上,在过去几年中,许多组织在尝试采用平台工程时都专注于平台本身。他们通常可能设计 CI/CD 管道、云基础设施、实施 TerraForm 并设计 Kubernetes 基础设施。
然而,在许多情况下,让开发人员可以访问该平台的尝试可能会在杂草中迷失方向。
Port 的联合创始人兼首席执行官 Zohar Einy 表示:“开发人员需要能够以他们能够理解的方式使用具有类似产品体验的不同平台元素,因为他们不需要了解幕后的一切。” ,它提供了一个内部开发人员门户,可为开发人员提供自助服务体验。
“但通过适当的平台工程到位,您可以减轻开发人员的认知负担并帮助他们获得所需的一切,”Einy 说。 “这可以通过作为内部开发人员门户的现成产品来完成。”
成功设计一个提供开发人员真正需要的门户平台是一项重大的工程壮举。虽然存在开源产品,但它们需要大量内部资源来设置和管理。
根据旅游服务提供商 Luxury Escapes 的首席软件架构师 Eran Stiller 的说法,领先的开源开发人员门户网站是 Backstage。由 Spotify 的工程师开发的 Backstage 具有高度可定制性和可扩展性,但开发人员需要大量时间才能采用它,而且“您还必须自己托管它,这需要额外的时间和精力,” Stiller 说。
最近几个月,Backstage 还披露了一些可能带来安全风险的重大漏洞。
另一方面,Stiller 说,商业产品通常在功能和它们提供的可扩展性方面受到限制。
“如果该产品能够满足您的需求,并且可以与您当前的技术堆栈和平台一起使用,那就太好了。但如果不这样做,它对你的好处可能是有限的,”他说。 “提供开箱即用的高水平定制和可扩展性的商业平台具有巨大的潜力,可以帮助那些不想或不能花时间调整和托管他们自己的 Backstage 实施的开发团队。”
根据 Einy 的说法,开发人员门户应提供的特性:
自助服务,为开发人员提供灵活性,同时保持政策合规性。 门户的自助服务功能应该超越微服务脚手架,以允许开发人员对软件目录中公开的任何资产进行配置和执行第 2 天操作。同时,门户网站应确保任何操作都符合政策,并允许对某些操作进行手动批准。
“Port 是第一个在开发人员自助服务方面采取这种雄心勃勃的方法,超越了脚手架,这也是 Backstage 方法,”Einy 说。 “作为对我们愿景的验证,我们看到市场上的其他参与者也开始采用这种方法。”
门户和平台的松散耦合。 通过这种方式,平台工程团队可以自由地根据他们的规范构建底层平台,并让开发人员通过开发人员门户以他们理解的方式使用平台数据。
平台工程团队可以选择他们想要的 CI/CD、IaC、软件架构和所有 DevOps 流程。
解耦允许对底层平台进行更改,同时保持开发人员体验的一致性。
“我们不会给你一个预制的房子,里面什么都有,然后告诉你如何进行 DevOps 或平台工程,”Einy 说。 “但是我们为您提供了无代码元素来创建您梦想中的房子。这是我们与其他解决方案之间的关键区别。”
能够集成组织自己的数据模型。 数据模型被带入软件目录,这是一个可见性层,用于组织内部开发和管理的基础设施和软件。
理想的软件目录应该显示软件开发生命周期周围的整个生态系统。这些包括CI/CD流程、开发者环境、管道、部署以及任何云服务,"在所有的[研发]部署中",Einy说,"从应用开发,甚至到数据、安全、产品和研究——基本上是每个与软件有关的团队"。
开发者门户内的工作流自动化支柱,允许机器与其交互。 在开发者门户内,机器可以使用 Port 的实时软件目录访问单个 API。这为机器提供了它们在工作流程中需要的上下文信息,例如失败的 CI 任务、自动终止资源或基于软件目录数据运行 CD 流程。
此外,机器可以订阅触发器,例如:资源生存时间达到零、Cron 作业计时器已用完,或者实体的创建、修改或删除。您可以使用订阅来触发自动化工作流或任务。
“这也是因为软件目录充当通用软件目录,而不仅仅是为开发人员抽象信息,”Einy 说。
此类门户功能“对于现代软件开发团队至关重要,”Stiller 说,并补充说,“对于那些大型团队或为多个部署单元(如微服务)构建软件的团队来说尤其如此。”
在后单体时代,软件设计要求变得更加复杂,“开发团队也随之成长,”Stiller 说。 “我们开始分发我们编写的软件。”
“这种分布导致了多个团队不断踩到对方脚趾的问题,因此我们转向面向服务的架构,后来转向微服务。问题在于,分布式架构比整体架构更难掌握和维护,从而带来了新的挑战。”
Stiller 说,在基于微服务的应用程序开发中,负责监督开发过程的架构师通常会面临理解系统工作原理的挑战,并提出以下问题:
应用程序部署在哪里?
-
当前运行的是哪个版本?
-
哪个服务依赖于哪个其他服务?
-
哪个服务是造成大多数客户错误的原因?
-
Stiller 说:“他们需要工具来帮助理解分布式的复杂性,并引导他们走向应该关注的地方。” “一个好的内部开发人员门户网站使我能够做到这一点,它允许我为构成我的应用程序的所有软件构建一个目录,无论是服务、部署管道、基础设施组件、云环境等。”
他说,一个好的门户允许架构师在他们的目录之上覆盖额外的信息,这些信息通常在其他系统中可用,但需要在一个位置连贯地组织起来。
“例如,我可以添加一层信息,根据我的可观测性平台中可用的数据说明每项服务的错误率,”Stiller 说。 “或者我可以添加一层信息,根据我的源代码控制系统或 CI/CD 管道中的信息显示特定横切依赖项的版本。”
添加信息后,架构师可以添加规则并创建仪表盘。
“例如,我可以根据服务的错误率排名,并对未满足[服务级别协议]的服务发出警报,我还可以对未将依赖项更新到最低要求版本的服务发出警报,” Stiller 说道。“能够这样做,并以一种易于访问的方式向团队中的所有开发人员展示所有这些信息是无价的。” | https://yylives.cc/2023/03/07/which-features-does-your-platform-engineering-portal-need/ |
通过平台工程设置 Kubernetes 标准
翻译自 Setting Kubernetes Standards with Platform Engineering 。
使用软件目录记分卡来设置 Kubernetes 质量和安全标准,从生产就绪到多个集群等等。
你不可能对所有事情都是专家。但缺乏专业知识不应该阻止你做任何事情,或者使你需要花费很长时间才能完成任务。相反,你只需要知道什么是标准,使用最佳实践并关注重要的数据即可。
这就是平台工程的意义所在。它为开发人员创建可重用的元素,例如重新部署镜像标签、更新自动缩放组以提供新包等等。这些功能可通过内部开发人员门户访问,记分卡在那里发挥着重要作用。
让我们以 Kubernetes 和开发人员为例。仅仅因为开发人员不是 Kubernetes 专家,就说他们应该学习 Kubernetes,或者在希望不破坏任何东西的情况下自由漫游,或者等待 DevOps 工单,这是不正确的。
我们需要允许开发人员拥有自主权,而这可以通过标准实现。标准可以使开发人员摆脱基础架构的复杂性,并允许开发人员在规定的范围内处理 Kubernetes。评分卡是表达这些标准的地方。
这不仅仅是关于良好的平台工程,也关乎良好的开发人员体验。开发人员应该得到精心设计的解决方案,这些方案应该像同样的开发人员为非技术人员提供的那些方案一样设计得精美。
我们已经写过关于内部开发人员门户和它们的软件目录如何抽象出 Kubernetes 复杂性的文章。内部开发人员门户会自动映射所有 Kubernetes 元数据,并通过“白名单”数据帮助开发人员立即了解什么是重要的。在本文中,我们将讨论内部开发人员门户如何使用记分卡将组织 Kubernetes 标准付诸实践。
评分卡与内部开发人员门户中的防护栏杆紧密相连,最终定义和推动了更好的工程质量标准。定义 K8s 的生产就绪或安全标准不仅有助于个人开发人员的改进,也有助于整体工程质量的提升。
未经过滤的原始 Kubernetes 数据对于开发人员来说通常太多了。有些数据不相关,有些可能相关但以对开发人员意义不大的方式呈现。内部开发人员门户包含软件目录,它们提取数据以便开发人员可以使用它。看看这个取自 Port 的单一服务视图。仅展示相关的数据。
让我们来看看 Kubernetes 的一些具体记分卡示例。
生产就绪记分卡评估现有 Kubernetes 对象(例如部署或集群)的生产就绪情况。这有助于确保它们满足生产环境中性能、可靠性和可用性所需的标准,并且可以识别任何必要的更改或升级以随着时间的推移保持或改进它们的就绪状态,从而降低停机风险并确保最终的高质量服务用户。
记分卡应针对以下类别:
对于容器,指标应该验证容器资源配置,如内存 request 和 limit ,并确保为所有容器配置了 liveness 探针和 readiness 探针。这些配置对于确保容器高效运行并能够快速响应可能出现的任何问题至关重要。
对于容器,指标应验证容器资源配置(例如内存请求和限制),并确保为所有容器配置活动和就绪探测器。这些配置对于确保容器高效运行并能够快速响应可能出现的任何问题至关重要。
-
对于命名空间,规则应确保工作负载不会部署在默认的 Kubernetes 命名空间中,这有助于防止因干扰 Kubernetes 系统组件而可能出现的潜在问题。
-
对于高可用性,指标应该要求最少副本数为两个,这对于确保在任何节点或 pod 发生故障时的冗余很重要。这种冗余对于确保工作负载的高可用性至关重要。
-
以下是 Kubernetes 生产就绪情况的记分卡示例。
总的来说,记分卡中反映的标准旨在确保 Kubernetes 工作负载已经生产就绪,并且可以以可靠、可扩展和高效的方式运行。记分卡系统是跟踪这些标准合规性并确保开发人员和运营团队都了解其工作负载的生产就绪状态的有用方法。您可以在此处查看此记分卡的现场演示版本。
安全记分卡标准旨在确保安全措施到位,通过验证 GitHub、DataDog 和 Terraform 等外部系统的 secret 不会暴露,从而保护敏感信息。容器部署合规性标准确保容器配置了只读根文件系统,不访问底层主机并且不提升权限,所有这些对于维护容器安全性都至关重要。标签和标签标准验证工作负载是否具有有效的标签值,以及所有容器镜像是否具有标签版本,这对于有效地组织和管理工作负载非常重要。
这是此类记分卡的示例:(此处为现场演示版)。
总的来说,这些规则有助于确保 Kubernetes 工作负载得到安全部署,并能够以可靠和安全的方式运行。
虽然开发人员可能不太关心资源使用情况,但 DevOps 非常关心。您无法很好地解决资源使用问题,资源使用问题必然会造成更多事件。记分卡既可以提醒开发人员注意此类问题,这样他们就可以自行解决这些问题并设定质量标准。
回到运行服务记分卡,我们可以看到它在资源使用方面处于青铜级别,这是由于 CPU 使用和内存问题。通过搜索软件目录或使用其报告之一,这立即成为一个行动项目。
这是用于评估 ArgoCD 工作流程和部署的生产就绪情况的记分卡。这些规则可确保工作流可靠且推出过程合规,并检查错误处理、配置管理、修订历史和扩展。
由于在所有集群中维护一致配置所涉及的复杂性,管理多个 Kubernetes 集群可能具有挑战性。由于多个集群分布在不同的区域和云中,因此很难确保所有集群的配置一致且正确,并且所有配置都是最新的。错误配置可能会导致服务中断和安全漏洞等问题,从而造成严重后果。
此外,大多数 Kubernetes 可视化工具不提供可以显示不同区域和云中的所有集群的统一仪表盘,这使得难以从单一面板监控整个 Kubernetes 环境的健康状况和性能。
在内部开发人员门户中,很容易创建一个仪表板来显示所有 Kubernetes 集群和关于它们的最重要数据。您可以在现场演示版中看到它的样子:
让我们在此数据之上创建一个生产就绪记分卡:
生产就绪计分卡用于根据一组标准评估 Kubernetes 集群的就绪情况。这些是可用于确保 Kubernetes 集群的稳定性、可用性和可靠性的不同规则。
“K8s 版本稳定”和“使用最新的 K8s 版本”标准侧重于确保使用的 Kubernetes 版本稳定且最新。例如,如果组织中有将集群从 Azure 迁移到 AWS 的倡议,“Cloud provider is not Azure”规则可以帮助跟踪和推动这一倡议,“Using Argo CD”规则促进自动化和标准化部署。
“为所有 Pod 配置的 readiness 和 liveness ”和“为所有 Pod 配置的 CPU 和内存 limit ”有助于确保工作负载健康且不超过可用资源。最后,“集群节点数至少为三个”确保了工作负载的冗余和高可用性。应用这些标准可以帮助组织维护稳定、安全和可扩展的 Kubernetes 环境。
以下是关注 Kubernetes 环境的监控和可见性的其他标准。 “有 K8s 仪表盘吗?”标准检查是否安装了 Kubernetes 仪表盘,它提供了对 Kubernetes 环境的基本监控和可见性。 “有普罗米修斯吗?” standard 检查 Prometheus 是否被用于监控 Kubernetes 指标和基于这些指标的警报,这有助于快速检测和响应问题。
“有Grafana吗?”标准检查 Grafana 是否用于更高级的监控和指标可视化,这有助于监控 Kubernetes 环境的性能和健康状况。通过应用这些标准,组织可以确保其 Kubernetes 环境得到有效监控和维护,以满足其性能和可用性要求。
为不同的实体设置不同的标准很重要,这反映了软件开发生命周期的不同阶段。
例如,在生产环境中,确保 Kubernetes 集群在最新稳定版本的 Kubernetes 上运行并且有足够的节点来支持工作负载可能至关重要。可能还需要确保所有 pod 都配置了适当的资源限制以防止性能问题。此外,可能需要 Prometheus 和 Grafana 等监控工具来提供高级监控和可视化功能。
另一方面,在暂存环境中,重点可能是在将新功能或更改部署到生产环境之前对其进行测试和验证。在这种情况下,标准可能更侧重于确保正确配置 Kubernetes 环境,并使用 Argo CD 等工具实现自动化和标准化部署。
通过为不同的实体定义不同的记分卡,组织可以针对不同的环境定制他们的规则和检查,确保他们的 Kubernetes 环境针对每个环境的特定需求进行了优化。这有助于提高开发和部署过程的效率,同时确保 Kubernetes 环境稳定、安全和可靠。
记分卡做三件事。他们以适合开发人员的方式提取 K8s 数据,确保开发人员遵循 Kubernetes 最佳实践和护栏,以最大限度地提高应用程序可靠性并帮助 DevOps 推动计划。他们提供的工具可帮助开发人员拥有安全性、可靠性和云支出。当工作流自动针对记分卡运行以确定构建是否应该失败时,它们也很有价值。您可以在 Port 的现场演示中亲自观看,或在此处注册免费版本的 Port。 | https://yylives.cc/2023/03/11/setting-kubernetes-standards-with-platform-engineering/ |
使用通用软件目录简化 CI/CD
翻译自 Simplify CI/CD with a General-Purpose Software Catalog 。
通过开发人员门户网站,包含适用于开发人员和机器的单一真实数据来源,推动平台工程计划。
为了自动化部署流程,CI/CD 需要上下文:部署配置、构建配置、工件、版本号、依赖项、环境变量、测试结果等。这些数据不在一个地方 - 通常分散在多个系统和工具中。
例如,部署配置可能存储在单独的 YAML 文件中,环境变量可能在脚本或部署清单中定义,版本号可能手动在电子表格中跟踪。
太多的真实来源会导致几个问题,包括复杂性增加、元数据不一致、更新数据困难,最重要的是无法应用自动化。软件目录是内部开发人员门户的核心,可以提供解决方案。
第一步是创建一个包含正确数据的软件目录。它应该是一个通用的软件目录,允许添加具有不同属性和关系的数据类型,提供灵活性,使每个人都能将自己的数据模型带入目录中。
内部开发人员门户网站是平台工程的核心。它向开发人员展示作为平台的一部分构建的自助服务操作以及软件目录。
这就是有趣的地方。从开发人员体验的角度来看,可以将软件目录解释为经过审查、经过白名单处理的数据存储,以帮助开发人员克服认知负荷(例如,请参见如何向开发人员呈现 K8s 数据)。
但这并不是全部。实际上,使用软件目录进行 CI/CD 非常强大。软件目录可以存储有关构建、环境、云和更多的数据。这种软件目录可以极大地有助于为 CI/CD 上下文创建单一真实数据来源。
与我们交谈的平台工程团队正在积极实现这些好处,尤其是在 CI/CD 元数据方面。他们将软件目录用作 CI/CD 的单一真实来源,并将软件目录中的 CI/CD 数据用作其自动化工作流程的一部分。
通过在软件目录中包含有关集群、环境、云区域和供应商的相关数据,CI/CD 过程可以更加智能和自动化,从而带来更好的工程。它将 CI/CD 与其所需的上下文数据分离,分离控件并更容易排除故障和损坏的 pipelines 。
通过开发人员门户,这些功能还有助于平台工程团队为开发人员提供更好的部署过程可见性,因为他们可以实时查看部署状态和发生的任何错误。
设置软件目录后,当 CI/CD 数据还用于版本控制和安全性时,可以进一步发挥 CI/CD 数据单一真实来源的优势,
跟踪对元数据和配置文件所做的所有更改可以提高元数据随时间变化的可追溯性。这对于审计目的和理解部署过程的演变很有用。
此外,它还可以促进更好的协作(通过版本和变更跟踪)、更快地解决问题以及快速恢复到先前版本和提高合规性的能力。当 CI/CD 数据碎片化时——想想 git 中分散的版本历史——很难做到这一点,但使用软件目录就容易多了。
软件目录通常确保只有授权用户才能访问和修改元数据,从而降低未经授权访问、数据泄露和其他安全事件的风险。例如,配置错误会导致 S3 存储桶公开或将带有个人身份信息的服务暴露给互联网。
软件目录本质上是一个集中式数据库,存储与 CI/CD 过程相关的所有元数据。可以通过 REST API 访问和修改它,这使 CI/CD 管道能够以编程方式与元数据存储进行交互。数据类型、属性和关系可以在需要时轻松添加,因为不同的组织以不同的方式执行 DevOps。
应该访问和存储哪些数据?这取决于我们所说的数据模型,即管道中重要的属性和类别。例如:
您可以按不同类别组织目录,每个类别都包含与 CI/CD 过程的特定方面相关的元数据。例如,可能有一个用于部署配置的类别、一个用于环境变量的类别和一个用于版本控制的类别。
-
在每个类别中,会有不同的元数据项或键。例如,在部署配置类别中,可能有部署目标、部署策略和部署版本的元数据项。
-
CI/CD 管道可以使用 REST API 与元数据存储交互,指定它们要访问的类别和元数据项。例如,要检索特定应用程序的部署目标,CI/CD 管道可能会向部署配置类别发送 GET 请求,指定部署目标的元数据项。
图数据库可用于软件目录。由于软件目录中的不同实体具有复杂的关系(例如,服务部署在云帐户中 K8s 集群的命名空间上)并且这些关系很重要,因此您需要能够本地查询它们。图数据库可以让您做到这一点。这在 CI/CD 管道的上下文中特别有用,开发人员、DevOps 和机器需要能够快速访问有关系统不同部分如何相关的信息。
或者假设我们想要识别使用特定镜像版本的所有服务。如果没有元数据存储,您将需要手动搜索各种服务的配置和文档以找到匹配的。但是有了图数据库,我们可以为每个服务创建节点,并将它们链接到它们使用的图像版本。这使我们能够快速查询图以找到使用所需镜像版本的所有服务。我们可以从查询镜像版本节点开始,然后遍历它与服务节点的关系。我们甚至可以向节点添加其他信息,例如服务运行的环境、上次更新的日期以及任何相关的警报或问题。这提供了整个系统的全面视图,使我们能够轻松跟踪和管理我们的服务。
-
例如,假设我们要识别在特定区域中运行的所有服务(例如,如果您正在运营一个大型云平台,为不同区域的客户提供服务)。如果没有图形数据库,我们将需要跨不同的数据源执行多个查询并尝试拼凑信息。但是,使用图形数据库,我们可以在一次查询中完成。
-
这种本机查询复杂关系的能力对于使开发人员和机器能够更有效地执行影响分析、管理配置、运行连续测试和管理发布至关重要。这不仅简化了 CI/CD 流程,还有助于确保系统的整体稳定性和可靠性。
现在我们需要考虑如何轻松地将数据放入软件目录中。轻松地将数据提取到软件目录中需要 API 优先的方法。这包括来自云提供商、Kubernetes(用于集群数据)、git 提供商、基础架构即代码 (IaC) 工具(如 Terraform 或 Crossplane 等)的数据。
API 优先的方法还可以轻松构建与其他工具和系统的集成,例如创建包含有关基础架构和应用程序信息的仪表板。这可以帮助您构建更全面、更有用的元数据存储,提供您的基础架构和应用程序的整体视图。
平台工程和用作开发人员核心界面的内部开发人员门户的兴起也提供了创建软件目录的机会,该目录不仅对开发人员有用。具有 CI/CD 元数据的软件目录可以创建单一事实来源、解决版本和安全问题,并允许部署过程自动化等。要查看通用软件目录可以包含什么,请在此处转到 Port 的现场演示。 | https://yylives.cc/2023/03/17/simplify-ci-cd-with-a-general-purpose-software-catalog/ |
将成本效率纳入平台工程以实现增长和盈利能力
翻译 Factor Cost Efficiency into Platform Engineering for Growth, Profitability 。
在平台工程中加入对成本效益的额外关注可以帮助企业度过困难的财务时期,并让它们飞速发展。
这篇文章是 4 月 18 日至 21 日在阿姆斯特丹举行的 KubeCon + CloudNativeCon Europe 2023 预览系列文章之一。加入我们,了解有关云原生应用程序和开源软件的变革性质的更多信息。
平台工程是一种战略性概念,工程师使用单个窗口来简化所有流程、工具和平台。它优化了安全性、 DevOps 、 CloudOps 等方面,使工程师能够更有效地工作,而不需要投入过多的时间和精力。
这种简化消除了在复杂的微服务和云原生环境中工作时产生的大量任务和责任。随着建立应用程序所需的认知负荷减少,更多的产品和服务可以更快地进入市场,支持 CI/CD 实践、自动化、安全和治理。
尽管平台工程如今备受关注,但当前的范式中缺少一个方面,它专注于平衡开发人员时间与应用程序稳定性和性能。这个缺失的组成部分是成本效率,而在当今的经济环境中,这应该是前沿问题。
平台工程应该实现流畅的集成,以实现成本效率的云提供和自动扩展。这样,企业就可以充分获得优化的开发人员时间、性能和成本效益的全部好处。
DevOps 团队需要跟踪和维护大量技术、基础架构和依赖项。他们常常被无穷无尽的任务和责任压得喘不过气来,使他们忘记了关键的技术依赖性。
平台工程旨在通过创建一个统一的 SaaS 平台来解决这个问题,从而更好地帮助团队构建、部署和运行软件应用。所有工具和依赖项都统一且流程化地集成在一个地方,团队不再需要担心工具或基础架构,可以专注于构建服务,而不是打开工单或等待请求。
平台工程在工程师圈子里正在广泛推广,但将成本效益整合到这一运动中将更有助于组织,确保盈利能力,或至少在开发过程中嵌入成本意识。
平台工程的概念有许多方法可以用来控制成本,许多组织可能会开发自己个性化的系统,但有一些简单的开始方式。
当工程师构建、编码和交付新应用时,成本通常是他们最不关心的事情。但作为一个组织,需要有人(或某个系统)来确保产品服务的成本得到控制。
这就是自动化的作用。想象一下,如果你可以将工程师已经在使用的平台嵌入自动通知和警报,预测在产生成本之前的成本。例如,如果一个工程师即将启动一个超出预算的云资源,他们将收到有关预计成本和审批提示的通知。
这将提供一个自动的屏障,防止工程师超出预算。此外,它还会让工程团队更加关注和负责他们所产生的成本,鼓励他们提出更具成本效益的发布服务方法。
类似的真实世界例子是 InfraCost,它为 Terraform 拉取请求提供自动云成本估算。当与自动化相结合时,这个工具可以作为一个成本门槛,配备一个审批链,确保成本得到管理和控制。
另一个可以将自动化成本优化解决方案整合到平台工程中的领域是持续扩展云资源以适应业务需求。
今天,云资源过度预配给公司造成了数百万的成本。但解决这个问题是复杂的。限制资源可能导致服务崩溃,而过度预配则昂贵、浪费和效率低下。解决方案是自动扩展云资源,以便以最具成本效益的价格持续满足应用程序需求。
在平台工程角度下,这是什么样子?将这种能力构建到平台中,并将其作为自动化功能提供给开发人员,使他们不再需要进一步考虑它。
一个应用案例是容器,工程师往往难以在复杂和不可预测的环境中分配所需的正确 CPU 和 RAM 。为了确保应用程序的稳定性和性能,他们通常会过度预配这些资源,这不必要地增加了成本。据 Datadog 的数据显示,高达 49% 的容器使用的 CPU 不到请求的 30% ,内存利用率也类似。
将这种自动扩展技术集成到开发人员的流程中可以有效地降低成本,无需任何人工干预。这样的自动资源分配工具将检测需求水平,然后将 CPU 和 RAM 等资源扩展到能够使应用程序在最佳稳定性和性能下运行的水平。在幕后,组织将大幅削减成本,并显著减轻 DevOps 工程师的手动工作和认知负荷。
作为 DevOps 和软件工程领域的一种新方法,平台工程因其精简和简化开发者操作的愿景而越来越受欢迎。
将其提升到一个更高的层次,并注入更多的成本效益关注,可以帮助企业度过更困难的财务时期,并在经济形势最终好转时使它们进入增长的飞轮。
平台工程的概念中有许多未被开发的潜力,技术精湛的业务领导者应该考虑如何利用它来开发新的方法,以支持应用程序的稳定性、性能、安全性和成本效益。经济衰退从来不是容易的,但它也为领导者提供了一个很好的机会,去减少低效率,简化流程,从而使您的业务在未来多年中蓬勃发展。 | https://yylives.cc/2023/03/30/factor-cost-efficiency-into-platform-engineering-for-growth-profitability/ |
为什么成功的平台工程团队需要产品经理
翻译自 Why Successful Platform Engineering Teams Need a Product Manager 。
产品方法认识到该平台是一个不断发展的产品,可以响应用户的反馈以适应他们的持续需求。
我们都知道平台工程并不是什么新鲜事物。最近几年,引起关注的是正式的方法和团队结构.在每一个关键时刻,尝试这些新方法的组织都会听到一个普遍的说法:“这不是一个项目——它是一个产品。”
为了成功地进行平台工程,我认为必须有一个产品经理,并且我们应该继续强调“产品”这一点。以下是原因。
大多数组织都以项目思维方式处理工具链和工作流,这意味着他们希望实现既定的最终目标,可能需要一个临时团队。相反,产品方法认识到该平台是一个不断发展的产品,它会响应客户的反馈以调整平台以满足他们持续的需求。
平台工程需要明确的目标才能运作。它是一项持续的职能,而不是一个终极状态。这种明确性来自于那些以与产品经理处理其产品相同的方式处理平台的人。
需要一定的奉献精神和技能来宣传平台,为平台辩护并告知利益相关者和用户如何以及为什么变化(以及为什么它们重要以及提供给最终用户的价值)。平台产品管理远不止是一个“检查时间表并勾选框”的方法。
产品管理有助于让平台工程专注于解决用户需求。它有助于通过创建和支持一个整个组织都愿意使用的平台来减少浪费并加快新技术的交付速度。这是关键。
在平台工程中,你不能仅仅构建它然后期望他们会使用它——你必须构建一些能够让最终用户的生活变得更加简单,并让他们想要改变自己的行为的东西。
可以看到最清晰的对比之一是操作系统(OS)构建和配置平台。在那里, Windows 或 Linux 团队将提供一个系统来构建和配置虚拟机,但目的只是直接提供其自身团队满足其编写的构建标准和方法所需的功能。这将无法优先考虑客户驱动的需求,例如新的操作系统发布、自助 API 和与其他工具的集成,因为这些交付成果不会直接影响操作系统构建团队本身,但它们是平台工程的核心。
平台工程产品经理负责监测平台的运行状况,与用户沟通以避免和解决问题,并确保平台路线图是最新的并以用户实际可用的方式呈现给消费者。
产品经理在平台工程中的确切角色可能会根据他们支持的平台进行调整,但始终专注于将平台视为一个产品,以易用性为中心。
在《DevOps 2023年状况报告》中,调查显示只有约三分之一的平台团队配备了产品经理。当然,投资于产品经理可能意味着招聘拥有这种技能的人才,但现有的员工也是平台产品管理的理想人选。他们已经了解您组织的文化和流程,这会使沟通更加顺畅,并立即建立起信任。
无论如何,为您的平台投资于产品经理意味着不仅要让他们进门。产品管理可以增强那些选择从事这项工作的人的职业生涯——这不是短期决策或兼职工作。支持他们包括培训和给予他们成长的时间和空间,成为用户反馈的可信赖传递者。
要了解更多关于平台工程的信息,请访问 Puppet 网站上的《DevOps报告,平台工程版》。 | https://yylives.cc/2023/03/30/why-successful-platform-engineering-teams-need-a-product-manager/ |
平台团队的 Schema 变更管理
翻译自 Schema change management for platform teams 。
几个月前,The New Stack 上的一篇文章在我们的行业中引起了很大的波澜,声称“DevOps已死”,将被平台工程所取代。我有幸与阿里加(Ariga)顾问委员会成员之一、HashiCorp联合创始人兼首席技术官 Armon Dadgar 讨论了这个话题。
Armon 回忆说, DevOps 运动向软件行业提出了一个大胆的愿景:“如果我们能够将 Dev 和 Ops 功能融合到同一个人身上,形成一个超级工程师,早餐写后端应用程序,午餐配置构建系统和 CI 管道,晚餐解决数据库生产问题,则最终实现全面拥有权和责任。”
然而,在实践中事情更为复杂: “除了少数几家能够雇佣并留住他们的公司外,这些人实际上并不存在。” 这种认识催生了平台工程。 “我们需要开发人员能够自助式地负责其应用程序, 但是现代云原生架构的复杂性过于庞大。为了高效运作, 组织需要抽象化这些东西。”
我们看到随着对此复杂性反应不断增强, 平台团队正在各地创建。这些团队的任务是维护内部开发平台,作为管理云原生架构中应用程序复杂性的灵活抽象化。
一个优秀的平台团队会将其开发者平台视为一种产品,并不断寻找可衡量的方法来提高所服务的工程组织的效率。
通常可以通过以下方式之一实现:
解决技术瓶颈或自动化手动工作,使缓慢的事情变得快速。
-
提供更简单的检索信息或提供声明性工作流程,使难做的事情变得容易。
-
防止CI期间人为错误,从而使风险较大的事情更加安全。
-
平台团队可以创造严格的技术杠杆的一个被忽视的领域是提供强大的 Schema 变更管理方案。 Schema 变更管理指支持应用程序数据模型和存储在数据库中方式演变的工具和流程集合。
过去,大多数应用程序由单个企业数据库组成,通常由企业供应商支持,服务于整体后端。这些是采用瀑布方法开发并由专业训练有素的 DBA 进行管理。今天,应用程序以微服务爆炸为特征。每个微服务都由自己的数据库(有时是多个数据库)支持,并由多个自治团队开发和维护,在处理其数据库时具有不同(甚至非常少)操作知识。
换句话说,尽管作为任何架构关键组件之一,但备份数据库运营方面在许多情况下都是事后考虑。组织可以轻易地花费数十万美元来确保开发人员能够访问可观测性数据,但当涉及到管理 schema 变更时,则期望开发人员了解他们所使用团队所使用数据库的所有复杂性。
经过对数十家公司的工程师进行采访,我们发现,在没有深思熟虑的 schema 变更管理策略的组织中,一些严重问题会反复出现:
数据库 schema 不兼容变更会打破数据库和应用程序后端之间的契约,导致停机时间。
-
数据库 schema 下游使用者(例如消费 CDC 日志的数据工程团队)经常感到惊讶。
-
表意外地被锁定以进行写入操作,导致应用程序停机 - 有时长达几个小时或几天。
-
开发人员使用根凭据连接到数据库以应用变更或解决问题。
-
部署因在生产数据上才发现的约束违规而失败了一半。
-
发生事故和停机是由于许多工程师不知道数据库行为。
-
简单重构成为需要高级工程领导计划和仔细执行的复杂项目,使其频率降低,并增加技术债务。
-
对数据库架构更改的挫败感(和恐惧)促进了反模式,例如将架构管理推向应用程序层有效地使用 SQL 数据库作为 NoSQL 存储等。
-
还有很多其他问题。
-
大多数现有的 schema 管理工具(通常称为 schema 迁移工具)是在一个非常不同的时代创建的。在 DevOps 运动开始之初,将所有 schema 变更描述为提交到源代码控制并由已知哪些已应用了这些变更的工具自动应用文件的想法是革命性的。
然而,正如我们上面提到过的,与这些工具构思时相比,今天软件构建方式发生了很大变化:
我们的开发方式 - 微服务带来了数据库数量和组织使用存储技术多样性方面爆炸般增长,使得许多组织无法拥有专业 DBA 编写或审查数据库 schema 变更。团队需要能够自主和自给自足以便持续取得进展。
-
我们的运作方式 - 过去可以接受将应用程序停机进行维护-您银行公司最后一名员工离开办公室和第二天第一位员工进入之间 DBA 有几个小时时间可以关闭系统、升级它并重新启动它。管理 24/7 提供流量的始终在线系统是不同寻常的。
-
谁来操作 - 在大多数情况下,团队会操作他们自己的数据库,在这种情况下负责该系统值班人员对于数据库运营方面通常只有非常基本的知识。
-
因此,现代化的 schema 变更管理解决方案可以解决以下问题:
计划更改 - 当今的工具期望所有技术背景和专业水平的开发人员能够规划正确、安全和高效的数据库变更。鉴于开发人员必须处理各种技术范畴,这可能并不总是可行。因此,平台可以为开发人员提供自动化、声明性工作流程来规划变更(“用于数据库的 terraform plan ”)。理想情况下,该工作流应支持任何 ORM 或框架开发人员用于构建应用程序。
-
验证安全性 - 一旦变更离开了开发者的工作站并提交为 merge request ,则成为团队审查和批准变更正确性和安全性负责。现有工具在这个领域没有提供任何支持,完全依靠手动审核。平台可以为团队提供自动验证变更(“ schema 变更 CI ”),以在它们到达生产之前检测到风险变化。
-
部署修改 - 现有工具主要集中在描述和应用目标数据库上所需机制上。这是一个很好的开始,但部署机制很少单独使用了。平台需要找出如何以本地方式将这些工具集成到其持续交付管道中。此外,交付管道负责验证目标环境是否安全可部署,然后推出变更(“ schema 变更 CD ”)。
-
此外,在微服务架构中,管理和协调单个部署单元内各种微服务的 schema 迁移对于确保安全发布或从故障中恢复至关重要。
-
故障排除 - 不幸的是,schema 变更并不总是成功的。现有工具在帮助开发人员摆脱困境方面几乎没有提供任何支持。这通常需要工程师连接到数据库来诊断问题,并执行风险操作,例如手动编辑元数据表。当计划的变更失败或导致停机时,平台团队应考虑他们可以做什么来支持工程师。
-
漂移检测和 schema 监控 - 一旦变更成功推出,则对于团队能够检测系统预期状态与实际状态之间的差异非常有价值。由于技术问题或允许手动访问数据库等情况可能会导致 schema 漂移,并且可能会引起操作和合规性问题。平台团队应考虑如何为其团队提供信心,即其应用程序中没有模式漂移。
-
令人惊讶的是,自我们作为一个行业开始 DevOps 之旅以来,在数据库 schema 变更管理方面几乎没有发生任何变化或创新。在 Ariga,我们正在构建 Atlas(开源)和 Atlas Cloud ,以提供上述问题的解决方案。
如果您是平台工程团队的成员,并且想了解更多关于如何帮助我们,请在 Discord 服务器 上联系我(或我的联合创始人 Ariel )。 | https://yylives.cc/2023/04/05/schema-change-management-for-platform-teams/ |
为什么要创建以开发人员为中心的 Kubernetes 平台,以及如何创建
翻译自 Why Create a Developer-Focused Kubernetes Platform and How 。
让我们看看为什么创建一个有意义的,然后探索构建它所需的组件。
在不断增长的云原生开发领域中,Kubernetes 已经成为组织的事实标准。许多处于云原生开发前沿的公司领导人确认,目前 Kubernetes 主要是一个通用编排框架。换句话说,Kubernetes 并不是“难点”。相反,“所有其他东西都很难:将所有内容链接在一起并使其正常工作。”
在开发人员至上的 Kubernetes 作为标准的背景下,平台工程和开发人员平台概念已成为组织的一种圣杯,这些组织寻求一种方法,使各级体验的开发人员的云原生之旅更加顺畅。没有一个久经考验的以开发人员为中心的 Kubernetes 平台,这是整个想法的挑战和美妙之处。工具领域广阔,组织将自己的开发人员平台放在一起,以挑选最适合他们需求的工具。然而,这也可能导致选择瘫痪和错误的开始,减慢速度并抵消云原生本应引入的速度优势。
考虑到这一点,让我们看看为什么创建一个以开发人员为中心的 Kubernetes 平台是有意义的,然后探索构建它需要哪些组件。
没有人否认云原生范式给开发组合带来了新的复杂性。突然间,单体开发的孤岛被打破,更线性的开发工作流程——代码和交给其他人——转变为分散的微服务架构。现在有不同的依赖关系和新的需求,例如伴随云原生革命而来的“你构建它,你运行它”的左移思想。但是开发人员真正需要了解 Kubernetes 的深度到什么程度呢?开发人员是否需要对整个软件生命周期负责,或者只是了解它的关键方面以促进交付速度和更快的反馈循环?
这些问题是关于开发者平台的讨论的基础,这也是近几个月来争论的焦点。无论这些平台是消除挫败感、提高生产力还是帮助标准化工作流程,开发社区(以及他们在 DevOps 和平台工程领域的同事)的一个收获是,开发人员至上的平台应该通过标准化降低复杂性,但为例外留出空间。
没有一种通用的开发者平台,这为铺设实现组织所需的开发者平台之路留下了空间。开发人员需要知道什么才能安全地发布软件,平台又将如何帮助他们实现?
有效面向开发者的 Kubernetes 平台需要考虑以下关键因素:
支持开发人员自助服务和可见性。为完成工作所需的工具和可见性创建基线,并建立灵活性以确保没有人被锁定。自助服务基线允许每个人独立地根据同一组标准工作,并使新开发人员入职变得容易更快地促进可靠、高效的生产。
-
让它变得简单。是的,开发人员需要了解 Kubernetes,但前提是这种理解有助于交付软件和更快地获得关键反馈。通过为开发人员提供足够的能力来快速进行而不用担心重要的(但对他们来说是次要的)考虑因素,例如基础设施和安全性,从而调动简单性和清晰性。
-
释放 DevOps/PlatformOps 的力量。DevOps、PlatformOps 和站点可靠性工程团队不仅仅是消防队员和第一线支持。创建一个面向开发者自助服务平台可以使他们专注于战略项目并支持持续改进。
-
集中关键数据。团队需要实时数据来收集洞察力,以了解哪些有效,哪些无效。无论是衡量绩效还是跟踪合规性,集中式平台都可以收集运营和资源数据。
-
注重更快的反馈。当前宏观经济形势加强了以更快、更高效地完成任务的需求。一个好的开发者平台应该提供快速反馈,这样就不会有人坐在那里等待构建。
-
促进开发者体验。任何能减少认知负荷并使开发者专注于他们的核心任务(特别是在市场条件艰难时),都是一项不错的投资。
-
虽然所有这些为为何需要面向开发者的 Kubernetes 平台提供了背景和理由,但哪些组件将帮助他们实现呢?
尽管 Kubernetes 已经存在多年,但它仍然存在挑战,因此开发者平台已被打造出来以解决这些问题,并为运维团队提供一些帮助。这些平台旨在回答以下问题:如何在 Kubernetes 上构建高效的开发工作流程?如何创建开发环境,将您的源代码控制系统、开发环境和部署系统集成起来?如何有效地协作处理日益复杂的工作流?
每个平台看起来都有所不同,但最终你想选择帮助你编写、发布和运行服务的组件。
代码组件
首先,一个平台需要设置、配置(和维护)本地开发环境(和测试环境),尽可能模拟生产环境。同时应该建立源代码控制和持续集成/持续交付功能。理想情况下,您可以设置平台以使开发人员能够在本地编写代码,但对远程服务和数据存储进行测试(即远程到本地或“remocal”开发)。
在此步骤中创建的开发环境和工作流程有助于实现每个组织所追求的开发人员生产力提高目标,这就是为什么正确处理平台的这一部分至关重要。
搬运组件
云原生领域中关于让开发人员“左移”的讨论很大程度上涉及启用开发人员承担端到端的代码-交付-运行责任。这并非总是可行或理想的——它取决于组织和其云原生成熟度水平。但是,赋予开发人员更多洞察力和质量聚焦任务的责任意味着在软件生命周期进入交付阶段后,开发人员将更多地参与其中。许多组织已经投资于开发人员平台,为开发人员责任的这些新元素创建无摩擦路径,将其缩减为“需要知道”的基本要素,将其从开发人员不关心(或不需要关心)的复杂功能中抽象出来。
对 Kubernetes 开发者而言,可见性是必备条件之一。分布式服务面临的挑战之一就是了解部署和发布哪些版本以及使开发人员应用程序正常工作所需的所有依赖项。自然而然地,这很复杂,因此可见性可以消除障碍。同时,该平台还应提供易于测试新版本的方法,使用金丝雀发布等工具进行测试,在确保安全释放服务到最终用户时逐步释放服务,但如果出现问题,则可以快速回滚。
运行组件
在运行您的服务时,您的平台应包括流量管理功能,例如负载均衡和速率限制,以确保微服务的可用性和可扩展性。但是无论您创建什么流量管理策略,并且尽管进行了最佳测试努力并发布了许多金丝雀版本,可能会出现问题。您的平台应设计为处理这些小问题,并作为工作流程中生产事故快速缓解和响应的一部分。
当然,您将希望具有观测能力来监视和检测异常行为,以更轻松快速地识别问题。
开发者平台已成为塑造和简化开发者体验的核心途径。一个良好的开发者平台的基础,无论包含哪些工具和流程,都是指导组织中的开发人员了解、看到并定期执行成功所需知道的内容。 | https://yylives.cc/2023/04/06/why-create-a-developer-focused-kubernetes-platform-and-how/ |
在 Kubernetes 之前学习 12 Factor 应用
翻译自 Learn 12 Factor Apps Before Kubernetes 。译者在团队里也一直把 12 factor 作为 Kubernetes 学习的必修前导课。译者和这个作者心有戚戚焉,确实很想告诉别人,这个很重要,但不好表达,而这个 12 factor 理论说出了我们很多的想法。不管使用何种管理工具,12 factor 都可以让云原生之旅更顺畅。
这些最佳实践为构建可扩展、可移植、可维护和有弹性的容器化应用程序提供了一个框架。
您是否曾经在工作中使用容器化应用程序时苦苦挣扎,但又无法完全表达原因?
我最初接触容器的经历是在一家公司,他们以各种错误的方式实现了容器。例如,他们在容器内运行数据库,并没有使用外部卷进行存储。你没看错:他们将数据库存储写入 aufs 文件系统中,这不是为长期存储设计的,并且非常缓慢。当我提到这是一个可怕的想法,因为我们可能会失去所有数据时,答案是:“我们正在做快照备份,所以没问题。
他们放入容器中的第一个应用程序并没有好多少:
他们没有使用环境变量进行配置;相反,他们硬编码配置并挂载配置文件。
-
当数据库不可用时,应用程序立即死亡;它不会等待或重试,直到数据库变回可用。
-
有糟糕的日志消息或日志保存到文件,而不是标准输出日志记录。
-
他们使用不同的应用程序运行管理流程,例如数据库迁移。
-
应用程序不必要地是有状态的。
-
正如 Kelsey Hightower 所提到的,我使用 entry-point 脚本解决了其中的大部分问题。但这是弥补糟糕设计的一个 hacky 解决方案。我记得我害羞地要求开发人员重新设计他们的应用程序以解决所有这些问题,只有我的意见支持我。所以我上网做了一些研究,发现了 12 Factor 应用 ,它不仅扩展和验证了我的观点,而且给了我一个很好的框架来支持我的论点。
12-factor 应用方法是一组构建容器化应用程序的最佳实践。 Heroku 于 2011 年引入了这些实践,此后它们已被全球软件开发团队广泛采用。
这 12 个要素为构建可扩展、可移植、可维护和有弹性的应用程序提供了一个框架。但也许最重要的好处是它们创建的应用程序对操作员来说很容易,因为它们旨在与任何容器编排器无缝协作。
Kubernetes (K8s) 最适合 12 factor 应用,因为它们是容器化应用程序的最佳设计实践。 K8s 作为容器编排器,其设计假设您的应用程序是 12 factor 的应用。
在不知道如何设计容器应用程序的情况下冒险进入容器编排将使操作它们的管理变得更加繁琐且可扩展性降低。当然,你可以让单体应用和设计糟糕的应用程序在 Kubernetes 中运行。例如,您可以挂载卷、运行 statefulSets 甚至进行垂直自动缩放。但最终,您将不得不应对高昂的运营成本:
Factor|
未实施的运营成本|
Codebase|
具有共享代码库的应用程序更难更新和维护。|
Dependencies|
时间花在查找和安装应该明确定义并与容器一起打包的依赖项上。|
Config|
时间和工程花费在从源代码创建 entry-point 脚本和/或自定义镜像以更改硬编码配置。|
Backing Services|
更改支持服务时,迁移成本高且耗时,并且/或停机时间长。|
Build, release, run|
将应用程序代码和运行的服务器视为一体会导致雪花服务器、痛苦的维护和昂贵的升级。|
Processes|
共享状态时,应用程序无法水平扩展。升级时也不能无缝替换它们。|
Port binding|
这意味着要维护像 Tomcat 这样的 Web 服务器容器,从而导致显着的配置开销和膨胀的应用程序运行时间。|
Concurrency|
未在设计时考虑到并发性的应用程序可能会使用过多的资源,从而成为扩展的糟糕选择。|
Disposability|
这会导致数据丢失和性能问题,这是由于缺乏正常的关闭实现以及不处理请求以便它们可以处理崩溃。|
Dev/prod parity|
无法预测应用程序在生产中的表现。停机时间会增加并削弱部署速度。|
Logs|
将日志发送到日志仓库很繁琐。容器编排器期望日志使用标准输出。|
Admin Processes|
时间被浪费在采购一个不属于应用程序一部分的流程上,甚至是手动完成。|
平台工程有助于通过内部开发人员平台 (IDP) 提供出色的自助服务和出色的开发人员体验。通过提供黄金路径和基于用户角色的多重抽象,IDP 显着降低了开发人员的认知负担。
在平台工程中,12 factor 应用很重要,因为开发人员使用 IDP 自助服务他们的应用程序和基础设施需求。内部开发人员平台通常利用容器编排并将服务的运营转移给开发人员,这意味着卓越的运营对于缓解上述所有问题至关重要。
像 Humanitec 这样的平台编排器位于 IDP 的中心,可以通过简单的工作负载规范轻松地将工作负载及其所有资源部署到所有环境。
Humanitec 使用 K8s 部署工作负载,因此,设计 12-factor 应用程序对于保持高运行性能至关重要。使用 IDP 时,开发人员可以自助满足其基础架构和配置需求,包括部署和操作应用程序。如果他们使用非 12 factor 应用程序,他们将遇到上述所有痛点。
例如,假设您有一个使用数据库的应用程序。假设您没有使用 12 factor 应用。在这种情况下,您可能需要将配置挂载到磁盘上,并且您用来自动执行此过程的任何工具都可能设计为将配置作为变量使用。如果你有多个环境,你会使问题复杂化。
总体而言,12 factor 应用使部署、管理和扩展应用程序变得更加容易。它们还使与其他开发人员的协作变得更加容易。
12 factor 应用框架提供了构建可扩展、可移植、可维护和有弹性的容器化应用程序的最佳实践。在云中部署和运行应用程序时,它们对于保持卓越的运营至关重要。
平台工程帮助开发人员使用他们自己的基础设施并轻松操作他们自己的服务,但服务必须在设计时考虑到这些工具。我们鼓励所有开发人员采用 12 factor 方法,让他们的生活更轻松。
您的 12 Factor 应用程序准备好了吗?立即使用 Humanitec 对其进行标准化和部署。 | https://yylives.cc/2023/04/12/er-platform-engineering-learn-12-factor-apps-before-kubernetes/ |
为什么你应该像产品团队一样运作你的平台团队
翻译自 Why You Should Run Your Platform Team Like a Product Team 。译者这几年也是做类似的工作,发现产品思想对工作促进良多。
与产品团队一样,成功的平台团队必须了解其“客户”和利益相关者的需求。
我在软件工程和 DevOps 领域工作了大约十年。在过去的五年里,我一直在平台团队和其他以基础设施为中心的团队工作,这些团队正在努力成为平台团队,即使他们当时没有意识到这一点。考虑到这一点,我有一个关于如何帮助确保平台团队成功的建议:像产品团队一样运作它们。
平台团队专注于构建和维护核心系统和工作流,以向应用程序团队交付基础设施和其他服务。由于应用程序运行在基础设施的基础上,因此支持基础设施是一项艰巨的工作。平台工程不仅包含您传统上认为的“基础设施”——虚拟机、计算集群和网络——它还包括所有连接应用程序和基础设施世界的粘合剂。其中包括 API、监控、CI/CD 管道、凭证管理等。所有这些都集中在一个保护伞下,构成了“平台团队”中的“平台”。
平台团队解决了基础设施供应和配置的历史问题。以前,基础设施的创建、更新和删除涉及手动过程,例如指向和单击以创建基础设施或临时脚本。在基于云的环境中,基础设施正在自动化并在几分钟内启动。几天之内就会构建新功能并将其部署到生产环境中。
除了支持应用程序团队外,平台团队还有责任确保他们构建的工作流在这种加速下仍然符合行业和公司标准。就像产品团队必须从客户那里收集反馈并听取关键利益相关者的意见一样,平台团队需要与应用程序团队协作,同时还要满足安全、合规、财务等方面的要求。
虽然这意味着平台团队有时需要防止开发人员的请求超出那些利益相关者的边界,但在我的经验中,更常见的情况是许多组织将继续围绕手动更改基础设施建立遗留合规流程,这与现代自动化实践不太相符。
要实现现代化,平台团队必须以一种对组织内关键团队可接受的方式挑战现状。平台团队必须与这些团队交流,了解为什么会有某些政策,并找出如何安全地自动化他们的系统。这种外交工作可能比平台团队的技术责任更具挑战性。
为了应对这一挑战,平台团队应该像产品团队一样运作。
产品团队了解他们为客户服务,并且客户的持续反馈至关重要。那么,平台团队的客户是谁?应用程序开发团队。
对于任何产品来说,第一步是用户研究。平台团队在开始构建平台之前需要与其用户建立反馈循环。他们需要需求、范围和优先级。他们还需要版本化基础设施组件、执行维护、建立意识、鼓励采用并传达新闻。平台团队还需要考虑“特性”。像任何产品团队一样,基于客户反馈和业务需求,平台团队应该有一个关于要向客户提供哪些功能的想法。
对于平台团队来说,功能通常是针对不同类型应用架构的基础设施相关能力。例如,平台团队可能正在开发容器化能力,以便让应用团队将应用程序推送到特定运行时介质,并确保部署符合组织标准。其他常见的能力包括无服务器、GPU 密集型工作负载和跨网络和移动分布的前端应用程序。这些能力与云服务提供商无关。
将平台构建过程视为任何其他软件项目。采用迭代方法,永远不要认为平台“完成了”。不要因为你正在构建内部而非外部的东西就忘记了 IT 世界在过去几十年中完善的所有经过实战检验的产品管理策略。
请参考 Elanco 的混合多云采用案例研究,该案例展示了这家动物保健供应商如何从架构师、开发人员和企业团队中收集用户反馈。还包括其平台分析、设计和自动化阶段的蓝图。
要了解对平台团队有效的一些经过实战检验的产品管理策略,请观看 ThoughtWorks 的 Poppy Rowse 和 Chris Shepherd 的演讲“平台工程的非技术挑战”。
产品团队还必须了解他们的利益相关者的需求。平台团队的利益相关者包括组织基础设施交付管道中的其他所有团队。这些团队可能有不同的名称,但包括网络、传统 IT、安全、身份、财务、风险、合规等。平台团队的成功与这些职能团队的成功密不可分,如果没有它们,当你需要时就不会有资金和支持。
平台团队的主要目标是帮助开发人员尽可能安全地快速发布软件,同时满足组织利益相关者的需求。组织利益相关者通常寻求默认安全的基础设施工作流程、合规性保障、减少故障单和低效率,并通过消除基础设施扩张来降低成本等其他要求。这些领域中许多都是开发团队的盲点,但对于发布软件的“安全”因素至关重要。
关键是将所有利益相关者团队的代表紧密集成到您正在进行的沟通和需求构建过程中,就像您在外部产品开发工作流程中所做的那样。
学习如何与利益相关者合作,可以从 Controlware 的 Christian Bergner 的演讲中获得启示:“在金融领域建立云操作思维:变革日记”。该演讲包括两个案例研究,并描述了将每个功能都聚集到同一桌前讨论平台的过程。
平台团队的存在是为了应对基础设施从手动、人工驱动的流程向自动化自助流程的世代转变。管理这些新流程所需的技能集合大不相同。平台团队代表了一种专业化,以解决基础设施和应用程序开发中的主题差异问题。
企业需要快速向客户交付新产品和功能的需求从未如此之高,这给应用团队带来了更大的压力。这意味着基础设施必须像软件更新一样迅速适应。如果基础设施运营商希望应对挑战,就必须像软件工程师一样思考。平台团队是这一转变的重要组成部分,融合了基础设施和软件工程领域。 | https://yylives.cc/2023/04/15/why-you-should-run-your-platform-team-like-a-product-team/ |
Kubiya 推出用于平台工程的第一代人工智能
翻译自 Kubiya Launches First Generative AI for Platform Engineering 。
在 KubeCon EU 2023 上,用于 DevOps 的 Kubiya 对话式 AI 发布了第一个用于平台工程的生成式 AI 工作流引擎。
阿姆斯特丹 - 随着平台工程成为一种更广泛采用的学科,平台团队的待办事项只会增加。随着开发人员采用新的最佳实践和工具,该团队需要提高技能水平,并了解分布式、通常是七层堆栈中越来越多的内容。而旨在减少开发人员疲劳度的团队反过来又有自己不断增长的认知负荷要承担。
去年十月,Kubiya 推出了一款面向 DevOps 团队的对话式人工智能,旨在改善内部和外部开发人员的自助式、终端用户体验。现在,在 KubeCon+CloudNativeCon Europe 上, Kubiya 发布了一个新的生成 AI 工作流引擎,专为平台工程团队设计。
The New Stack 采访了首席执行官 Amit Eyal Govrin ,谈到生成式人工智能在整个软件开发生命周期中的不断增长的用例 - 以及行业如何更愿意接受它,因为 Kubiya 的定位从“ DevOps 团队的 Siri ”转变为“平台团队的 ChatGPT ”。
离开隐身模式大约六个月后,Kubiya 发现了两个常见的客户用例——内部开发人员和外部开发人员。第一个是在处理内部复杂性的企业内部,后者是为大约 1000 多家小型软件公司提供的,在客户需要访问基础设施时加快他们的响应时间。
Govrin 谈到了一家领先的数字媒体解决方案和服务公司的客户,而这家公司又拥有迪士尼和 NBCUniversal 等客户。他们的客户可能会请求他们提供服务器上安全管控的 Amazon S3 存储桶中存在的特定视频。发生这种情况时,传统上,客户必须确认请求的合法性并通过审批流程对其进行授权。然后,另一名员工必须前往 S3 存储桶,并在安全的 Slack 通道上将 secret 管理扩展到客户。然后,客户将在他们的端授权该请求,然后才能下载它。
想象一下,在跨职能团队之间有四五个不同的子流程,这些流程涉及到完整交易,并且经常需要提供方的项目经理手动配置所有这些不同的步骤,然后让 TAM (技术客户经理)从安全方式复制 S3 存储桶并将其发送给最终客户。由于来回沟通和人为干预,所有这些都可能需要几天时间。”戈夫林说道,回忆起 FTP 服务器时代。此过程通常需要一个项目经理、时间以及从本地服务器下载东西的人。
通过 Kubiya 的工作流自动化、安全访问控制和知识管理,团队可以更轻松地验证请求,并且甚至能够向最终客户提供 10 分钟的服务水平协议(SLA),消除了环节中的摩擦和人为因素。
这可以在客户关系已经存在的地方完成,比如 Slack 、 Notion 、 Confluent 或 Gitbook 。人类顾客只需问一个问题,比如“我能看到X演员最近的视频吗?”然后这种人机交互就会回应。
重要的是,像在 Slack 中一样,对话式人工智能用户体验包括人类反馈,如赞或踩或是或否等,澄清用户想要什么,并将其反馈回 Kubiya 的强化学习与人类反馈(RLHF)进行训练,提高其精度,并不断为最终用户定制响应。
这实际上是 ChatGPT 在许多企业应用案例中表现不佳的一个重要原因,”Govrin 观察到。他说,到目前为止,ChatGPT 无法验证其关于幻觉的响应——这些输出听起来很合理,但要么不准确,要么与问题无关——也不能正确保护数据的完整性以响应许多商业案例。谈到 Kubiya 时,他继续说:“我们不仅在特定领域的数据上对模型进行微调,而且还允许用户提供反馈——赞或踩——[这]将进一步加强模型,并个性化地适应组织和最终用户。
不出所料,Kubiya 最常见的用例——或用户问题——是无所不在但并不总是易于理解的 Kubernetes 编排。
Kubernetes 的故障排除和操作混乱,往往充满人为错误,这是由于上下文切换和缺乏领域专业知识所致。通常通过 kubectl 、 Helm 、 Argo CD 等工具和命令处理的请求存在于数据孤岛和过时的维基中。” Govrin 告诉 The New Stack 。“能够将 Kubernetes 操作民主化为自然语言提示可以使许多经验不足的操作员平等竞争,并显著提高有经验的操作员的速度。
如果开发人员想要设置 Kubernetes 命名空间,他们可以在 Kubiya Slackbot 中输入“Kubernetes”,然后返回完整的 Kubernetes 部署流程图,从中选择命名空间。他们还可以更具体地询问:“给我创建 Kubernetes 命名空间的工作流程”,Slackbot 将返回一个触发该工作流程的简单方法,并提供有关其更多信息的链接。
值得注意的是,由于每个组织使用 Kubernetes 的方式不同(这也是它的挑战之一),Kubiya 的精细调整模型会学习并适应组织特定领域的知识,以优化其类似问答式、人机对话式的对话人工智能。
你可以通过简单的英文提示在聊天平台上应用 Helm Chart 并调试、回滚和获得对 Kubernetes 集群资源的可见性这一事实——就像您向 DevOps 或平台工程师询问一样——完全改变了用户体验。不需要使用如此多的工具和解决方案来执行这些简单操作,” Govrin 进一步解释道。
如何在不必试图建立新平台的情况下,去帮助创建这些自动化和工作流程?”接着, Govrin 告诉 The New Stack 关于扩展 Kubiya 的用例和范围,超越个人用户体验并涵盖整个平台工程团队。“通常来说,平台工程是很费力的,需要设置和维护这些系统,并且创建新的工作流程对操作员来说非常繁重。这通常是他们购买决策中要考虑的一个因素:我是否想要投入所有时间和精力为自己创建所有这些定制操作?
平台工程团队不仅需要理解应用程序开发团队的需求,还要将它们连接起来以更快地提供业务价值 - 这本身就是一项艰巨的任务。但平台工程师还必须能够理解和创建业务逻辑和工作流,并将其传达给应用程序团队。这就是为什么在 KubeCon 上,Kubiya 推出了一个新功能,为其新 Web 应用程序提供生成式 AI 工作流创建的原因。
Govrin 提供了一个例子,即在 Kubiya 中输入“我想为 AWS SSM 创建一个新参数”,其中 SSM 代表 Amazon Web Services Systems Manager Agent 。生成的工作流程看起来像是人与机器之间的对话,可以包括必要的人类干预触发器。这与其他平台(如Jenkins)进行机器之间交互形成鲜明对比。
我们所说的是,有人进来要求某些需要以不同方式看待工作流程的东西。因此,我们看待工作流程的所有方式都是从人到机器。你如何创建这种体验,让它看起来和行为非常像另一端的某个人正在给你提供服务。” Govrin 解释了 Kubiya 生成式 AI 对话式工作流程的目标。
这用作工作流程模拟器,可以帮助平台团队在现有系统和流程中调试和评估新的工作流候选项的可用性。他们无需投入大量时间和精力,就能够在对话式人工智能、拖放设置中进行测试、运行和调试。平台工程师还可以导入 YAML 或 JSON,并将其全部以低代码形式直观地布置在现有业务逻辑中。
即使使用典型的低代码平台工程工具, Govrin 警告说测试新的 DevOps 工作流可能需要几个小时。 Kubiya 的新 Web 应用程序是基于属性的访问控制(ABAC)感知和业务逻辑感知。他解释说,这以及它的组织知识使其能够更快地回答特定于领域和业务的问题。
它允许团队以不同的方式提出和回答问题 - 其中一些只有您的团队可能知道,提供内部俚语名称和更传统的名称。
它会自动捕获并在知识库上进行培训,”他说。“这本质上是组织特定领域的知识,延伸到生成式工作流程创建。这两个工具给你几乎人类般的体验。”即使对于尚未创建的工作流程,用户也可以简单地进入 Slack 并要求新内容。
其他活跃的 Kubiya 使用案例包括将自然语言处理应用于 Backstage 开源开发平台,以增强和加速具有交互式用户体验的开发。
“我们正在抽象化所有的工作,” Govrin 说。
本周,Kubiya 还发布了一个 playground workplace ,这是一种沙盒,开发人员和平台工程师可以在其中使用该工具,而无需连接到他们自己的环境中。 | https://yylives.cc/2023/04/20/kubiya-launches-first-generative-ai-for-platform-engineering/ |
PaymentWorks 如何使用 Slim.AI 实现其开发者平台的现代化
翻译自 How PaymentWorks Modernized Its Developer Platform with Slim.AI 。
PaymentWorks 寻求更新其开发 pipeline 、自动保护容器并提高开发人员速度以获得竞争优势。
PaymentWorks 是一个企业支付安全平台,其使命是减轻企业对企业支付中固有的风险。通过自动化复杂、手动、人员密集且容易出错的支付流程,PaymentWorks 保护组织免受商业支付欺诈并确保合规性。
在满足严格的安全性和合规性要求的同时快速交付新功能一直是其成功的关键,但其工程师负责一个新的业务关键型软件开发项目,期限紧迫,并引起了高管、客户和投资者的浓厚兴趣。
工程团队决定将新服务构建为容器化微服务,以主动拆分现有的基于 VM 的单体基础架构。这样做将使他们能够缩短开发周期、降低复杂性并使开发人员更容易入职。他们需要确保交付生产就绪容器作为新的“可交付软件单元”的质量、合规性和一致性。此外,他们需要可扩展的开发人员体验,以便随着业务的增长和团队中更多开发人员的加入实现快速入职。
通过这个新项目,目标是简化软件交付 pipeline :
作为发布过程的一部分,自动创建安全的、生产就绪的容器,以减少漏洞和攻击面。
-
消除手动、重复的活动,例如围绕架构决策编写临时脚本和手动簿记,这些活动会导致单调的工作、人为错误和延迟。
-
将容器强化过程融入现有的开发人员工作流程中,以简化采用并提高速度。
-
减少 DevOps 开销,同时将容器从开发转移到生产。
-
PaymentWorks 的另一个目标是对生产中运行的工件的确切版本具有完全的可见性、历史记录和控制,例如特定镜像运行的位置、依赖项(包)和应用程序代码的版本(git 提交)包含。由于金融服务的机密性,新系统需要安全且易于审计。
实施这个新系统将帮助公司更有效地扩展以满足未来的需求并缩短测试周期,这是其基于 EC2(亚马逊弹性计算云)实例的遗留构建和测试管道所面临的挑战。
PaymentWorks 工程团队知道,为开发人员提供正确的工具和自动化将确保在他们过渡到容器化平台时满足最佳实践。
他们求助于 Slim.AI,Slim.AI 提供的解决方案可以自动优化容器化应用程序的组成和构造,以创建强化容器、改进构建和部署周期,并提供对应用程序行为和性能的深入洞察。
这些团队首先将 Slim.AI 集成到基于 PaymentWorks Jenkins 的 CI 管道中,记录容器和相关工件,并将它们作为“集合”存储在 Slim 基于 Web 的 SaaS 平台上。 Jenkins 通过 API 与 Slim.AI 平台通信,确定必要的构建细节和上下文以生成正确组合和标记的容器。
在此过程中,Slim.AI 会对所有构建上下文、容器版本、标签、属性和历史记录进行分类。构建容器后,Slim.AI 会自动生成一个新的特定于环境的 Docker Compose 文件,该文件将最新版本固定到语义引用,并将其提交到 GitHub 以用于指定的部署上下文(开发、测试或生产)。
PaymentWorks CD 系统然后引用 Slim.AI Collections API 来查找部署和运行系统所需的容器、Docker Compose 文件和元数据。 AWS Elastic Container Registry 存放容器,Slim.AI 自动跟踪每个集合的所有容器版本、运行漏洞扫描程序、加固容器并生成合规性工件。
开发人员可以通过基于 Web 的 UI 或命令行界面与 Slim.AI 交互,以审查工件,查看他们最近构建的容器内部,并以开发人员友好的方式调试和保护他们的容器。 PaymentWorks 的第一个容器将漏洞总数减少了 89%,消除了所有关键和 60% 的高风险发现。
这种集成的容器管理系统允许 PaymentWorks 环境的其他方面以编程方式与 Slim.AI 交互,具有语义精确性、速度和高度自动化,无论是在 AWS 上运行的基础设施还是安全和合规性审计。
最好的部分是它是完全自助服务和不干涉的:没有摩擦、手动步骤或脚本。根据 PaymentWorks 平台工程副总裁 Matias Elgart 的说法,随着开发团队的不断壮大,该系统创建了一种轻松加入新微服务环境的方法,开发人员喜欢他们不必手动管理和共享文件和本地脚本。
通过与 Slim.AI 合作,PaymentWorks 实现了提高安全性和合规性的综合目标,同时减少操作复杂性、错误和重复的 DevOps 周期,让他们的团队腾出时间专注于为客户构建出色的软件并创造积极的开发人员体验。 | https://yylives.cc/2023/05/06/how-paymentworks-modernized-its-developer-platform-with-slim-ai/ |
基础设施即代码或云平台—由您决定!
翻译自 Infrastructure as Code or Cloud Platforms — You Decide! 。
了解两种流行的云基础设施管理方法。
让我们比较云基础设施管理的两种常见方法。首先是我们广泛归类为基础设施即代码(IaC)的方法,其中工程师使用编程/脚本语言构建一组脚本,以在云平台上实现所需的拓扑结构。 Terraform、Cloud Formation、Chef、Puppet 和 Ansible 是一些流行的工具。
这项技术由编写脚本的语言和可以运行脚本的控制器组成。一旦满意结果,用户将保存脚本在代码存储库中。随后,如果需要进行更改,则会编辑文件并重复相同的流程。
第二类是云编排器或平台。通常,这是对本地云 API 的轻量级抽象,作为 Web 服务与用户交互,用户将通过 UI 或 API 连接到该服务,并在该 Web 服务中构建云拓扑。
构建的拓扑将由编排器应用并保存在自己的数据库中。用户不需要显式保存配置。当必须进行更新时,用户将再次登录系统并进行更改。
对于规模较小的用例,使用平台可能太重了。但是在规模上,IaC 方法往往会演变成为内部平台。在这种情况下,更好的策略是使用现成的平台,在需要定制时可以使用 IaC 脚本进行增强。像 Facebook 和 Netflix 这样的大型数据中心是一种不同的情况,不在此上下文中考虑。
对于较小规模的用例,平台可能太重了。但在规模上,IaC 方法往往会演变成一个内部平台。在这种情况下,更好的策略是使用现成的平台,在需要定制时可以使用 IaC 脚本对其进行增强。属于 Facebook 和 Netflix 的超大规模数据中心是另一回事,因此不在本文考虑范围之内。
平台化方法提供的基本价值是我们所谓的“长时间运行的上下文(long-running context)”。人们也可以称之为“项目”或“租户”。上下文可能映射到一个应用程序或一个环境,如演示、测试、生产或开发人员沙盒。在更新拓扑时,用户总是在这个上下文中操作。平台会将更新保存在该上下文的自己的数据库中,然后将其应用于云。简而言之:您始终可以保证该数据库中存在的内容是应用于云的内容。
在 IaC 方法中,这样的上下文并没有原生地提供,而是留给用户自己定义。通常,这可能会转化为“哪些脚本需要针对哪个上下文运行?”或者可能是代码库中表示给定租户或项目配置的文件夹。将上下文定义为代码集合更加困难,因为许多脚本可能在不同租户之间共享。因此,最终取决于开发人员对代码库的理解。
平台方法是解决这个问题的更具声明性的方法,因为它需要很少或没有编码,系统会根据意图生成代码,而无需了解低级实现细节。而在 IaC 的情况下,任何更改都需要对代码库有很好的理解,特别是在大规模操作时。在平台方法中,用户可以在几天后回来并登录到相同的上下文,而无需深入挖掘代码以了解之前做了什么,就可以继续之前的工作。
两者之间的第二个根本区别在于,IaC 是一个多步骤过程(编写脚本、运行脚本并将其合并到仓库中),而平台是一个一步过程(登录到上下文并进行更改)。使用 IaC ,用户可能会更新脚本,但可能会忘记或推迟将其保存到代码仓库中。与此同时,另一个工程师可能已经为他们自己的拓扑做出了代码库的更改并进行了合并。现在,由于许多代码片段在两种用例中共享,第一个开发者可能会发现自己陷入了冲突,即使通过合并代码来解决,也会出现这种情况,即在云中运行的内容与代码库中的内容不同。现在,开发人员必须重新运行合并的代码进行验证,而忽略引起回归的可能性。为避免这种风险,我们现在需要在 QA 环境中测试脚本。
IaC 工具可以实现部署,但运行云软件的基础设施还有很多其他方面需要考虑。我们需要一个应用程序配置机制,一种收集和隔离每个应用程序日志和指标的方法,监控健康状况并提醒警报,创建审计追踪记录,以及一个身份验证系统来管理用户对基础设施的访问。有几个工具可以解决这些单独的问题,但需要将它们缝合在一起并集成到应用程序环境中。Kubernetes、Splunk、CloudWatch、Signalfx、Sentry、Elk 和 Oauth 提供商都是这些工具的例子。但是,如果开发人员想要以合理的规模运行,他们需要一个统一的“平台”来将所有这些内容整合在一起。这带我们到下一个重点。
当与许多工程师交流时,我们听到了这样的观点:基础设施即代码结合 BASH 脚本甚至常规编程语言(如 Go、Java 和 Python)提供了克服上述挑战所需的所有钩子。当然,我同意这个观点。通过这种代码,你可以构建任何东西。但是,你可能正在构建已经存在的相同类型的平台。为什么不从现有平台开始,通过脚本添加自定义功能呢?
第二个观点是,基础设施即代码更灵活,允许进行深度定制,而在平台中,您可能必须等待供应商提供相同的支持。我认为随着我们技术的发展,到了汽车自动驾驶的程度——曾经被认为纯属幻想!——平台比它们被认为的要先进得多,并具有强大的机器生成技术,以满足大多数,如果不是全部,使用案例。此外,一个好的平台不会阻止用户通过脚本工具定制超出其自身范围的部分。一个设计良好的平台应该提供正确的钩子,以消耗在平台之外编写的脚本。因此,这个观点不能证明为大多数标准任务构建代码库的合理性。
这也是一个常见的论点。我同意:一个好的平台应该努力解决这个普遍存在的问题。在 DuploCloud,我们相信我们已经构建了一个平台,解决了大多数使用情况,同时赋予开发人员能力,将在系统外创建和管理的策略集成到系统内部。
一种有点令人惊讶的支持自主构建平台的论点是,对于工程师来说,这只是一个非常酷的项目,特别是对于那些来自系统背景的工程师。我住在硅谷,并发现在与这个地区的客户交谈时有一个非常有趣的趋势。
当我们与基础设施工程师交谈时,我们发现他们更强烈地想要在内部构建平台,并且他们非常清楚地知道他们正在为他们各自的组织构建一个“平台”,而不是像他们认为的那样“编写脚本”。对于这样的公司来说,定制化是反对现成工具的常见论点,而混合云和本地部署是重要的使用案例。像 Kubernetes , Consul 等开源组件是常见的,因此我经常听到认为不必重新发明轮子的说法。然而,团队规模和为解决方案分配的时间相当大。在某些情况下,构建平台的重点会掩盖公司本应销售的核心业务产品。虽然不完全科学,但我倾向于在圣马特奥以南的地区看到这些公司。
这些公司的工程师们则更多地专注于纯软件即服务应用程序的开发。这些应用程序使用了很多本地云软件,例如 S3、Dynamo、Amazon Simple Queue Service (SQS) 和 Amazon Simple Notification Service (SNS),因此很难采用混合云。他们很乐意通过 API 或 UI 将容器交给 Amazon Elastic Container Service (Amazon ECS) 来部署,而且不喜欢部署或学习 Kubernetes。因此,他们内部定制的趋势和深度要少得多。
多少次,多少人会写同样的代码来实现同样的功能?最终上市时间会占上风。 | https://yylives.cc/2023/05/07/infrastructure-as-code-or-cloud-platforms-you-decide/ |
KubeCon 小组讨论:平台工程如何让开发人员受益
翻译 KubeCon Panel: How Platform Engineering Benefits Developers 。
KubeCon 小组解释了平台工程,以及为什么拥抱这种新的 DevOps 趋势符合开发人员的最大利益。
如果说 DevOps 是将运维和开发工作流程相结合的话,那么平台工程旨在解决由此产生的问题。这不是两者之间的二选一,而是一个 DevOps 运动的演变,一场 KubeCon+CloudNativeCon Eu 的小组讨论这样说道。
“我有时会对为什么某些事物必须消亡以便其他事物存在感到困惑,” GitLab 的首席产品官 David DeSanto 说道。“对我来说,平台工程的本质是确保您的 DevOps 团队与平台更有效地合作,两者之间存在很多重叠和价值,这是一个相互促进的关系。”
HashiCorp 欧洲、中东和非洲地区首席技术官 Sarah Polan 说,从非技术意义上讲,平台是支持您尝试做的任何事情的东西。
“因此,在 IT 领域的情况下,这些是您要构建的基础组件,以创造业务价值并解决您的业务问题,” Polan 说道。“在我们的案例中,这些都是部署和提供 Terraform 作为产品所需的所有小部分,这就是我们的团队所依赖的,为了能够做到这一点而消费的。”
DeSanto 建议,产品实际上可以是平台。
“至少对于我们在GitLab来说,平台就是产品。我们的平台团队专注于 gitlab.com ,这就是我们的产品,”DeSanto说道。“所以我认为这取决于您在与谁交谈——谈话中的客户是谁?”
该小组还同意,平台工程是一种实践,而不是可以购买的东西——他们警告说,尽管有些人会试图把它卖给你。
“平台工程可以是我们正在承担的一个角色,类似于 DevOps ,而我相信——并与我的同行交流——它确实是其延伸,是我们所做的事情的一个扩展。它是进化而来的,不一定是革命性的,”红帽混合平台营销洞察总监 Stu Miniman 说道。
Polan 说,平台工程是关于应用最佳实践并确保对开发组织及其使用的工具进行一定程度的控制。
“当时我在一家金融机构工作,当时在运行 Go 应用程序,所以它并没有受到 Log4j 的影响,但我仍然在半夜接到了三个电话,因为...我们需要确保一切都得到了适当的修复,” Polan 说道。“这确保我们作为组织拥有适当的控制,但同时也要基于此获取商业价值,并设置防护措施来说,‘我们希望您能够做您想做的事情。我们希望您遵循行业标准,使用开源软件,但我们也希望确保我们对这些事情有足够的控制力。’”
该小组指出,通过拥有一组经过批准的工具和库选项,组织可以更快地吸纳开发人员。开发人员自然喜欢尝试新工具——这是他们的工作的一部分,曾经担任开发人员的 DeSanto 说道。问题在于,每个开发人员引入新工具,以及针对这些工具的集成,可能会导致工具泛滥,他说。
他说:“你最终会伤害安全和效率。你本质上是要求那些专业不是管理基础架构,以及所有内部 CI/CD 流程的人自己做决策,但这不会给他们最好的结果。”
Polan 说,在一个流失率为 20-23% 的市场中,这成为一个令人头疼的问题。
“很快就会有人感到沮丧,意识到他们可以去街对面找到另一份工作,” DeSanto 补充道。“因此,如果您正在建立真正适合他们[开发人员]的东西,他们将更加参与。您将获得更好的公司成果。您希望有更快乐的员工,更快乐的员工也等于更多的收入。”
平台工程是一个看似新的运动,但实际上已经成长了三年,Miniman 表示。在过去的三年中,两个变化因素是远程工作的增加和现在即使是“小商铺”也成为技术公司以保持竞争力,小组表示。仅仅构建一个单体应用并将其放置 20 年已经不够了。
“ 15 , 20 年前,我们实际上构建的东西非常不同,变化的速度和反应能力也不同,” Miniman 说道。“现在我不能再构建一个定制应用并将其放置十年,因为那样做会使我处于竞争劣势。”
Polan 使用“可演化性”一词来描述公司为什么应该拥抱平台工程。虚拟化、5G和面向服务的架构正在创建一个需要灵活性和模块化的开发环境,Polan 说。
她说:“这也将反映在平台团队中...通过将这些任务交给平台团队,我们可以扩展一些解决方案,同时也具备推进事物的灵活性。这给了我更好的选择,使我更加响应迅速,显然给了我更好的投资回报和更好的安全性。”
但也许最大的原因是,开发人员应该拥抱平台工程的原因在于,它减少了当前编程的认知负荷, Miniman 表示。
如果我们能让事情变得简单一些,让开发人员专注于他们的主要角色和他们想要做的事情,那就会使事情变得更容易,”他说。 | https://yylives.cc/2023/05/07/kubecon-panel-how-platform-engineering-benefits-developers/ |
在开发门户中通过 GitOps 实现自服务的基础设施即代码
翻译自 Self-Service Infrastructure as Code in a Dev Portal with GitOps 。
在幕后使用 Terraform 或其他 GitOps 启用黄金路径开发人员 IaC 操作的分步指南。
不久前,GitOps 风靡 DevOps,提供更流畅、更快速的软件交付体验。 GitOps 有很多优势,可以让开发人员、DevOps 和机器(工作流和管道)的生活变得更简单。
然而,这并非一帆风顺,因为 GitOps 要求开发人员熟悉许多 DevOps 实践和专业知识。例如,基础设施即代码。 IaC 是一个完整的专业领域。使用它需要遵守适用的 DevOps 团队标准和语法。
例如,假设开发人员需要为他们正在处理的微服务设置 MongoDB。独立创建 IaC 并向 GitOps 提交 pull request 来处理 Terraform 文件的应用程序可能会让一些开发人员望而生畏。它还需要相当程度的信任。然而,这很难大规模实施,因为并非所有开发人员都具备所需的 DevOps 专业知识。
让开发人员自由使用 IaC 会引发其他问题。编写 Terraform 代码需要了解安全最佳实践,缺乏经验的开发人员可能会在不知不觉中将安全漏洞引入基础架构。
这可能导致数据泄露、数据丢失或其他安全事件。此外,不一致的代码质量也可能是一个问题,因为开发人员可能有不同的编码风格和标准,这使得将来难以维护和更新基础设施。
所有这些都是开发人员体验问题,解决它的新方法是使用内部开发人员门户 (IDP),这是平台工程中面向开发人员的核心工具。开发人员门户通过类似产品的用户界面提供预制的黄金路径,允许开发人员执行从供应测试环境到回滚部署的许多自助服务操作。
让我们探讨一下开发人员如何在 GitOps 的支持下执行基础设施即代码(IaC)的自助操作。在这种情况下,IaC 文件的创建由现有的 GitOps 工作流自动处理。
首先,确定您希望开发人员自助服务的操作。例子是:
创建 S3 存储桶/MongoDB
-
初始化开发人员环境
-
创建一个 AWS 账户
-
这是您可能已经拥有的示例 Terraform 文件,您希望通过内部开发人员门户将其作为自助服务操作提供。
现在我们要创建您希望开发人员在使用自助服务操作时使用的表单。表单(和向导)旨在减少认知负担并提供类似产品的体验。您还可以使用 API 使其更易于使用。无论哪种情况,这都定义了黄金路径,显示对开发人员重要的所有 IaC 元素,并将其余元素隐藏在幕后。这解决了开发人员访问 GitOps 时经常出现的分离问题,其中一些变量用于 DevOps,一些变量用于开发人员,从而为错误创造空间并减慢开发人员的速度。创建 UI 表单时,请考虑您希望为开发人员提供的最简单的体验。在需要的地方添加工具提示,这样就没有问题没有得到解答。
这是一个“添加 DocDB”的例子:
这是我们连接点的地方。
我们从自助服务表单中获取用户输入并将其转化为 IaC 参数。提交表单后,这将自动生成一个 IaC 文件。
为此,我们将为表单提交实现一个侦听器,该侦听器将创建对所选文件的拉取请求。在大多数情况下,DevOps 工程师将是批准该操作的人员。
这是 Pull Request 的一个例子。
内部开发人员门户还包含一个软件目录,它显示的不仅仅是微服务。它包含重要的内容:CI/CD 流、集群、开发环境、管道、部署和任何云。一旦发生自助服务操作,软件目录就会与触发的 GitOps 工作流(Azure Pipeline、Github Workflow 或任何其他处理 IaC apply 的实现)的过程保持同步。
在这里,您可以看到我如何使用 Port 的 GitHub 工作流提供程序来使 Port 的软件目录根据新请求的基础设施进行更新。
您可以从开发人员的角度和平台的角度在此处查看整个流程。
就是这样!您已经成功地实现了一个端到端的流程,让开发人员可以使用现有的 GitOps 实现,通过单击按钮体验将 IaC 添加到他们的应用程序中。
让我们看一下架构以及开发人员门户如何与 GitOps 交互,然后更新软件目录。
用户在开发人员门户中执行自助服务操作。
-
然后将操作存储在 Kafka 的队列中。
-
集中处理程序监听表单提交。在本例中,它是 Port 的 GitHub 应用程序,它既监听表单提交又处理 Terraform 文件生成。
-
一旦 Terraform 文件准备就绪并包含相关参数,它将被提交并创建 pull request 。
-
合并 PR 后,已经提前实现的 GitOps 工作流会触发处理 Terraform apply 的 Azure Pipeline(或任何其他 CI)。
-
作为 Azure Pipeline 的一部分,软件目录数据与特定 IaC 操作的进度保持同步,并根据 Terraform 文件 apply/destroy 操作从目录中添加/修改/删除资源。
-
让我们看看在内部开发人员门户中使用自助 IaC 操作时开发人员的体验。
这是开发者用户填写的表格:
由于 IaC 操作可能需要时间,因此最好向开发人员展示操作的进展情况,如本例所示:
操作完成后,开发人员将在内部开发人员门户中的软件目录中看到 IaC 操作的结果:
这是审计日志。在这里,您可以看到开发人员触发的不同自助服务操作的状态,包括它们的状态、调用它们的初始实体以及它们完成运行时的持续时间。
在这里,我们可以看到自助服务操作的特定调用的元数据。包括用户输入、操作的一般元数据和受影响的目录实体列表(作为操作的结果的新的、更新的或删除的)。
作为调用操作的元数据的一部分,还可以附加相关链接列表。在 IaC 用例中,一个很好的附加链接是指向 pull request 的链接,该 pull request 是使用新的 terraform 定义创建的自助操作及其对基础设施的预期影响。
接下来,您可能希望允许删除数据库或执行第 2 天操作,例如通过自助服务操作增加资源。当然,您可以允许开发人员执行许多其他操作,这完全取决于您。
平台工程是关于创建可重用元素,而 IaC 操作应该是其中的一部分。为了避免认知负荷和入职开发人员使用 GitOps 的问题,内部开发人员门户为开发人员提供了广泛的自助服务功能,他们可以轻松地执行 IaC 操作并相应地更新软件目录。
当开发者门户与底层实现解耦时,开发者将获得一致的体验,而 DevOps 可以改变底层逻辑的实现方式。同时,将自助服务支柱的开发者门户与软件目录“本地化”,而不是将自助服务操作和软件目录作为两个独立的元素来管理,也是很重要的。 | https://yylives.cc/2023/05/07/self-service-infrastructure-as-code-in-a-dev-portal-with-gitops/ |
在 PlatformCon 2023 深入了解平台工程
翻译自 Take a Platform Engineering Deep Dive at PlatformCon 2023 。
虚拟活动提供了紧凑的日程安排,并有机会探索最新的平台工程趋势、解决方案和最佳实践。
备受期待的 PlatformCon 2023 即将到来,伴随着大量的行业炒作,原因不难理解。为期两天的虚拟会议将于 6 月 8 日至 9 日举行,旨在庆祝拥有 15,000 多名成员的平台工程社区,并邀请了众多知名行业演讲者。来自世界各地的数千名平台工程师和从业人员将参加,欢迎他们的是紧凑的时间表,并有机会深入了解最新的平台工程趋势、解决方案和最佳实践。
参加 PlatformCon 2023 的与会者可以通过与专家建立联系并加入充满活力的平台工程师社区来提升他们的平台工程技能,他们都致力于突破界限。参与者可以享受区域启动活动,按照自己的节奏观看演讲,并在 Platform Engineering Slack 频道上进行演讲者问答环节。
完整的会议时间表可在此处获得。与会者将有机会:
与著名的行业演讲者互动,如 OpenCredo 首席执行官/首席技术官 Nicki Watt;Bryan Finster ,Defense Unicorns 的价值流架构师;Stephan Schneider,麦肯锡数字专家助理合伙人; Charity Majors , Honeycomb 首席技术官;和 Team Topologies 的 Manuel Pais 。
-
结识来自世界各地的志同道合的专业人士。
-
从平台工程计划的新见解和新想法中获得灵感。
-
探索多个赛道,聆听顶级现场专家讲述他们的故事。
-
在为期两天的活动中,PlatformCon 2023 将举办一系列引人入胜的演讲,涵盖五个方面:
故事:从业者将分享他们的企业平台构建经验,涵盖从开始到实施和推出的旅程。例如, Adobe 的 Rohan Kapoor 讨论了为 5,000 多名开发人员开发 Adobe 内部开发人员平台,解决挑战,生产力测量以及从最近推出的 CI/CD 产品中学习。
技术:本专题将深入探讨开发人员平台的技术方面。期待来自 Humanitec 的 Susa Tünker 等演讲者的演讲,她将讨论消除环境之间的配置漂移,以及使用各种工具(如 Kubernetes ,基础设施即代码,服务目录和 GitOps )解决问题的会议。
蓝图:本专题的演讲者将介绍经过验证的平台蓝图,包括麦肯锡的 Mike Gatto 和 Stephan Schneider ,他们将探索通过参考架构简化开发人员平台设计。与会者可以期待其他演讲,以突出关键设计注意事项和开发人员平台工具的有效集成。
文化:专注于工程师为工程师构建开发人员平台,该课程将研究平台工程的文化方面。将讨论的主题包括产品管理以及平台工程、DevOps 和站点 SRE 之间的关系。来自 OpenCredo 的 Nicki Watt 将解决阻碍创建伟大平台作为产品的绊脚石,并提供反作用的解决方案。
影响:此课程将探讨平台工程计划的商业价值和影响。像 Gartner 的 Manjunath Bhat 这样的分析师将提供价值故事,以展示平台工程如何加速业务成果,而其他从业者将讨论确保高管支持的策略。
对于任何希望提升平台工程技能的人来说,这是一个很好的机会来学习、交流并从行业中最好的人那里获得灵感。立即注册以获取新的演讲者更新、参与机会以及有关面对面和虚拟聚会的详细信息。 | https://yylives.cc/2023/05/27/take-a-platform-engineering-deep-dive-at-platformcon-2023/ |
如何将自己的平台经营成产品工坊
译自 How to Host Your Own Platform as a Product Workshop 。
您是否在为采用平台工程而苦苦挣扎?像产品工厂一样去尝试平台,协调利益相关者并改变思维方式。
通常,当组织开始谈论平台工程时,这不一定意味着要从零开始。毕竟,大多数公司已经拥有某种形式的平台。可能因为它是一个由上至下的举措,运营部门通过部门竖井扔出的东西,所以采用率较低。
当组织采用平台即产品策略时,这种情况应该会改变。这种做法涵盖了平台工程的社会技术方面,它考虑了人员、流程和技术的交集——而不仅仅是后者。这种思维方式的转变首先不是专注于构建内部功能,而是专注于为内部开发人员客户提供服务和互动。也许最重要的是,在科技行业裁员盛行的时期,这种做法侧重于学习使用平台技术解决复杂问题——所以不要先考虑技术,而是先考虑问题。
Anna Ciula 和 Cansu Kavili Örnek 与红帽的客户合作,帮助他们构建采用这种平台工程思维的适用型平台。红帽的开放创新实验室团队开发并开源了一项半天的平台即产品工坊。在 WTF is SRE 的活动中,该团队联络负责人 Ciula 和架构师 Cavil Örnek 回顾了他们过去两年利用这项研讨会帮助团队最大限度地利用其平台的经验。
你可能已经读过 DevOps 已死。虽然是一个吸引人的标题,但平台工程最终被视为 DevOps 的交付机制。
“我看到的是,平台工程是 DevOps 实施的自然延伸或自然的下一步 - 就像 DevOps 的成熟版本一样。因为技术变得非常复杂,而且有这种开销,开发人员每天都需要新的东西出现,“ Kavali Örnek 说。“平台工程为他们提供一些通用的、可重用的功能,以减轻他们的认知负担,这样他们就可以真正专注于他们喜欢做的事情——业务应用程序、开发软件。
她担心,随着 DevOps 已死的观念,职位会改变,但工作方式将保持不变。为了解决 Puppet 的平台工程状态报告中强调的挑战 - 包括周期时间太慢,平台团队采用的阻力以及缺乏沟通 - 这些团队必须采用平台即产品的思维方式,这是团队拓扑创造的一个术语。
“将这种现代的产品管理思维应用于平台的构建,”她定义平台即产品,承认这是“从关注平台的底层技术转向关注实际用户和开发者需求,并在此基础上构建平台,这是一个巨大而困难的转变。”
Ciula 解释说,平台即产品工坊的设计是为了响应红帽客户共同面临的挑战。“我们看到开发人员因运维部门在他们脚下摆放各种障碍而感到完全沮丧。然后,运维人员因开发人员称他们愚蠢,不知如何使用平台而感到完全沮丧。”这些反应都导致运维部门通过命令和控制的措施要求使用平台,以及她所说的“影子 IT 反叛者在信用卡上创建自己的集群”。
与所有平台工程一样,这个工坊希望创建一种通用语言,让每个人都在同一页面上,所有利益相关者都接受平台即产品思维方式的好处。
只有所有相关者都参与其中,您的平台即产品工坊才有用。这不仅包括用户和客户,还包括 Ciula 称为影响者的合规与安全团队。正如我们之前写的,平台工程抽象出 Syntasso 的 Abigail Bangser 所说的“非差异化但并非不重要的工作”,以便应用团队能够更快地产生业务价值。
在简要介绍之后,这个工坊让所有这些利益相关者优先考虑您在平台工程成功方面面临的挑战,包括:
开发人员认知负担高
-
开发人员不信任也不采用该平台
-
糟糕的开发人员体验
-
客户正在遭受糟糕的服务
-
平台太贵了
-
平台太慢,无法更改
-
与它的名字相反,DevOps 主要关注运营,而这个工坊则更多地强调了开发人员体验和最终客户体验,并将整个平台计划与业务联系起来。
“这通常是一个非常非常有帮助的讨论,” Ciula 保证,但是,特别是在受监管的环境中,她警告说,“它往往会变得激烈,因为人们对更重要的东西有不同的看法。
这就是为什么你应该留出足够的时间让每个人都专注于最大的问题,而不是让谈话脱轨。
接下来,您分解虚拟的或非常粘性的便利贴,并作为一个组进行澄清:
什么是平台?(这是一个统一的管理控制台。)
-
什么不是平台?(不仅仅是 Kubernetes。)
-
平台有什么作用?
-
平台不应该做什么?(它不是支持所有边缘情况的包罗万象。)
-
Kavali Örnek 说,所有利益相关者都在房间里,这一点至关重要,这样你就不会只有运维视图或开发视图——任何从该平台中受益的人都应该感到被代表。
“这有助于我们围绕这个平台的外观以及这个平台将负责的内容划定界限,”她说。“对于每个人来说,了解这个平台是什么以及我们试图解决什么样的问题非常重要。
“通常,这里的每个人都知道产品是什么,它正在解决问题或是对需求的回应,” Ciula 说。但重要的是要重申“它必须是可行的。它必须在技术上可行。它必须是可取的。
这依赖于每个人都理解功能团队和授权产品团队之间的区别——平台工程师将解决问题,但不一定实施解决方案。
“授权产品团队被交给了要解决的问题,而不是要实施的解决方案,”她说。
这使团队能够将此产品镜头应用于具有明显业务倾斜的平台。大多数情况下,目标包括减少:上市时间、运营负担和/或开发人员认知负担。
“它应该为开发人员构建,与开发人员一起响应他们的基本需求,” Ciula 说,“显然它需要在技术上可行。
她将此视为一个“啊哈”时刻,她说:“我们的许多客户都在说‘天哪!实际上没有人在这样做。我们实际上没有一个平台产品经理,其工作就是确保我们为业务做点什么。”
此外,她收到的反馈是,平台团队并没有真正考虑开发人员和他们需要的服务,只是教育他们如何使用平台。
将平台视为产品的第一步,而不仅仅是另一个自上而下的瀑布计划,就是拥有产品 backlog 。
“在 backlog 中,你不只是把关于构建和维护平台的事情放在一起,” Ciula 说。内部营销同样重要:“你必须考虑一些事情,比如传播你的产品,让人们更想要它。
这不仅有助于为开发人员创造透明度,而且一旦他们得到平台的消息,请求就会涌入。 backlog 有助于管理内部用户的期望。
“我们希望开发者使用我们的平台。我们不想让开发者的生活变得苦恼。这种传道般的热情和对开发者真实需求的理解是至关重要的。” Kavali Örnek 说。她指出 DevOps 的三大支柱之一,并强调“与开发者进行这种对话和反馈循环真的很重要。”
接下来,工坊将团队拓扑的产品四个特征应用于平台:
可选使用
-
根据用户需求精心设计和策划
-
为用户简化某些内容
-
与科技一起发展
-
对于这些要点中的每一点,问问自己,这能说是你目前的平台吗?
当然,尤其在受监管的环境中, Kavali Örnek 也听到一些对选择权的反对意见。如果法规和安全性不可选,那么这些意见也许合理。但是,这个练习的真正目的是向所有利益相关者展示:“你应该以开发者想要使用的方式构建你的平台,”她解释说。“它应该是如此吸引人,以致于开发者不想寻找任何其他替代方案。他们想使用你的平台。”
否则,您将面临她所谓的空集群问题,其中有一些应用程序位于其之上,但您的大多数应用程序团队都不支持您的平台。
“这个平台是可选的。我们必须把它做得非常好,我们将倾听开发者的心声,他们会来使用它,并希望在内部为我们进行推广,” Kavali Örnek 说,为平台团队设定了理想的目标。
这个平台产品研讨会的第三个模块围绕衡量成功进行。通常,在进行这次工坊时, Red Hat 团队发现人们只是简单地衡量速度、故事点和缺陷数量, Ciula 认为这有点令人失望。
虽然 DORA 指标——部署频率、变更前置时间、平均恢复时间和变更失败率——被视为行业标准,但她的客户很少应用这些指标。这意味着 1 5分钟模块的大部分内容都只是一个愿望。
“我们想向他们重申,平台应该为业务做点什么,” Ciula 说。“该平台不仅适用于技术。它应该提供一些可以对业务产生可衡量结果的东西。
除 DORA 指标外,这个工坊还鼓励考虑平台采用率、开发者上手时间、开发者净表现评分等指标。“我们希望给他们留下一些思考的食物,这样一旦他们认真对待这个平台,他们就会接受这种平台即产品的方法,他们就会正确地做到这一点。
虽然本次研讨会还有其他模块,但也许最重要的是在后续步骤中结束,以便参与者准备好采取行动。
Red Hat 围绕迭代交付周期帮助创建了一个开放式实践库,具有更紧密的反馈循环,就像横向八字形或无穷大符号一样。这个莫比乌斯环从DevOps,敏捷,设计思维,影响映射和以人为本的设计等中提取,因此团队可以为每种情况选择相关实践:
你为什么要解决问题?
-
你在为谁解决它?
-
正在解决哪些问题?
-
如何解决这些问题?
-
然后,他们可以设计并实施他们认为可以解决结果的实验。这是一个持续的发现和交付之旅。Ciula 解释说,在某种程度上,这是为了确保平台团队不会只停留在交付功能而没有花时间重新审视发现阶段。
最后, Kavali Örnek 认为,成功的平台即产品战略取决于组织的心理安全,这就是为什么莫比乌斯循环包含平台工程的社会技术实践的技术和文化实践。 | https://yylives.cc/2023/06/01/how-to-host-your-own-platform-as-a-product-workshop/ |
内部开发者平台的 7 个核心要素
翻译自 7 Core Elements of an Internal Developer Platform 。与本文相比,译者团队用的工具是 Gitea, Backstage 和 Jenkins 。
深入理解构建可以让开发者能够自主工作的 IDP 所需的技术栈和参考架构。
构建内部开发者平台需要什么?有哪些工具和平台可以使其工作?这篇文章将讨论建立一个完全可操作的内部开发者平台所需的架构和工具。要查看设置平台的实际步骤,请观看此视频。
平台工程的首要目标是推动开发者的自主性。如果开发者需要数据库,则应该有一种机制来获取它,无论该人是数据库管理员还是 Node.js 开发者。如果开发者需要在 Kubernetes 中管理应用程序,那么这个人不需要花费数年时间试图了解 Kubernetes 的工作原理。所有这些操作都应该易于完成。
开发者应该能够通过定义简单的清单或使用 Web UI 来完成他们需要的东西。我们希望使所有开发者都能使用有助于他们获得所需内容的服务。专家(平台工程师)将在内部开发者门户中创建这些服务,用户将在其图形用户界面中或通过直接编写清单并将其推送到 git 来使用它们。
一个内部开发者平台需要几个组件才能完全运行。对于每个组件,我们将推荐一个工具,但它们可以用类似的工具替换。核心思想是描绘出构建该平台所需的功能:
一个控制平面:平台需要一个控制平面来负责管理所有资源,无论它们是在 Kubernetes 集群还是其他地方运行的应用程序,或者基础设施或服务是否在 Amazon Web Services (AWS)、Azure、Google Cloud 或其他任何地方。我们在这里推荐的工具是 Crossplane 。
-
一个控制平面接口:这将使每个人都能与控制平面交互,并在适当的抽象级别管理资源。我们在这里推荐的工具是 Crossplane Compositions 。
-
Git:所需的状态将存储在 git 中,因此我们必须在组合中添加一个 GitOps 工具。它的工作是将我们放入 git 的任何内容与控制平面集群同步。我们在这里推荐的工具是Argo CD。
-
数据库和 schema 管理:鉴于这种状态是不可避免的,我们也需要数据库。这些数据库将由控制平面管理,但为了正常工作,我们还需要一种方法来管理这些数据库内的 schema 。我们在这里推荐的工具是 SchemaHero 。
-
Secrets 管理器:对于我们无法存储在 git 中的任何 Secrets 信息,我们需要一种方法来管理 Secrets 管理器中的机密。这些 Secrets 可以位于任何 Secrets 管理器中。我们推荐的从中提取 Secrets 的工具是 External Secrets Operator(ESO)。
-
内部开发者门户/图形用户界面:如果用户不想将清单直接推送到 git,我们应该为他们提供一个用户界面,使他们能够查看正在运行的内容以及执行将创建新资源并将其存储在 git 中的进程。我们在这里推荐的工具是 Port 。
-
CI/CD pipelines:最后,我们需要 pipelines 来执行一次性操作,例如基于模板创建新存储库、使用清单的新版本更改生成映像等。我们在这里推荐的工具是 GitHub Actions。
-
设置将需要一些额外的工具,但上面的列表是必须的。
下图显示了每个元素如何相互交互。在阅读本文时,您可以将其用作参考。
让我们检查设置中每个层的角色:
让我们来谈谈控制平面:我们需要一个单一的 API 作为入口点。这是内部开发者平台的主要交互点。反过来,它将管理各种资源,无论资源在何处。我们可以使用 Crossplane 及其 providers ,这使我们不仅可以管理 Kubernetes ,还可以管理 AWS, Google Cloud, Azure 或其他类型的资源。我们将使用 Kubectl 获取自定义资源定义(CRD),这些定义将在超大规模集群中创建部署、服务并管理数据库等。
然而,仅此还不足以构建一个完整的内部开发者平台。一个应用程序很容易由数十个资源组成。基础设施可能会复杂得多。最重要的是,所有这些底层资源的抽象层次对于不是 Kubernetes 、 AWS 或 Google Cloud 专家的人来说不够友好。我们需要更加用户友好的东西。
控制平面接口可以在 100% GitOps 时充当平台 API。不应将其与充当图形用户界面的内部开发者门户混淆。为此,我们可以使用 Crossplane Compositions 。
我们构建的平台的用户需要什么样的抽象级别?原则是,我们应该隐藏或抽象化用户在使用内部开发者平台时真正不关心的任何内容。例如,他们可能不关心子网或数据库存储。合适的抽象级别取决于平台的实际用途,并且会因组织之间的不同而异。您需要发现如何最好地为您的客户和组织中的其他人提供服务。
Crossplane Compositions 使我们能够创建抽象,从而简化不同类型应用程序的管理。接下来,我们可能不希望任何人直接与集群或控制平面交互。人们不应该直接向控制平面发送请求,而应该将他们想要的状态存储在 git 中。
不应允许通过直接与控制平面通信来更改资源状态,因为没有人会知道谁在何时更改了什么。相反,我们应该将所需的状态推送到 git 中,并选择性地通过 pull request 进行审查。如果我们将 GitOps 工具插入平台,则所需状态将与控制平面同步,进而将其转换为实际状态。
这是一种更安全的方法,因为它不允许直接访问控制平面,并且还会跟踪所需的状态。我建议使用 Argo CD 执行此操作,但 Flux 和其他解决方案也一样好。
数据库需要 Schema 。它们因应用程序而异。为了完成我们的内部开发者平台,我们需要解决如何管理 Schema 的问题,最好将其作为存储在 git 中的应用程序定义的一部分。有许多方法可以管理模式,但只有几种方法可以让我们以适合 git 模型的方式指定模式。复杂的是, GitOps 工具只能与 Kubernetes 资源一起工作,这意味着 Schema 也应定义为 Kubernetes 资源。这要求我们使用 CRD 扩展 Kubernetes API ,从而可以将 Schema 定义为 Kubernetes 资源。我推荐使用 SchemaHero 来实现此目的。
有些信息不应该存储在 git 中。在 git 中拥有 Secret 等机密信息很容易导致违规。相反,我们可能希望将它们存储在像 HashiCorp Vault 这样的 Secret 管理器中,或者由您使用的任何超大规模提供商提供的解决方案中。尽管如此,这些 Secret 仍需要到达控制平面,以便其中的进程可以使用外部 API 或访问服务(例如数据库)进行身份验证。我建议为此使用 External Secrets Operator(ESO)。
内部开发者平台需要一个用户界面来补充我们迄今为止建立的一切。这是内部开发者门户网站。它同时提供人员可以使用的服务目录,并允许人员与平台进行交互以管理资源。
以及开发者执行我们希望他们自主使用的操作的界面。具体来说,我们需要一种方法来初始化一个过程,该过程将为应用程序创建新的存储库、添加示例代码、为数据库和其他依赖项提供清单、创建 CICD 管道等。
对于此设置,我们从 Port 的 Kubernetes 目录模板开始。
然后,我们将添加两个与集群蓝图相关的附加蓝图,即后端应用和环境:
最后,我们需要 Pipelines 。它们是拼图的最后一块。
即使我们使用 GitOps 将实际状态同步到所需状态,我们也需要一次性操作的 Pipelines ,每次提交只应执行一次。这些可能是构建二进制文件、运行测试、构建和推送容器镜像等的步骤。
从用户(开发者)的角度来看,只需单击 Web UI 中的按钮,或者通过定义一个非常简单的清单并将其推送到 git 即可创建新应用程序。之后,可以使用同一接口来观察有关该应用程序和相应依赖项的所有相关信息。
然而,在幕后,流程如下。
用户与 Web UI(端口)或直接与 git 交互。在这种情况下,内部开发者门户的工作是触发将创建所有必要资源的操作。
-
创建所有相关资源是由 GitHub Actions 等 pipeline 完成的工作。反过来,它创建一个包含所有相关文件的新仓库,如源代码、管道、应用清单等。
-
通过将变更推送到应用程序仓库(无论是由于前面的操作还是后来对代码进行更改),会触发特定于应用程序的 pipeline(GitHub Actions),该 pipeline 至少会构建容器镜像,将其推送到镜像仓库,并更新管理仓库中的清单,该仓库由 Argo CD 或 Flux 等 GitOps 工具监视。
-
GitOps 工具检测对管理存储库的更改,并将其与控制平面集群中的资源同步。
-
控制平面集群中的资源由相应的控制器(Crossplane)获取,后者反过来会创建应用程序资源(在其他 Kubernetes 集群中或作为 AWS Lambda、Azure Container Apps 或 Google Cloud Run 等超大规模服务)以及依赖资源,如数据库(自我管理或作为超大规模服务)。
- | https://yylives.cc/2023/06/07/7-core-elements-of-an-internal-developer-platform/ |
Kubernetes 开发者门户的“运行服务”蓝图
翻译自 ‘Running Service’ Blueprint for a Kubernetes Developer Portal 。
运行服务提供运行时数据,以便我们可以在环境、部署和状态的背景下理解一个服务。
内部开发者门户存在的目的是为开发者提供类似产品的体验,减少认知负荷,让开发者能够保持工作状态并提高生产力。这些门户由平台工程团队创建,旨在帮助开发者在内部规范和质量标准的框架内进行自助服务。
通过门户,开发者可以简单轻松地设置临时环境、重新启动 Kubernetes 集群、重新部署镜像标签或创建微服务框架。平台工程团队将使这些操作在平台上可重用,而内部开发者门户将充当与平台的接口,并在软件目录中反映这些变化。
然而,内部开发者门户不仅仅是松散耦合的类产品用户界面,使开发者的工作更加轻松。内部开发者门户还具有宝贵的软件目录,其中包括您的工程中与应用程序相关的一切,从 CI/CD 元数据到云资源、Kubernetes、服务等等。
软件目录的价值远远超出了它所包含的元数据(这也非常有用),它远不止于显示谁拥有一个服务或其日志位于何处。除了作为唯一的真相来源外,它的价值还在于它提供的上下文,特别是在运行时数据的情况下。它可以快速回答诸如“在环境 y 中,服务 x 的当前运行版本是什么?”这样的问题,即使在包含功能标志、金丝雀或蓝/绿部署的情况下也可以如此。
本文将重点介绍上下文和运行时数据。我们将提供一个关于 Kubernetes 对象的内部开发者门户的详细示例。然后,我们将展示软件目录的威力,以及它如何支持工作流自动化——从时间到终止(TTL),到服务锁定,以及在服务降级时触发自动化操作等等——这是由于它的元数据和运行时数据的结合所带来的结果。
软件目录需要一个数据模型,在开始之前,您需要定义它。这并不复杂,但您需要一个标识软件目录内部内容的模式。软件目录需要无倾向性且完全灵活,所以最好的选择是让您自己定义数据模型。
在 Port 中,某种实体(比如一个K8s集群)的模式被称为 Blueprint 。实际的实体(在这种情况下就是实际的集群)被称为 entity 。在 Spotify 的 backstage 中, Blueprint 被称为 “kind” 。
Backstage 是一款领先的开源内部开发者门户,也是第三受欢迎的云原生计算基金会(CNCF)项目。他们建议使用一种包含六个 Blueprint(或 kind) 的特定数据模型。
组件(Component)
-
API
-
资源(Resource)
-
系统(System)
-
领域(Domain)
-
组(Group)
-
正如 Spotify 的高级工程师 Renato Kalman 和技术工程师 Johan Wallin 在这里解释的那样,在设计 Backstage 时,他们面临着一个软件可视化的挑战:他们需要一个“标准化的软件元数据模型,以创建一个用于沟通软件架构的共同语言”。他们提出的是 C4 模型。您可以在这里看到 Backstage C4 模型的一个示例。
但是这个数据模型忽略了一个重点:即“running service” Blueprint(运行服务模型)。
您的代码并不是您的应用程序。存在于您的代码库或容器镜像中的代码并不是应用程序本身。在现实生活中,您的应用程序存在于某个环境中,并在一系列工具和依赖项的生态系统中提供某种服务(API/其他服务/用户)。它的行为取决于它所处的环境。
"running service" Blueprint,或者有时也称为“在环境中的服务”,反映了一个事实:单个“服务”通常部署在许多不同的环境中。服务可以存在于各种环境中,包括临时环境、开发环境和生产环境。特别是在单租户架构的情况下,服务还可以存在于许多不同的客户环境中。
服务存在于许多不同环境中这个简单事实在 Port 的“running service” Blueprint 中得到了体现。"running service" 实体使我们能够看到服务在“野外”中的情况——在实际存在的特定环境中。只有这样,我们才能获得正确和可操作的上下文,理解正在发生的事情。
坚持使用静态的软件目录和仅包含元数据而不包含运行时数据的静态数据模型并不能提供我们所需的上下文。只有查看运行中的微服务的真实实例时,才能获得洞察力。
有人认为,Kubernetes 的增长是推动平台工程的核心因素之一。Kubernetes 的复杂性、其从业者所需的专业知识以及许多开发人员转向云原生开发的最近趋势,都增加了开发人员和 DevOps 之间的负担和摩擦。
内部开发者门户为开发人员提供了对 Kubernetes 的抽象。它们通过显示相关数据来帮助开发人员理解 Kubernetes ,并支持开发人员自助操作。确保这些 Kubernetes 内部开发者平台包括以下内容非常重要:
在软件目录中包含所有的 Kubernetes 对象,而不仅仅是微服务
-
支持多集群
-
支持CRD(自定义资源定义)
-
让我们看看如何为 Kubernetes 内部开发者门户设置 blueprints(数据模型),以及何时以及如何将运行服务 Blueprint 包含在其中。
以下是 Kubernetes 的基本 blueprints(数据模型):
工作负载是 Kubernetes 中的“运行服务”。它是指在集群中运行的 stateful sets, deployments, daemon sets 和任何其他工作负载的通用名称。
集群代表基础设施中的一个 Kubernetes 集群,提供了 Kubernetes 集群中不同对象之间的高级连接。
节点是托管和提供 Kubernetes 集群中不同应用程序和微服务运行时的服务器。
-
命名空间旨在将同一个 Kubernetes 集群中的许多资源分组在一起,让您可以查看托管在同一个 Kubernetes 集群中的完整环境的连接方式。
-
工作负载旨在成为为开发人员提供关于其应用程序状态最相关上下文的焦点。工作负载实体向开发人员提供了关于其不同工作负载的抽象视图。开发人员可以查看工作负载的当前状态,例如实例数量和健康状况。通过向上追溯依赖树,开发人员可以查看与其自身工作负载并行运行的其他应用程序和微服务,从而了解是否存在连接或功能问题。
-
Pod 是工作负载的一个实例,它使我们能够了解构成完整工作负载的部分的健康状况,并理解在工作负载提供的服务可用性方面是否存在特定问题。
-
我们已经看到,无论我们将其称为“运行服务”、“工作负载”或者字面上的“环境中的服务”,运行时 Blueprint都非常有用。它反映了一个单一服务通常同时存在于多个环境(如开发、暂存等)的现实情况。它还可以部署在许多不同的客户环境中。运行服务提供了运行时数据,使我们能够在环境和部署的上下文中理解服务,以及从正常运行时间到状态的实时信息。
您可以免费在 getport.io 上使用Port,或者在此处查看一个完全填充的Port演示。 | https://yylives.cc/2023/06/18/running-service-blueprint-for-a-kubernetes-developer-portal/ |
PlatformCon 2023: 更大、更好
此次会议拓展了诸如推销内部开发平台的商业价值、如何将平台视为产品等主题。
PlatformCon 2023 是夏季的平台工程活动,而且原因充分。来自世界各地的超过 22,000 名平台从业者、专家和爱好者在为期两天的会议中收听了 169 场社区提交的演讲。这个本月初举办的会议让人难以忘怀。如果你错过了,以下是亮点。
翻译自 PlatformCon 2023: Bigger and Even Better 。
当平台工程社区在 2022 年 6 月举办了第一届 PlatformCon 时,我们没有预料到这个活动会如此之大。我们惊喜地看到来自全球各地的超过 7,000 名平台工程师参加了直播活动,并聆听了超过 70 场思想领袖和实践者的演讲。
今年的活动更加庞大,也更加出色。Platform Engineering 的 YouTube 频道的订阅人数从 20 人增长到了超过 12,000 人, Slack 社区欢迎了额外的 10,000 名平台爱好者, PlatformCon 2023 收到的演讲提交数量几乎是去年的五倍,活动的赞助商数量几乎翻了一番。我们非常激动地看到社区的发展,并期待他们在今年的 PlatformCon 上学习、分享和交流。
PlatformCon 2023 在如何创建和构建增加价值的内部开发者平台(IDP)方面出现了重大转变的讨论。这一点尤为明显体现在全新的蓝图跟踪中,实践者们深入探讨了经过验证的 IDP 蓝图和参考架构。
麦肯锡团队根据数百个真实平台设置的经验教训,推出了两种新的 IDP 参考架构,使组织能够在一天内建立平台的最小可行产品。
在《平台即代码:使用参考架构简化开发者平台设计》中,麦肯锡的 Stephan Schneider 和 Mike Gatto 解释了如何减少开发者的认知负荷对于提升创新和速度至关重要。组织可以通过标准化、提供开发者自助服务、推动行业最佳实践以及避免阴影运营反模式来实现这一目标。
然后,他们介绍了针对亚马逊网络服务(AWS)的 IDP 参考架构,该架构旨在改善开发者体验 (DevEx) 和组织技术栈的健康状况。根据麦肯锡团队的研究, IDP 由五个具有独特功能的架构层面组成。下面的图表是工具如何聚集到每个层面的示例。每个层面中的工具组合可以根据组织的需求进行调整和适应。此外,更换一个工具不应该需要替换同一层面或更大 IDP 中的所有工具。
然而,仅靠技术还不足以在规模上提高开发者体验和生产力。Gatto 解释说,成功的平台组织还必须在基础上确定明确的方向,培养强大的工程文化,建立能够促进流程并创造平台吸引力的治理机制,并创建开发者愿意使用的平台。
麦肯锡的 Marco Marulli 在他的演讲《使用参考架构简化开发者平台设计》中,根据同样的设计原则和目标,提出了一个基于 Google Cloud Platform(GCP) 的 IDP 参考架构。
Humanitec 团队根据麦肯锡的 AWS、Azure 和 GCP 设置的参考架构,创建了更详尽的指南。这些白皮书解释了如何集成架构层面,提供了具体的黄金路径示例,深入探讨了开发者、运维和平台工程师如何从这种设计中受益等等。
确定平台适当的抽象层级一直是非常困难的。在他的演讲《构建抽象,而不是幻想》中, Cloud Strategy 的作者 Gregor Hohpe 借鉴了二十年的分布式系统构建经验,解释了为什么隐藏更多的复杂性并不总是对开发者有用。
Hohpe 解释说,抽象化是通过去除或概括细节或属性,将注意力集中在更重要的细节上。平台需要抽象化,因为底层技术非常复杂。良好的抽象化形成一个连贯的语言和有用的心智模型,帮助用户应对这种复杂性。然而,当平台去除或概括重要的细节时,它们会产生误导的幻觉,而不是真正的效果。
当大多数组织首次创建黄金路径时,他们往往过于优先考虑新服务或资源的简单搭建用例。然而,这只覆盖了服务的初始阶段(Day Zero),而服务的寿命可能长达数百天。这个陷阱成为 Kaspar von Grünberg 在他的演讲《为第 50 天构建黄金路径,而不是第 1 天》中探讨的话题。Humanitec 的首席执行官 von Grünberg 将黄金路径定义为软件开发生命周期中用户可以以最小认知负荷遵循的任何流程,以及推动标准化的过程。将重点放在第 1 天任务的黄金路径上的问题在于忽视了应用程序生命周期中更频繁发生的其余 99% 任务。关键在于构建一个内部开发者平台,以最小或几乎不对开发者的工作流程进行更改的方式来强制执行标准化和安全最佳实践。
Von Grünberg 提供了一个使用 Score 和 Humanitec Platform Orchestrator 实施的部署工作负载到开发环境的黄金路径示例。黄金路径的流程如上图所示。根据 Von Grünberg 的说法,可扩展和可持续的黄金路径推动了配置和基础设施管理的标准化。在这个框架内,组织将每个发布视为 Day Zero 或“整理”和减少技术债务的机会。
平台工程不仅仅关乎技术,还包括创建一种能够促使平台和开发者茁壮成长和取得成功的文化。
以产品为中心的平台方法一直是社区中不断讨论的话题。这种方法包括进行用户研究、创建产品路线图、定期征求反馈、迭代、推出平台并在平台的客户中进行内部营销:即开发者。以用户为中心的方法确保平台满足用户需求,获得组织各方利益相关者的认可,并得到开发者的热情接受。
然而,尽管引起了广泛关注,但许多组织在实践中仍然难以应用以产品为中心的平台方法。这是我最喜欢的 PlatformCon 2023 演讲之一的主题。在《为什么创建一个出色的以产品为中心的平台如此困难》中,OpenCredo 的首席执行官兼首席技术官 Nicki Watt 强调了组织在尝试采用这种方法时遇到的一些常见障碍。
例如,许多组织未能像对待外部产品一样对待平台。这是因为当用户是内部用户,比如 IDP 时,更容易对用户的知识、需求和需求进行假设。然而,组织应该努力以同样的关怀对待他们的内部用户。Watt 分享的另一个常见陷阱是组织强制要求平台采用。强制平台采用关闭了平台团队需要评估平台效果并进行持续改进的关键反馈回路。
Honeycomb 的联合创始人兼首席技术官 Charity Majors 参加了 PlatformCon 2023 的舞台,为“运维的未来是平台工程”提出了自己的论点。在她的演讲中,她反驳了 “DevOps已死” 的标题,但也承认这个故事的其他部分有一些真实性。
让我印象最深的是 Majors 专注于运维专业人员如何在快速变化的就业环境中找到满足感的观点。她解释说,运维专业知识比以往任何时候都更重要,但是运维工作的职称和期望正在发生变化,因为工程师所需的抽象层级变得更高了。 Majors 将运维专家描述为在职业道路上面临一个分岔口的人。对于那些热衷于基础设施工作的人,她建议使用基础设施即服务或平台即服务来解决一个类别问题。对于那些热衷于操作代码的人来说,可靠性工程或平台工程可能是未来的选择。
无论您的组织是刚开始平台之旅还是平台工程老手,了解平台对业务的影响至关重要。Impact 赛道在今年首次亮相,旨在向业务领导者介绍 IDP 的增值,并教授平台工程师和产品负责人从高管层获取支持的新方法。
在他的演讲“如何传达平台工程的商业价值”中, Gartner 的 Manjunath Bhat 指出,大多数组织很难解释平台工程的价值。然而,大多数组织都熟悉在扩展 DevOps 以使多个团队能够构建、拥有和运营其产品方面的困难。在这种情况下,平台工程通过提供由专门的平台团队支持的自助平台,帮助实现 DevOps 在团队之间的规模扩展,从而提供价值。然而,根据 Bhat 的说法,这只是故事的一部分。传达平台工程的商业价值的关键是理解它如何超越 DevOps 。此外,不同的利益相关者有不同的优先事项。平台工程师需要了解如何用不同利益相关者群体的语言进行沟通。
为此,Bhat 分享了 Gartner 的企业价值方程式,并展示了如何在平台工程的背景下运用该方程式。
Link: https://www.linkedin.com/posts/activity-7073619577938579456-qPG1/
该过程大致如下:
评估利益相关者的优先事项和关切。倾听利益相关者的意见,了解他们的优先事项和关切。这些因利益相关者群体而异。
-
确定和定义价值驱动因素。价值驱动因素是平台团队采取的行动,为利益相关者提供价值,如开发者门户网站、黄金路径、内部开发者平台等。
-
构建价值映射,将价值驱动因素与利益相关者的影响相对应。价值故事是一个引人注目的叙述,配以支持性指标,展示软件工程举措如何产生商业价值。明确定义的价值故事与业务目标保持一致,根据利益相关者的优先事项进行调整,并易于传达。在利益相关者存在竞争利益的情况下,需要平衡权衡。
-
通过结果(而非产出)指标支持价值故事。产出指标优化工作流程,而结果指标优化价值流动。
-
传达“为什么”,以激励思维转变。这些思维转变推动平台的采用,并使平台对业务产生影响。
-
向组织传达实现的价值。包括提高客户满意度、推动收入增长和减少价值实现时间。
-
调整和迭代。
Bhat 对这个主题的处理方式对那些需要将高层概念转化为行动项列表的人很有帮助。通过使用这个框架,平台工程师可以更好地了解他们在超越开发者之外为业务带来的价值。
很高兴能听到一些先锋平台团队讲述他们平台工程之旅的起伏。平台故事专题旨在展示从初始步骤到在整个组织范围内构建和推出平台的从业者和过程。
在“ Adobe 在构建内部开发者平台的旅程”中,产品经理 Rohan Kapoor 分享了 Adobe 平台团队如何为超过 5,000 名开发人员构建一个内部开发者平台。他解释了 Adobe 的云平台 Ethos 在为产品团队提供韧性、可靠性和强大的 CI/CD 能力方面的重要性。基于这个基础, Kapoor 的团队希望扩展成为一个公司范围的内部开发者平台,以简化安全性、基础设施供应、监控、诊断等方面的工作。
Kapoor 还分享了他们在平台旅程中的关键经验教训,包括:
将内部开发者视为客户。这个原则是一个常见的主题,但值得再次强调。 Kapoor 详细阐述了在培训中关注开发者的生产力、准备平台的市场推广以及与用户之间保持持续沟通的必要性。
-
早期建立成功的基准。为平台团队设定切实可行的目标,并坚持实现这些目标。可以通过目标与关键结果、指标表现、特性、技术文档或调查问卷等方式实现。
-
可能需要重新校准以产生影响。对于一个内部开发者平台来说,灵活性和适应性同样重要。 Kapoor 解释了为什么战略性的权衡可能是必要的,以及团队如何接受变化。
-
没有采用,就没有平台。证明内部开发者平台的价值是一个持续的过程。平台团队应继续优先考虑鼓励采用的特性。
-
在“A Lawyer and an Engineer Walk into a Bar and Talk Open Source”中,Northwestern Mutual Life Insurance 的高级工程总监 Ravi Devineni 和助理总顾问 Shantanu Singh 探讨了在他们组织中使用开源软件所带来的利益和缺点,并讨论了他们从这个过程中学到的教训。
优点|
缺点|
法律视角|
第一原则。开源技术源于社区开发的精神,并通过协作文化逐渐成熟。|
权利要么存在,要么不存在,通常不能购买。此外,开源项目对所需权利的关注主要驱动着包含哪些内容,而不是商业激励。|
客户体验优先于金融产品。使用开源技术可以满足消费者对引人入胜的数字体验的需求。|
许可权是财产权。开源之所以与众不同,是因为它始于包容而非排斥的原则。|
工程视角|
更快的上市时间|
安全威胁|
成本效益|
可信度|
透明度|
依赖项、更新和修补的复杂性|
社区的力量|
支持|
招聘和建立人才储备|
它真的是免费的吗?|
根据 Devineni 和 Singh 的说法,解决这些权衡的方法是对正在使用的开源软件及其使用位置进行监控。这使得组织可以在开源漏洞出现时了解其对组织的影响范围。然后,组织可以获取软件材料清单。他们还可以将软件依赖项的安全扫描嵌入 CI/CD 流程中,或创建屏蔽列表以降低风险。关键是要了解所使用的开源产品和许可证。有了这种了解,平台团队可以更好地了解特定业务功能对组织的风险。
他们还分享了一些建议给律师。 Devineni 和 Singh 建议远离书面法律分析,转而将法律要求转化为产品功能。例如,律师可以考虑公司对开源使用的风险容忍度,并将相关风险作为检测变量传递给扫描工具,无论是许可证风险还是漏洞检测。
他们的经验要点是,企业必须制定开源政策,组织应建立健全的开源治理计划并努力自动化繁琐的任务,法律应成为 DevOps 的一部分。对于金融服务、保险和医疗保健等高度监管的行业的平台工程师来说,这次讲座是必看的。
PlatformCon 2023 将全球社区与一些具有改变游戏规则的平台工程领导者和见解联系在一起。该会议扩展了一些熟悉的讨论,例如如何推销 IDP 的商业价值以及如何成功地将平台视为产品。它还首次亮相了一些急需的 IDP 参考架构。数字证明了一切:平台工程是未来。
如果您错过了今年的盛会,不要担心。PlatformCon 2023 的所有演讲都可以在 Platform Engineering YouTube 频道上找到。您可以将本文作为指南,深入研究我们精选的专题,或自行探索。无论您走到哪里,我们都很高兴您成为社区的一部分。 | https://yylives.cc/2023/07/01/platformcon-2023-bigger-and-even-better/ |
对平台工程感到陌生吗?尝试一个简洁的自助服务层
在不创建复杂的新设置的情况下证明你的平台价值。
翻译自 New to Platform Engineering? Try a Thin Self-Service Layer 。
随着越来越多的公司评估是否应该投入平台工程,其中最大的问题之一是从何处开始。着手构建一个内部开发平台可能是一项艰巨的任务:云原生计算基金会的白皮书中列出了 13 个能力,涵盖了从开发环境和 API 到可观测性和制品存储等方面。因此,了解要构建的内容本身就是一项任务。
这就是为什么建议将你的平台视为一个不断发展的产品,而不是一个有终点的项目。然而,并非每个人都有幸能够从一开始就组建一个完整的产品团队来进行内部项目。那么应该怎么办呢?
Legal-tech 初创公司 Relativity 通过一个自助服务操作,将一个需要数周时间的流程缩短为几个小时,将其平台推向了大联盟。团队没有重新架构基础设施和服务,而是在现有平台之上创建了内部开发者门户作为一个简洁的层。
通过在现有基础上添加一个简洁的层,实现自助服务功能,是验证你的平台潜力并迅速产生价值的好方法。这种精益方法的好处是双重的:你为开发人员提供了实实在在的价值,推动了你的平台的有机采用。而且你可以向利益相关者提供具体数据,为更大的项目奠定基础。
在请求基础设施时,开发人员与 DevOps 之间的工单交互是平台工程的核心承诺之一。但是自助服务能力不仅仅是授予资源访问权限。自助服务通常是提供黄金路径的理想途径,可以帮助巩固实践并减轻开发人员的认知负担。
为开发人员提供选择自己工具的自主权可以提高其创造力和生产力。然而,在一个不断向左移动的世界中,这意味着开发人员必须找出如何将 CI/CD、QA、安全性和其他关注点整合到他们的代码库中。另一方面,这种动态导致了需要支持碎片化技术栈的 DevOps 和系统管理员。双方最终会一次又一次地重新发明轮子,增加安全和合规风险,并最终面临过度劳累的问题。
自助服务能力可以缓解开发人员和运维人员的这种情况。通过黄金路径,开发团队可以获得构建应用程序的可靠方式,并专注于开发业务价值,而不是重写部署设置。此外,专注于提供内置最佳实践的自助服务能力是有意义的,否则你可能面临大量低性能应用程序和资源的问题。
在面向对象编程中,facade 模式用于将复杂的结构抽象在一个公开有限和范围功能的类后面。在某种程度上,开发人员和 DevOps 使用的工单系统就是 facade 模式的一个例子:平台的复杂性被掩盖在一个委婉的聊天背后。
相反,可以使用基于 Backstage 的开发者门户作为平台的 facade 。开发者门户可以提供多种好处,但我只想专注于自助服务的动力:软件模板。
Backstage 中的软件模板(也称为脚手架)使用类似于 GitHub Actions 的语法,使用 YAML 编写。它们允许你定义用户必须填写的输入,以便运行模板,然后指定要执行的步骤。通常,你可以通过复制一个样板库或代码片段开始,然后在多个云服务中运行操作,例如在 PagerDuty 中注册服务或执行 Terraform 脚本。
即使你自行托管,使用 scaffolder 启动 Backstage 也可以很简单,而且通过 Roadie.io 等托管的 Backstage 解决方案可以更加轻松。通过脚手架,你可以为开发人员提供一个统一的入口点,以查找自助服务选项,甚至可以让 DevOps 将他们的流程集成到一个统一的用户界面下。
通过脚手架将各种工具整合到一个统一的门户中是一个相对低成本的举措。你不需要庞大的预算或面临复杂的技术问题才能开始。你将在定义和实施特定自助服务操作时遇到最多的工作和挑战。
第一步是确定低悬果实:哪些流程对于开发人员和运维人员而言造成了最大的困扰?如果你无法对你的软件交付生命周期进行正式的用户体验研究,花些时间与开发人员交流,找出摩擦点。
一旦你选择了一个对软件模板有重大影响的使用案例,就开始与所有相关方进行协商。你将发现自己在旅程开始时要处理重大的内部政治问题。毕竟,“黄金路径”对基础设施、可靠性、安全性、法律以及其他相关团队来说意味着不同的东西。
重要的是要提供一个足够健壮的自助服务操作;你不希望人们生成复杂的应用程序或配置错误的资源。建立合理的标准和基线政策,使团队在部署到生产环境时感到满意,并使开发人员轻松自如。
然而,要注意不要过度规定。如果你试图推动一个过于严格的模板,开发人员可能会完全避免使用它。此外,你不可能涵盖组织中的所有用例,因此确保开发人员可以自定义如何使用你的模板。
将 Backstage 的脚手架设置为抽象你基础设施复杂性的简洁层,可以是向开发人员和利益相关者证明你的平台价值的一种资源有效的方式。
Lunar Bank 就是这种模式的一个例子。这家广受欢迎的斯堪的纳维亚银行使用脚手架作为开发人员请求资源的独家接触点。在 Lunar ,开发人员甚至无法创建 GitHub 仓库,而不使用确保金融机构需要的严格合规级别的软件模板。
开始自助服务的一种方式是确定一个减少开发人员和运维人员摩擦的使用案例。然后,采取外交角色,就安全性、运维、基础设施和其他需要为生产发布做出贡献的团队的黄金标准达成一致。
一旦得到所有人的认可,将这个共同决定作为一个软件模板在 Backstage 中实施,并向你的开发人员提供。内部开发者倡导会起到很大的作用!向他们展示你知道他们的困境,并为他们解决问题努力。请记住,正确实现自助服务能力是一个迭代的过程,所以一定要听取开发人员的反馈。 | https://yylives.cc/2023/07/13/new-to-platform-engineering-try-a-thin-self-service-layer/ |
第一次平台工程线下 Meetup 之旅
今天我有幸参加了 Platform User Group 组织的第一次平台工程线下 Meetup。当听到讲师们谈论自己关注的话题时,我感到非常有共鸣。现在也不必羡慕 PlatformCon 了,希望未来能有更多的交流机会。
有关议题的详细内容,请大家查看平台工程公众号的文章。
议题一:Laf 云开发平台及其实现原理
-
议题二:构建一站式 Serverless 化体验的平台工程实践
-
议题三:基于云原生范式构建可"无限"扩展的内部开发者平台
-
议题四:基于 KusionStack 的平台工程实践
-
今天大部分的嘉宾都来自“大厂”,经过多年的积累,他们依然保持着 DevOps 意识,并将其延伸到了平台工程领域。
大家对于 GitOps 和 IaC 都有丰富的实践经验。不仅深入使用了 Terraform 这样的工具,还针对之前工具的不足提出了 KusionStack 框架,据说已经在蚂蚁金服广泛应用。
当我听到火山云的嘉宾谈论 Backstage 时,我立刻产生了兴趣,并询问了有关国际化和用户界面的问题,发现大家都面临着相同的困扰。火山云针对这个问题,在没有改变底层逻辑的基础上,改进了 Backstage 的界面。在这方面,火山云的嘉宾表示希望有机会回馈社区,例过开源这个界面。
本次 Meetup 的嘉宾背景比较相似,可能会遇到相对单一的问题,所以碰撞出的火花可能还不够多。希望未来能邀请来自不同行业、不同背景的嘉宾一起讨论,这样会产生更好的效果。我也希望能更深入地参与这类活动,并通过这个平台结识更多志同道合的朋友。 | https://yylives.cc/2023/07/15/first-pug/ |
DevOps 已经胜利,平台工程师万岁
又一个体现Kubernetes成熟的迹象是,平台工程团队正在向用户推广自助式云操作模型。
翻译自 DevOps Has Won, Long Live the Platform Engineer 。我们的平台工程师们正在实现本文所说的目标。
在软件开发的世界中,DevOps 的概念取得了如此成功,以至于谈论它作为一种实践似乎已经过时。但是,尽管现在可能是宣布 DevOps 这一旧概念已经消亡的时候,但这更多地反映了它的成功,而非它的衰落。
十年前,DevOps 是一种文化现象,开发人员和运维人员联合起来,形成了一个共同的联盟,打破了各自的壁垒。快进到今天,我们看到 DevOps 在平台工程的兴起下进一步形式化。在平台工程的框架下,DevOps 现在拥有预算、团队和一套自助式工具,以便开发人员可以更直接地管理运维。
平台工程团队提供了使 Kubernetes 成为自助式工具的好处,增强了数百名用户的开发效率和速度。这是 Kubernetes 成熟和普及的又一个迹象。根据 Gartner 的预测,在未来三年里,五个软件工程组织中就会有四个利用平台团队来提供可复用的应用交付服务和工具。
随着开发人员数量从几百人增加到数千人,应用程序不断增多,旧的中间件概念——一种基于工单的应用程序服务器,但始终处于待命状态——现在被平台工程所取代,为开发人员提供自助式模型。
这为什么很重要:在 DevOps 的尴尬青少年阶段,进行了大量实验和部署新技术,但这些技术还没有融合。现在,现代应用程序已经稳定下来,使用容器和存储,网络和安全性运行在 Kubernetes 中,采用云原生方式。
开发人员不再使用工单系统。他们期望使用弹性基础架构,并通过由平台工程师维护和运行的平台来使用和部署。这种成熟转变改善了响应能力。开发人员可以快速对他们正在开发的应用程序进行更改,并非常迅速地将应用程序推向生产环境。由于开发人员负责,开发和部署所需的时间大大减少。
Portworx 使 T-Mobile 将应用程序部署时间从 6 个月缩短到几小时。与 T-Mobile 一样,企业有数千名开发人员需要“自助式”或按需访问存储和数据服务,平台工程团队努力以大规模交付这些服务。
作为 IT 的替代品,平台工程团队依托于两组技术——云原生技术和现代数据库和数据服务,例如 Postgres、Redis、Cassandra、Kafka,甚至像 Spark 这样的流媒体服务,都由平台团队以服务形式提供给开发人员。
平台工程师提供的关键服务,否则用户需要越来越多的 Kubernetes 专业知识,包括 Kubernetes 发行版本身,无论是 OpenShift 还是 Google Kubernetes Engine (GKE) 或 Elastic Kubernetes Service (EKS) 或 Rancher 。安全性是另一个重要服务,例如 Prisma Cloud 或 Sysdig 等平台。
另一个服务是关于 Kubernetes 的数据管理——管理存储资源、备份、灾难恢复以及 Kubernetes 下方的数据库和数据服务。在 Portworx 中,我们亲眼目睹了这些效率,我们的几个客户只需雇用少数平台工程师即可服务数百名用户。
使 Kubernetes 无形化 — 关注“是什么”而不是“如何”
当一种技术变得普遍时,它开始变得更加隐形。以半导体为例。它们无处不在。它们从微米级进步到纳米级,从五纳米降至三纳米。我们在遥控器、手机和汽车中使用它们,但芯片是无形的,作为终端用户,我们不再思考它们。
Kubernetes 也是如此。在企业中,Kubernetes 正嵌入到越来越多的东西中,而自助式范式使得对用户来说 Kubernetes 变得无形。在过去的 DevOps 中,每个开发人员都需要了解 Kubernetes 。现在,开发人员需要使用它,但只有平台工程师真正需要了解它。
平台工程为开发人员带来了美妙的礼物,他们不再必须在日常工作中费力去看和理解 Kubernetes 的细节。随着 Kubernetes 的不断发展,它有助于缩小持续存在的技能差距,并为公司的创新能力和保持竞争优势做出有意义的贡献。 | https://yylives.cc/2023/07/24/devops-has-won-long-live-the-platform-engineer/ |
SRE vs. DevOps? 成功的平台工程需要两者兼备
对比它们的差异,各自的作用,它们如何造福业务,并解释为什么组织需要同时拥有这两者以取得成功。
翻译自 SRE vs. DevOps? Successful Platform Engineering Needs Both 。
谈及云原生计算和数字化转型时,经常会涉及到两个行业术语:Site Reliability Engineering (SRE) 和 DevOps 。它们通常被对立地提及:SRE vs. DevOps。但这种观点是错误的。
为了在云原生世界取得成功,组织需要同时拥有 DevOps 和 SRE 。此外,团队在进入云原生领域时还需要第三个要素来确保转型的成功:一个平台工程团队。
因此,了解每个术语的定义,它们之间的区别,它们的作用和对业务的好处,以及为什么组织需要同时拥有这三个要素以取得成功非常重要。
DevOps 是一种软件方法论,也是一种 IT 文化。它将软件开发和 IT 运维相结合,通过优化软件和服务交付,旨在更高效地构建软件,并尽可能利用自动化来推动更快的高质量软件部署。其总体目标是使系统变更变得更容易,并依赖持续改进而不是大规模改进计划。
DevOps 的文化意义来自于它对不同团队之间增强合作和沟通的强调。开发人员、运维人员、质量保证(QA)专业人员和安全专家一起使用自动化工具,加快和规范开发流程。这些团队还使用 CI/CD 技术,尽可能快速可靠地测试、集成和部署软件变更。
传统的软件开发实践,如瀑布模型,通常非常缓慢,并可能导致开发人员和运维团队之间的冲突。在引入 DevOps 之前,开发团队可能在运维完成质量保证和安全检查之前就已经开始新项目的开发。开发和运维之间的组织壁垒阻碍了协作以解决问题,而更多地促使相互指责。这让企业客户和其他利益相关者对等待应用程序投入生产的过程感到不满。
DevOps 还解决了传统开发环境中的测试问题。如果没有严格的测试,软件中的错误可能会被忽略,导致关键生产系统的非计划停机、用户的沮丧,甚至收入损失。通过 CI/CD , DevOps 能够较早地实施测试,避免在最后一刻匆忙测试和发布应用程序。
安全是另一个重要问题。DevOps 将持续的安全审计作为开发过程的一部分,以在恶意行为者利用漏洞之前识别和解决安全漏洞。
DevOps 文化的一些优点包括:
更快的上市时间:通过简化开发流程并消除瓶颈,DevOps使组织能够更快地将新产品和功能投入生产。
-
改进协作:团队合作有助于减少隔阂,并改善组织内的沟通。
-
更好的质量:通过测试和部署自动化,DevOps可以减少错误数量,提高软件的整体质量。
-
提高效率:自动化通过减少重复任务和手动干预来加快速度。
-
更高的可扩展性:DevOps提供了一个框架,用于构建支持快速增长业务的可扩展和弹性的软件。
-
Site Reliability Engineering(SRE)是将软件工程应用于运维的一种学科,用于构建和维护高度可靠和可扩展的应用程序。SRE 起源于 Google ,但现在已在技术行业广泛应用。
SRE 的理念之一是“每次故障都是学习的机会”,因此工程师必须找到问题的各种因素,并在系统级别进行调整,以确保该问题不会再次出现。
首要任务是通过快速识别和解决问题来减少系统故障和停机。通过调查和事故分析,SRE 团队为 DevOps 团队构建和修改高可用和弹性的系统做出贡献。
SRE 帮助提高系统性能,以确保在生产环境中的软件满足所有内部或外部用户需求。SRE 团队还监控使用模式和容量,以确保 IT 环境能够处理预期的流量,避免过载和服务中断。
SRE 团队与 DevOps 团队密切合作,以确保问题真正得到解决。SRE 与 DevOps 之间存在持续的反馈循环,以确保问题从根本上得到解决,而不仅仅是暂时性的修补。
除了提高系统可靠性-其主要目标外,SRE 团队还有助于设计可操作的系统,这些系统不太可能出现故障或遭遇非计划停机。SRE 促进:
更快的故障处理:采用数据驱动的方法来识别问题,SRE 团队可以快速解决问题,减少故障检测和解决所需的时间。
-
高效的资源利用:SRE 团队优化资源使用,确保系统能够高效扩展,无需大量额外资源。
-
改进协作:与开发团队密切合作,确保软件从一开始就考虑了可靠性。
-
更大的自动化:SRE 团队利用自动化来减少人为错误的风险,提高效率,从而为 DevOps 和 SRE 团队节省更多时间进行更具战略性的工作。
-
平台工程是构建和维护内部软件平台的实践,包括工具、服务和基础设施,使开发人员能够有效、高效地构建、部署、运行和监控应用程序。平台工程师的目标是使开发人员专注于编写代码,而不是处理基础设施问题。
许多平台工程团队为应用程序开发指定“黄金路径”,以追求最大的可靠性、质量和开发人员生产力。黄金路径是预先设计和支持的构建和部署软件的方法。如果开发团队使用黄金路径,平台工程团队会支持生产环境,开发人员无需了解所有底层技术,从而大大加速应用程序的上市时间。
平台工程师监控整个软件开发生命周期的开发效率,从源代码到生产环境,以确保开发人员拥有所需的工具和支持,以生产最高质量的应用程序。
平台工程直接解决了开发人员的整体体验问题。开发人员变得越来越沮丧。根据最近的一项调查,DevOps 团队平均每周花费超过 15 小时在编码以外的活动上。
这包括内部工具维护、开发环境设置和流水线调试。这样的成本是巨大的。仅在美国,据 Garden.io 的估计,企业每年损失高达 610 亿美元。
管理当今云原生应用程序的复杂性让 DevOps 团队筋疲力尽。构建和运行现代应用程序需要大量的基础设施和多样化的工具组合。当个别开发人员或团队选择使用不同的工具和流程来开发应用程序时,这些工具的不一致性和不兼容性会导致延迟和错误。为了解决这个问题,平台工程团队提供了一套标准化的工具和基础设施,所有项目开发人员都可以使用这些工具来更轻松地构建和部署应用程序。
此外,应用程序的扩展是困难和耗时的,特别是在流量和使用模式随时间变化的情况下。平台工程团队通过黄金路径(或旨在快速轻松扩展的环境)和逻辑应用程序配置来解决这个问题。
平台工程还有助于可靠性。使用一组共享的、经过测试的、具有互操作性和设计用于可靠性和可用性的基础设施和工具的开发团队可以生产出更可靠的软件。
它还使开发人员能够自己访问所需的工具。开发人员不需要使用 IT 工单系统或进行有关创建新数据库的对话,而可以直接在用户界面中创建,并了解任何警报、复制和操作参数的配置。
最后,平台工程解决了以传统方式构建应用程序的高成本问题,其中开发团队购买各种广泛的工具和环境,通常功能有所重叠。通过标准化和自动化,平台工程最小化了这些成本。
一个设计良好的开发平台,配备经过测试和优化的黄金路径,帮助开发人员通过预构建的组件和基础设施更快地构建和部署应用程序。这减少了从头开始构建和配置这些组件所需的时间和精力。其他好处包括:
标准化和一致性:平台工程提供一套标准的工具和基础设施,确保所有构建在该平台上的应用程序都是一致的,并符合相同的质量标准。
-
可扩展性和灵活性:平台工程团队提供的环境使开发人员能够快速、轻松地部署和扩展应用程序。
-
降低运营成本:通过部署、监控和扩展的任务自动化,平台工程释放出 DevOps 团队的时间,让他们专注于更具战略意义的工作。
-
改进应用程序的可靠性和可用性:平台工程团队提供一套共享的工具和基础设施,专门设计用于高可用性和全天候访问。
-
Puppet 2023年《DevOps 状况报告》发现,平台工程增加了 DevOps 成功的可能性。
进入云原生世界的组织必须采取不同的方法,以获得转型性的结果;云原生问题需要云原生解决方案。
通常,第一步是采用 DevOps 文化,如果他们尚未拥有。但是 DevOps 在转型和在云原生环境中运作时需要支持。SRE 和平台工程团队提供了这样的支持。
也许只有两个团队,甚至只有一个团队,也许可以应付,但是一个希望将一些或全部工作负载现代化到云原生的组织应该考虑建立这三个团队。
DevOps:负责应用程序的整个生命周期,从源代码到生产,以及在生产后修改和增强应用程序。
-
SRE:主要关注应用程序的可扩展性、可靠性、可用性和可观W测性。当应用程序的性能或可用性处于风险状态时,该团队通常处于危机管理模式。
-
平台工程:定义仍在发展中,但是平台工程的角色是设置标准化的工具和流程,以加速从单块到基于微服务的云原生计算的转型过程。
-
每个团队都有特定的角色和目标,但是这三个团队共同合作,以确保业务能够根据行业最佳实践提供云原生应用程序和环境。
引入 DevOps、SRE 和平台工程团队可以促进云原生的采用,并在这些团队对其云原生应用程序和云环境拥有完整的可见性时取得成功。这是通过新一代的监控和可观测性解决方案实现的。
云托管的监控和应用程序性能监控(APM)是诞生于云原生之前的,这是一个具有完全不同前提的世界。难怪它们在云原生架构中面临挑战。像 Chronosphere 这样的云原生可观测性解决方案,为现代数字化业务和可观测性而构建,可以将这三个团队联系在一起。
通过云原生监控和可观测性,Chronosphere 提供了对整体指标使用情况的更多可见性,并具备设置快速增长服务的配额的能力,使组织能够灵活控制整个应用程序生命周期。 | https://yylives.cc/2023/07/24/sre-vs-devops-successful-platform-engineering-needs-both/ |
团队拓扑(Team Topologies)
翻译自 Martin Fowler 大师的 TeamTopologies 。
任何大型软件项目,比如为大公司开发的软件体系,都需要很多人的参与。而一旦有很多人,就需要考虑如何将他们分成有效的团队。形成以业务能力为中心的团队有助于软件项目对客户需求作出响应,但所需技能的范围常常使得这样的团队难以应付。Team Topologies 是由 Matthew Skelton 和 Manuel Pais 开发的描述软件开发团队组织的模型。它定义了四种团队形式和三种团队交互模式。该模型鼓励健康的交互方式,使以业务能力为中心的团队在提供有价值的软件时能够蓬勃发展。
该框架中的主要团队类型是流程对齐团队(stream-aligned team),这是一个以业务能力为中心的团队,负责一个业务能力的软件。这些团队运行时间较长,将自己的努力视为提供增强业务能力的软件产品。
每个流程对齐团队都是全栈和全生命周期团队:负责前端、后端、数据库、业务分析、功能优先级、用户体验、测试、部署、监控——整个软件开发过程的全部方面。他们以结果为导向,专注于业务成果,而不是以活动为导向,专注于特定功能,比如业务分析、测试或数据库。但是团队也不应该太大,理想情况下,每个团队应该是一个“两个披萨”的团队。一个大型组织将拥有许多这样的团队,虽然它们需要支持不同的业务能力,但它们有共同的需求,比如数据存储、网络通信和可观测性。
像这样的小团队需要找到方法来减少认知负担,以便他们可以专注于支持业务需求,而不是(例如)数据存储问题。实现这一目标的一个重要部分是建立在一个能够处理这些非核心问题的平台上。对于许多团队来说,这个平台可以是一个广泛可用的第三方平台,比如用于数据库支持的 Ruby on Rails 。但是对于许多产品来说,并没有单一的现成平台可供使用,一个团队将不得不找到并整合几个平台。在一个较大的组织中,他们将不得不访问一系列内部服务并遵循企业标准。
这个问题可以通过为组织构建一个内部平台来解决。这样的平台可以整合第三方服务、几乎完整的平台以及内部服务。《Team Topologies》将构建这样一个平台的团队(很不富有创意但很明智)划分为平台团队。
较小的组织可以与一个单一的平台团队合作,该团队为外部提供的产品集提供了一个薄薄的层。然而,较大的平台需要比“两个披萨”团队更多的人。因此,作者们开始描述由许多平台团队组成的平台组合。
平台的一个重要特点是它被设计成在大多数情况下以自助方式使用。流程对齐团队仍然负责其产品的运营,并在使用平台时直接与平台团队进行简单的协作,而不期望进行复杂的合作。在《Team Topologies》框架中,这种交互模式被称为 X-as-a-Service 模式,其中平台作为流程对齐团队的服务。
然而,平台团队需要将它们的服务构建为产品本身,并深入了解客户的需求。这通常需要使用另一种交互模式,即协作模式,在构建该服务时进行更密切的合作。协作模式是一种更为密集的合作方式,并应被视为一种临时方法,直到平台足够成熟,可以转入 X-as-a-Service 模式。
到目前为止,这个模型没有表现出特别创新的东西。将组织分解为业务对齐团队和技术支持团队的做法早已是企业软件的老生常谈。近年来,很多作者都强调了让这些业务能力团队负责全栈和全生命周期的重要性。对我来说,《Team Topologies》的亮点是专注于问题,即让业务对齐团队在全栈和全生命周期的情况下,往往面临过多的认知负担,这与构建小而敏捷的团队的愿望相冲突。平台的关键好处在于它减少了这种认知负担。
《Team Topologies》的一个关键洞察是平台的主要好处,也就是减轻流程对齐团队的认知负担。
这一洞察具有深远的影响。首先,它改变了平台团队对平台的看法。减轻客户团队的认知负担导致不同的设计决策和产品路线图,与主要用于标准化或降低成本的平台截然不同。除此之外,这一洞察还使《Team Topologies》进一步发展,通过确定另外两种团队类型。
有些能力需要专家,他们可以花费大量时间和精力来掌握对许多流程对齐团队都很重要的主题。与作为流程对齐团队成员时可能的情况相比,安全专家可能会花更多的时间研究安全问题并与更广泛的安全社区进行交流。这些专家聚集在“使能团队”中,他们的角色是在其他团队内部培养相关技能,以便这些团队保持独立,更好地拥有和发展自己的服务。为了实现这一目标,使能团队主要使用《Team Topologies》中的第三种交互模式。促进模式涉及一种辅导角色,使能团队的目标不是编写和确保符合标准,而是教育和辅导同事,使流程对齐团队变得更加自治。
流程对齐团队负责为其客户提供的所有价值流,但有时我们会发现流程对齐团队的某些工作非常复杂,需要一个专门的团队来专注处理,从而形成第四种类型的团队:复杂子系统团队。复杂子系统团队的目标是减轻使用该复杂子系统的流程对齐团队的认知负担。即使只有一个客户团队使用该子系统,这也是一种值得的分工。通常,复杂子系统团队努力以 X-as-a-Service 模式与其客户进行交互,但在短期内可能需要使用协作模式。
《Team Topologies》包括一组图形符号来说明团队及其关系。这里展示的图形符号与书中使用的图形符号有所不同。最近的一篇文章详细介绍了如何使用这些图表。
《Team Topologies》明确地承认了康威定律的影响。它鼓励的团队组织方式考虑到人与软件组织之间的相互作用。《Team Topologies》的支持者希望其团队结构能够塑造软件架构未来的发展方向,使其能够与业务需求相适应,具有响应性并且解耦。
George Box 曾经巧妙地说过:“所有的模型都是错误的,但有些是有用的。”因此,《Team Topologies》是错误的:复杂的组织结构不能简单地归结为只有四种团队和三种交互方式。但是,正是这些限制使得模型变得有用。《Team Topologies》是一种工具,它推动人们将自己的组织发展成为一种更有效的运营方式,使流程对齐团队通过减轻认知负担来最大化其流程。
Andrew Thal, Andy Birds, Chris Ford, Deepak Paramasivam, Heiko Gerin, Kief Morris, Matteo Vaccari, Matthew Foster, Pavlo Kerestey, Peter Gillard-Moss, Prashanth Ramakrishnan 和 Sandeep Jagtap 在我们的内部邮件列表上讨论了这篇文章的初稿,并提供了宝贵的反馈意见。
Matthew Skelton 和 Manuel Pais 友善地对本文提供了详细的评论,包括分享自书籍出版以来的一些最新思考。
关于《Team Topologies》框架的最佳介绍是同名书籍,该书于 2019 年出版。作者们还维护着《Team Topologies》网站,并提供教育和培训服务。他们最近发表的关于团队交互建模的文章是一个很好的入门,介绍了《Team Topologies》元模型如何用于构建和演化组织的模型。[1]
《Team Topologies》的许多内容都基于认知负荷的概念。作者们在 Tech Beacon 上探讨了认知负荷。Jo Pearce 则进一步阐述了认知负荷在软件开发中的应用。
《Team Topologies》中的模型与我在本网站上发表的关于软件团队组织的思考相契合。你可以在“ team organization ”标签下找到这些内容。
1:为了在建模术语上更为严谨,我会说《Team Topologies》通常作为一个元模型。如果我使用《Team Topologies》来构建一个航空公司软件开发组织的模型,那么该模型将根据《Team Topologies》的术语对航空公司的团队进行分类。然后我会说,《Team Topologies》模型是我对航空公司模型的一个元模型。 | https://yylives.cc/2023/07/26/team-topologies/ |
开发者自助服务的五大挑战(及解决方案)
自助服务是开发者更快、更好地创新的方式,同时也降低了企业的风险。在设置内部开发者平台(IDP)时,以下是应该做和不应该做的事情。
翻译自 5 Common Developer Self-Service Challenges (and Solutions) 。
如何让开发者实现自助服务?
这是越来越多企业正在寻求答案的问题,因为它们正在拥抱开发者自助服务,或者有时被称为平台工程,以最大化提高软件工程师的生产力和工作满意度。对于已经拥抱 DevOps 的组织来说,开发者自助服务代表着下一个进化步骤,因为它可以帮助开发团队更高效地实施 DevOps 实践。
启用开发者自助服务最明显的解决方案似乎是部署所谓的内部开发平台,或 IDP 。越来越多的 IDP ,比如开源产品 Backstage 和 Atlassian Compass ,以及其他受欢迎的例子,都可以帮助企业按需为开发团队提供多样化的技术解决方案。
IDP 无疑是有效的开发者自助服务策略的一部分。然而,实现开发团队的自助服务功能比仅仅部署一个自助服务平台并宣告完成要复杂得多。企业还需要解决一些需求,比如长期维护平台、更新以跟上不断演进的云技术、管理质量等等。如果事先不考虑这些挑战,可能会部署一个内部开发平台,其提供的价值远远达不到最大潜力。
为了证明这一点,我想简要介绍一下我在开发者自助服务项目中与企业合作时遇到的五个主要挑战,以及如何应对它们的建议。
在深入探讨挑战之前,让我们了解一下开发者自助服务的含义以及它为开发人员和企业带来的好处。
简而言之,开发者自助服务是一种模式,其中软件工程师可以创建所需的服务和环境,而无需等待或请求 IT 部门设置解决方案。通常,开发人员可以使用企业自助服务平台来提供各种现成的、官方支持的解决方案,比如允许开发人员快速简单地启动 Kubernetes 集群,或者使用经过批准的工具创建 CI/CD 流水线等服务。
当开发人员能够迅速获取所需资源时,他们可以更高效地工作,无需因为官僚程序而导致工作流程受阻。这不仅提高了工作满意度,还加速了企业的创新。
开发者自助服务还有助于减轻“影子 IT ”(指开发人员未经官方许可而创建的资源)带来的风险。如果企业允许开发者自助服务并提供现成的开发者解决方案,软件工程师就不再需要创建符合企业 IT 政策的定制服务和环境,而且这些定制服务通常未经管理和安全措施,因为 IT 部门不知道它们的存在。
此外,开发者自助服务模式有助于扩展常常短缺的专业劳动力。例如,许多企业的 Kubernetes 专家很少。通过让这些专家创建开发者可以按需启动的 Kubernetes 解决方案,企业可以让专家更高效地工作,因为专家不必为每个开发团队或需求创建一个定制的 Kubernetes 环境。
而对于不了解 Kubernetes 的开发人员,也无需花费大量时间尝试创建环境。相同的逻辑适用于网络工程师、系统管理员和其他类型的专家,他们的知识在企业中需求量很大。
总之,开发者自助服务是开发人员更快、更好地创新的一种方式,同时也降低了企业的风险。
决定为开发人员提供自助服务平台是一回事,确保该平台提供其应该提供的价值又是另一回事,由于以下挑战的存在。
创建一个良好的自助服务开发者解决方案最常见的挑战可能是解决方案实际上并未解决开发人员的痛点。
这可能是因为设计和构建自助服务平台的人并不总是开发人员,或者并不能代表企业的所有开发团队。因此,他们不了解开发人员真正需要提高生产力的东西。
缓解这一风险的最佳方法是将自助服务平台视为一个产品,并指派一个产品经理(或多个产品经理)负责。这样的方法确保有人负责根据组织中的开发人员的实际需求,评估平台应该提供的功能。否则,可能会构建听起来很有趣但实际上开发团队并不真正需要的解决方案。
确保自助服务平台符合质量要求是另一个常见的挑战。低质量的工具和服务,工具之间的兼容性问题等,都可能影响自助服务体验,削弱自助服务平台的价值。如果开发人员不得不花时间修复你提供的解决方案,那么自助服务模式就无法提供其应有的好处。
解决这个问题的一种方法是为自助服务解决方案创建自动化测试。例如,您可以编写一个自动化测试来启动平台上的一个解决方案,然后评估它是否按预期工作。如果每周运行这些测试,您将能够及早发现问题,并确保开发人员不会因为平台错误或其他问题而中断工作。
从更广泛的角度来看,将产品经理分配给自助服务问题可以帮助提高质量。产品经理可以与开发人员沟通,收集有关他们在使用平台时遇到的问题的反馈,然后监督解决这些问题。
即使您的开发者自助服务平台质量很高,如果没有人负责维护,随着时间推移它也可能会出现问题。它包含的解决方案可能会随着时间变化,导致需要通过更新来解决支持或兼容性问题。您可能还想将新的解决方案添加到平台中,这需要有维护和变更请求流程。
在这里,拥有一个产品经理将有助于确保自助服务平台得到必要的维护。最好还要有一个开发团队负责平台,以便在需要时进行更改。
一个良好实施的开发者自助服务平台将通过允许开发人员更高效地运作来节省费用。然而,与任何其他 IT 资源一样,平台本身的建设和运行都需要成本,如果您不对如何优化成本进行战略性考虑,可能会发现自助服务解决方案超出预算。
解决这个问题的方法是为您的自助服务平台制定成本管理和优化策略,就像对于任何对您的企业有重要成本影响的其他解决方案一样。换句话说,重要的是要考虑内部开发平台项目所提供的好处,以及与其相关的成本。
最后,您可能会遇到这样一个挑战:您创建了一个自助服务平台,但实际上开发人员并没有使用它,因为他们不知道它或不了解它的价值。在企业中,“建设它,他们会来”很少奏效。
避免这个问题的方法是确保您的自助服务平台确实解决开发人员的痛点。向开发人员宣传解决方案,并通过优秀的文档和部署指南使解决方案非常易于使用,也将鼓励开发人员充分利用可用的自助服务解决方案。
决定为开发人员提供自助服务解决方案是提升开发工作流程的第一步。但是,就像采用 CI/CD 流水线并不能自动保证提供 DevOps 所应提供的所有好处一样,仅仅构建一个自助服务平台并不能保证开发人员会享受到自助服务模式带来的生产力优势。
但是,当您计划好开发者自助服务的挑战时,您可以提前解决潜在的问题,并创建一个为开发团队提供最大价值的自助服务解决方案。 | https://yylives.cc/2023/07/27/5-common-developer-self-service-challenges-and-solutions/ |
平台工程成功的关键:IaC
平台工程的优势,以及成功团队用于赋予开发人员自主管理基础设施的三种主要方法的介绍。
翻译自 The Key to Successful Platform Engineering: Self-Service IaC 。
云计算一直在技术上实现了自助式服务,但在实践中,由于其复杂性,对许多开发人员而言并非如此。随着公司采用现代架构(云原生、无服务器等)和新的提供商(多云、SaaS 应用程序)以及云服务提供商发布更多的服务,使用云计算变得越来越困难。
因此,有竞争力的工程团队现在正在研究如何通过消除瓶颈,加快所有开发人员的生产力,从而将 DevOps 、站点可靠性和基础设施工程师的产出成倍增加。
平台工程提供了一种解决方案,它使开发团队能够按照最佳实践构建、部署和管理他们自己的云基础设施,并且可以按照自助服务的方式进行操作。
让我们探讨一下平台工程的优势以及成功的平台团队用于赋予开发人员自主管理基础设施的三种主要方法,以及选择一个支持所采用方法的基础设施即代码(IaC)框架的重要性。
开发人员需要基础设施来运行其应用程序和服务。传统上,许多公司都有中央基础设施团队来代表开发人员进行基础设施的供应和管理,但这种模式容易出现瓶颈,因为开发人员对基础设施的请求超过了中央团队的处理能力。
随着现代开发团队开始承担拥有和运营自己基础设施的责任,他们还需要简单且快速的方式来供应基础设施,同时遵循最佳实践。你可能会认为随着这些转变,中央基础设施团队的需求减少了,但他们在使开发人员和公司在这个新世界中取得成功方面扮演着至关重要的角色。
虽然开发人员日益更多的负责管理基础设施,但期望所有开发人员深入了解云基础设施是不切实际的。
平台工程从开发人员体验的角度解决了几个问题。
首先,云计算对于大多数开发人员来说过于复杂和笨重,没有抽象和工具支持很难使用。现代的云架构,如微服务和无服务器,增加了管理基础设施的复杂性。许多公司正在在 Kubernetes 上运行应用程序。虽然开发人员日益负责管理运行其应用程序的基础设施,但期望所有开发人员深入了解云基础设施的复杂细节是不现实的。
其次,开发人员需要了解哪些基础设施资源需要供应,以及如何遵循公司确定的最佳实践,比如安全和成本问题、云区域、法规要求和批准的云提供商。在 AWS 上有超过 200 种可供选择的服务,确定正确的资源并非简单任务。
第三,开发人员需要一种简便的方式来供应、配置和管理基础设施。由于许多架构使用来自一个云的多个资源,通常还包括来自其他云或 SaaS 供应商的资源,当部署类似 Kubernetes 等复杂内容时可能会遇到挑战。
通过将基础设施管理分散到公司中,公司为开发人员带来了相当大的新复杂性。为了让开发人员能够专注于更快地发布功能,摆脱这些复杂性的需求变得更加迫切。
这就是平台工程的作用。平台团队构建共享工具和服务,帮助开发团队在自助服务的基础上开发、部署和运营云基础设施。这包括云基础设施、容器编排平台、数据库、网络、监控、代码库和部署流水线。
有效的平台团队将其服务的应用程序开发人员视为客户,通过解决他们的问题来理解和赢得他们的支持。
成功的平台团队有一些特征。其中一点是从将基础设施团队仅视为成本中心转变为业务的助推器。通常,这意味着业务授权团队执行平台工程模式的权威和资源。有效的平台团队还采用以客户为导向的思维方式,将其服务的应用程序开发人员视为必须通过解决问题的产品来理解和赢得的客户。
最后,但同样重要的是,成功的平台团队由具有多学科技能、经验和同理心的优秀工程师组成,以构建出色的产品,满足开发人员的需求,并在公司内部“上市”(推广)。通常,他们在许多工程学科上都有经验,如基础设施或 DevOps 和软件工程,以及各种职称,如软件工程师、 DevOps 工程师、站点可靠性工程师、云架构师、云工程师等。
通过为开发人员提供高效的基础设施和工具来部署和运行他们的应用程序,平台工程师使开发人员能够专注于构建优秀的软件。
广泛来说,有三种主要方法可供平台团队使用,以使开发人员可以自助式地使用基础设施。第一种是创建表示基础设施资源和配置的基础设施库,用于使用部署工具进行基础设施供应。
第二种是创建基础设施命令行界面,允许开发人员通过类似 Heroku 的熟悉 CLI 进行基础设施的供应和管理。第三种是创建基础设施平台应用程序,为开发人员提供图形用户界面来进行基础设施的供应和管理。
这些方法的共同点是标准化的架构,其中包含由平台团队定义的最佳实践,以及用于强制实施部署规则和部署的统一工作流程(代码审查、拉取请求、持续集成/持续交付、测试等)。主要区别在于开发人员与基础设施交互的
界面,所选择的方法通常取决于实现平台团队目标的最佳方式。
为了实现这些方法,平台团队需要一个支持其产品的部署框架。虽然构建自定义的部署工具可能会诱人,但更高效和功能强大的方法是采用基础设施即代码(IaC)框架。
IaC 允许工程师以与管理代码相同的方式定义和管理基础设施。这种方法带来了多种好处,包括版本控制、测试、可重用性和自动化。许多框架可供选择,有些是开源的,有些不是,可能是特定于云计算提供商的,也可能是多云的。大多数使用基于 YAML/JSON 的领域专用语言(DSL),而有些使用通用编程语言。
尽管每种方法都有其优缺点,但许多平台团队发现采用通用编程语言作为 IaC 提供了最灵活、功能强大和适应性强的方法。这些语言使得建模复杂基础设施更容易,因为它们原生支持循环和条件等结构,同时提供了熟悉和成熟的抽象和重用模型。
最后但同样重要的是,当 IaC 使用开发人员已经熟悉的语言编写时,他们更容易使用。
一个很好的采用平台工程的公司例子是 Elkjøp Nordic ,北欧地区领先的消费电子产品零售商。该公司采取了现代化策略,通过让开发团队对其服务和基础设施拥有所有权,来增加开发团队的灵活性。同时,它还希望创建安全和合规性的防护措施,以防止问题发生,同时保持开发人员的自由。
为了实现这一目标,他们建立了一个基础设施平台应用程序,使开发人员能够在 Azure 上供应基于 Kubernetes 运行的基础设施。
开发人员可以通过 Web 界面指定所需的基础设施,例如环境类型和访问权限。该应用程序将配置和供应所有必要的基础设施资源,包括为该项目设置的 GitHub 代码库。该应用程序采用了 React、TypeScript 和 Pulumi 作为 IaC 框架。Pulumi 使得公司可以在 TypeScript 中定义可重用的基础设施架构。该应用程序还使用了 Pulumi 的自动化 API ,将 IaC 功能嵌入到应用程序中,例如在 Azure 和 GitHub 上供应、配置和销毁基础设施。
结果是,开发团队可以独立供应基础设施,而无需在平台团队上产生显著的成本,并消除供应瓶颈。同时,平台团队可以确保开发人员供应已批准的基础设施,从而降低配置错误的风险。您可以在这篇博文中了解更多关于 Elkjøp 平台工程的信息。
平台工程是一门强大且新兴的工程学科,它正在帮助公司提高开发人员的生产力,并从云计算投资中获得更多价值。通过采用以客户为中心的方法,平台工程团队使开发人员可以专注于构建优秀的软件,为他们提供满足实际需求、提高生产力的自助式基础设施工具。这些工具使得开发人员能够供应适合其应用程序的正确基础设施,并进行管理。
选择一种基础设施即代码(IaC)框架是平台工程策略的重要基础,因为它定义了如何在组织中对基础设施进行建模、测试、分发和部署。
特别是,IaC 语言的选择会影响基础设施的可用性、可重用性和扩展能力。通用编程语言提供了重大优势,因为它们已经广泛应用,比 DSL 语言更具灵活性和表达能力,并且附带了丰富的工具和框架生态系统,提高了生产力。 | https://yylives.cc/2023/08/01/the-key-to-successful-platform-engineering-self-service-iac/ |
通过 Backstage 确保你的软件供应链安全
一个内部开发者门户可以帮助您整合和演化您的安全策略。
翻译自 Secure Your Software Supply Chain Through Backstage 。我们的团队目前刚刚完成了 Backstage 与 ArgoCD 的集成,感觉很不错。
图片来自 Shutterstock 的 Alberto Andrei Rosu
现今的软件很少从零开始编写。根据 Forrester 的数据,平均而言,至少有 75% 的开源代码构成了软件的组成部分。此外,团队严重依赖第三方代码。因此,您投入生产的代码来自不同的来源,并通过各种网络和参与者传输到目标地。这被称为软件供应链。
在过去几年里,由于严重攻击,软件供应链引起了极大的关注。在美国,联邦政府甚至为州立承包商发布了软件供应链指南。
正如 Cloud Native Computing Foundation(CNCF) 安全工作组所述:“供应链需要多个关联的流程,供应链安全依赖于对每个流程的验证和验证。”因此,为了在开发生命周期的每个步骤中采用安全实践,公司通常采用 DevSecOps 方法。
自动化是确保供应链安全的关键因素,可以减少人为错误因素,并能够处理涉及的大量参数。幸运的是,有各种工具可以帮助您通过软件开发生命周期自动化安全检查。
然而,通常您需要将不止一个工具集成到您的安全策略中。这就是内部开发者门户(如Backstage)变得至关重要的时候:
您可以在 Backstage 的目录中集成单一的安全工具界面。
-
通过 Backstage 的 Scaffolder ,您可以主动将安全供应链实践嵌入新的代码中。
-
您可以通过 Backstage 的 Tech Insights 从您的组织安全的演变中学习。
-
根据 CNCF 的说法,确保供应链安全的一个关键步骤是确保“内部的、第一方的源代码仓库……通过提交签名、漏洞扫描、贡献规则和策略执行得到保护和安全”。您需要跨不同的工具(如 GitHub 、 SonarQube 和 Snyk )实施这些措施。
您可以设置您的 Backstage 服务视图,集成各种工具,以便全面了解正在发生的情况,必要时可以深入了解细节。
要求开发人员负责保护其自己的代码库会将更大的认知负荷推给他们,并在整个组织中创建分散的安全实践。
相反,您可以为常见的服务设置提供默认安全模板。通过 Backstage 的 Scaffolder ,您可以帮助团队以合理的默认设置和最佳实践来发布应用程序和功能。
Backstage 的 Scaffolder 不仅仅为新服务提供最佳实践。您还可以为现有项目提供自助式的黄金路径,以采用您的安全工具。例如,您可以定义一个模板,通过几次点击,在开发人员的存储库中打开一个拉取请求,以便他们在其 Spring Boot 应用程序中采用 Snyk 。
当您通过目录进行所有权排序,并通过 Scaffolder 主动推动最佳实践时,下一步是了解您的整体软件供应链安全工具。
Roadie 的开源 Tech Insights 插件提供了一个框架,用于实施检查和评分卡,以审核 Backstage 实例中的安全性。一些企业的 Backstage 采用者,如惠普(HP)和 Lunar Bank ,已基于此插件实施了自己的解决方案。
然而,Backstage 的开源 Tech Insights 功能要求每个团队在管理集成、安全性和数据库的基础上,设计自己的用户界面并实施自己的数据源和检查。
完整的 Tech Insights 版本仅提供给 Roadie 的客户使用,其中包含 100 多个事实,您可以跨 GitHub、Snyk 和 PagerDuty 等数十个数据源进行检查。
据 SumUp 的工程副总裁 Martin Froehlich 表示,这家金融技术公司正在使用 Roadie Tech Insights 来促进和跟踪供应链安全和代码分析工具(如 Dependabot、CodeQL 等)在其所有生产服务存储库中的采用。
基于 Backstage 的开发者门户可以帮助您在一个集中的位置整合您的工具,以便开发人员和运维人员更容易地将安全性向左移动。您还可以通过软件模板简化流程,推动安全性倡议。您还可以跟踪您的供应链安全的演变以及实践在整个组织中的采用情况。 | https://yylives.cc/2023/08/09/secure-your-software-supply-chain-through-backstage/ |
Nitric 和基础设施自动化在平台工程中的崛起
在一个充斥着低代码的世界中,基础设施自动化的“少代码”目标在平台工程领域变得更加流行。
翻译自 Nitric and the Rise of Infrastructure Automation in Platform Engineering 。
如果您构建了一个内部开发者平台(IDP),您是选择采用低代码并雇低成本工程师,还是为高性能工程师打造呢?这引发了与 Nitric 的工程副总裁 Rak Siva 的讨论,我们讨论了低代码和平台工程的交集,特别是对于自助创业初创公司而言。
是的,现在已经是 2023 年,科技行业的每个人都在努力在更少的资源下做更多的事情。但初创公司不得不考虑从 A 轮融资到 B 轮融资需要花费更长的时间。此外,包括网络安全和 DevOps 工程师在内的许多岗位,无论经济环境如何,都很难填补,并且仍然保持着较高的薪水。
现在比以往任何时候都更需要让应用开发人员更快地为最终用户提供价值。
平台工程,这门关注减少开发人员和运维工程师的繁重工作的社会技术学科,实际上提出了一个非常有说服力的方案来实现所有这些目标。此外,在这个缺乏人手的技术裁员时期,这也是一种避免开发人员过度劳累的方式。
在内部开发平台(IDP)中利用低代码开发,或者仅通过基础设施自动化实现更少的代码,比以往任何时候都更重要。并且,由于平台预算正受到削减,与其他方面一样,将一些复杂性抽象出来,以减轻过度紧张的平台工程师的负担,也是一个不错的主意。
首先,为了讨论的需要,从 IT 部门的视角,对一些基本定义进行说明:
什么是无代码开发?当重复发生某些事情时,工程师不编写代码,比如 Webflow、Airtable 和 Bubble,这对于原型和网站特别有用。
-
什么是低代码开发?通常会构建图形用户体验来解决单一任务,Siva 指出这对原型制作很有用。低代码示例包括 BigQuery、Tableau 和 Looker 7。
-
什么是基础设施自动化?使用框架和抽象来通过较少的代码执行最佳实践。通常位于内部开发者门户后面,开发人员仍然可以选择不遵循这些黄金路径。基础设施自动化最终应导致工程师编写较少的代码。
-
这三者都声称可以帮助开发人员以更少的资源做更多的事情。但正如 TNS 的 Richard Gall 所写,低代码可能意味着开发人员需要付出更多的工作。此外,普渡大学的最新研究发现,尽管“令人恼人地可信”,ChatGPT 的代码回答在 52% 的时间里是错误的。的确,低代码可能只适合进行实验,或者可能需要使用 Kubiya DevOps 的会话 AI 等工具对内部领域需求和工作流进行培训。
对于公民开发者(即在技术业务方面工作的人员),无代码开发可能很有趣。但是对于 IT 群体而言,Siva 担心这会带来技术锁定和“承诺不兑现”。他认为低代码工具通常是特定于品牌的,而较少和低代码开发工具通常更加中立,如云无关。
此外,开发团队可以以不同的方式与平台互动。一些团队可能会采用低到无代码的便利路线来处理运营任务,同时希望对最终用户有差异化影响的步骤有更多的控制。
内部开发者平台应该像汽车经销商一样,不同的应用团队选择不同的车辆,都具有相同的品牌、基本安全性、可观察性和网络性能。每个团队都应该能够查看底层情况,了解发生了什么,但运营团队将决定哪些团队可以自动执行哪些操作,哪些团队可以采用手动方式。如果他们进行了平台团队明确不支持的操作,他们可能会自行承担风险。
正如 Syntasso 的 Abigail Bangser 所说,内部开发者平台应该处理多个团队共享的非差异性但并不重要的重复性工作。因此,开发人员如何进行差异性工作可能会因公司而异。
例如,Nitric 是一个“云感知”的开源框架,Siva解释说,它通过事件、队列、文档存储和存储桶等操作自动执行运行时的代码。他说:“我们直接从您的代码中推断基础架构,并为您自动进行配置。”
Nitric 属于较少代码的范畴,至少在较小的规模上,它可以替代 Kubernetes 编排。“如果您不使用 Nitric,您将手动编写单独的 Terraform 或任何基础架构即代码(IaC)项目,”Siva 说。Nitric 建立在 IaC 的 Pulumi 和一些 Terraform 之上,以便为云部署的最佳实践提供自动化框架。
“我之所以说‘较少的代码’,是因为在抽象出某些内容时,您基本上是采用了[最佳]实践,并使它们可复制,”Siva 解释说。“在一天结束时,最终用户编写的代码较少,因为他们正在利用您的抽象,因此他们的代码库中的重复性被剥离。”
Nitric 基于三大主要云提供商的观察到的模式——谷歌云、Azure云和亚马逊Web服务(AWS)。每个提供商都有托管服务,包括 API 网关、计算、文档存储、存储桶以及用于事件和队列的 Pub/Sub,它们的功能是相同的。这些功能通常通过基础架构即代码(IaC),如 Pulumi 和 HashiCorp 的 Terraform ,组合在一起。然后,Nitric 是在这些 IaC 的基础上构建的,允许开发人员部署到云中的存储桶,规则和策略由您的运营或 DevOps 团队设置。
托管服务被认为是组织优化其云使用和成本的最佳实践——在全球计算短缺的情况下,这更加重要。云成本仍然是环境影响的主要代理人——效率更高、托管代码的碳足迹更小。
同样更具计算效率的是,Nitric 允许开发人员在模拟云的本地运行时体验中运行其代码,因此开发人员可以编写和迭代他们的代码,而无需在准备好投入生产之前将其容器化并部署到云中。
随着代码堆栈的复杂性不断增加,软件开发人员的角色也变得越来越复杂。这一情况又因较小的团队不得不用更少的资源做更多的事情而变得更加糟糕。突然之间,开发人员可能需要了解现代软件堆栈的七个层次,包括 Kubernetes 、网络、可观察性、存储、安全性以及部署到云中。这使得他们分心,远离了他们的主要目标,即更快地为最终用户提供价值。
如今的 DevOps 成功是关于抽象,而不是阻碍和分散注意力。是护栏,而不是大门。这就是为什么成功的平台工程必须管理基本问题,同时仍然具有高度的可扩展性。内部开发者平台和周围的工具应该能够使开发团队更快地移动,而不是创建人为的障碍。在需要的地方,像请购票证这样的策略应该决定何时打开或关闭大门。
Nitric 开源框架一开始是非常有主见的,Siva 承认:“第一个版本,我们知道需要什么,所以我们将代表您进行配置,”但是任何运维团队都可以分支它,按照文档上的说明来扩展或完全更改提供者,从而更改与之相关的资源,以及如何将该存储桶部署到每个云。
例如,Nitric 的开箱即用版本部署为以无服务器方式运行的容器化 lambda 。但是,您可以修改底层的 Pulumi 代码,将提供者更改为作为 AWS 的 EC2 实例运行。
平台工程使得 DevOps 组织可以继续像一个整体一样运行,但是在开发人员和运维任务之间重新设置了一些障碍,因此开发人员不需要了解完整的堆栈。
“实际上,我们在分离关注点。开发人员说:我想在云中的某个地方运行这个执行上下文——我关心的只是它能运行,” Siva 说。“但基础设施团队可以确定如何在云中运行它,以及为实现这一目标而配置了哪些资源。通过进行这种分离,我们实际上允许人们构建自己的平台——如果他们想要的话。”
尽管在平台工程领域是一个框架,但 Nitric 专注于基础设施团队使用较少的代码来获得更多的控制。Siva说:“它使他们能够始终以相同的方式部署相同的资源,无论哪个开发团队请求它。”而且,由于并不是所有的应用团队都是一样的,“我们根据每次部署提供配置,以确定是否应该为您提供高 CPU 、低 CPU 或配置,您可以在 Nitric 中定义这些配置。”
运维工作的减少通常也意味着开发工作的减少。
“您会发现,开发团队实际上最终会参与到基础设施的供应中,无论是通过支持工单还是战斗室或其他方式,因为他们的东西在运行时通常不会工作,”他说。通过正确的平台工具,“他们不需要真正担心基础设施,因为它保证能够工作”,因为平台团队使他们“能够始终以相同的方式部署相同的资源,无论哪个开发团队请求它。”
对于刚刚开始 DevOps 之旅的自助创业初创公司,平台工程至关重要,但可能找不到或无法承担现在雇佣 DevOps 人员。
“我们正在消除创业公司所需的低级别或重复性活动,但是当真正建立了规模并且实际上实现了增长时,他们将需要一个运维人员,” Siva 说。“但是那个运维人员不会把时间浪费在琐碎的活动上。他们将把时间花在为组织提供有价值的活动上。”
在面对 DevOps 人才短缺的情况下,这在所有规模的公司中也可能是个案,开发人员不得不进行补偿并承担两个工作——他们的常规工作和运维工作,后者对他们来说成为了非差异性的重复性工作。这不仅使团队少了一个运维工作者,还少了一个开发人员。正确的平台工具链可以减轻这两种能力的负担。
对于 Nitric 框架,Siva 说:“我不认为这是消除运维团队的工具。我们希望赋予运维团队权力,并阻止他们复制和粘贴 Terraform 或执行重复性任务,让他们专注于更重要的事情,比如确保应用程序使用正确的工具,准备好进行扩展,并得到维护和运行。”
最后,较少的代码平台工程选项也可以帮助平台团队,通过抽象出 CI/CD 和基础架构供应。平台团队的演变可以从运维重点转向更多的开发人员体验,他们可以专注于为内部客户(包括软件开发和运维团队)提供业务价值驱动力。 | https://yylives.cc/2023/08/14/nitric-and-the-rise-of-infrastructure-automation-in-platform-engineering/ |
平台工程成功的六种模式
从 PlatformCon 2023 大会的演讲者那里学习平台工程的最佳实践,包括由谁构建什么,遵循哪些框架和蓝图。
翻译自 6 Patterns for Platform Engineering Success 。
图片来自 Unsplash 的 Claudio Schwarz
毫无疑问,IT 工具选择是令人不知所措的——只需浏览一下云原生计算基金会的图景,它跨越数个屏幕,充满了各种微小的图标。
《The New Stack》的出版商 Alex Williams 在 2023 年的 PlatformCon 大会上发表了观点,特别强调在平台工程社区中,“人们对于如何构建强大的内部开发者平台,如何设计架构以及使用哪些工具的指导需求很高”。
在如此众多的选择中,问题远多于清晰的答案:
自建还是购买 — 还是购买并定制?
-
选择开源平台还是私有平台?
-
如何整合现有的工具和工作流程?
-
部署在单一云、多云还是混合云,一些工作负载是否在本地部署?
-
如何在现有设置的基础上构建现代的内部开发平台[IDP]?
-
谁负责这个平台 — DevOps、运维、系统管理员还是一个平台团队?
-
如何与开发人员建立紧密的反馈循环?
-
最重要的是,你的内部开发人员实际上需要什么?
今天,我们将揭示出几种新兴的模式,并强调一些反模式,因为年幼的平台工程社会技术学科正处于发展初期。以下是来自 PlatformCon 大会关于现代平台工程蓝图的讨论的亮点,希望您和您的团队能够找到适合自己的独特方式,从而使用开发人员真正想要使用的平台。
现代组织的内部开发平台(IDP)是什么?这是一个没有明确答案的关键问题。
在讨论中,荷兰电子商务公司 Bol.com 的平台工程师 Anastasija Efremovska 表示:“这与你所谈论的公司非常具体相关。较小公司的用户界面模板或蓝图效果非常好,但一旦涉足企业,你确实需要更多样化的方法。”
随着规模的扩大,您需要为不同的技能和工程师类型提供支持,很可能还必须满足更多的合规性和安全性需求。所有这些都可以转化为从蓝图到CLI的IDP,可能是任何事物。
“我们对于 ID 的第一印象是有一个用户界面,我们正在为新的服务或资源提供支架,”Humanitec 的 CEO Kaspar von Grünberg 说道。但他补充说:“那只是整体中的一小部分,而且聚焦有点狭窄。”
Von Grünberg 认为,IDP 蓝图必须考虑应用程序的整个生命周期。
他说:“我真的认为你不能将这归结为工具,因为企业的现实是多 CI、多注册表、多一切。因此,并没有适用于平台工程的工具集,而是看你如何将它们结合起来。”
对于 Von Grünberg 来说,现代参考架构包括五个层面:
开发者控制平面:版本控制系统与基础设施即代码,可能还包括工作负载规范或开发者门户,比如 Backstage ,不同的个人组与整个平台互动。
-
集成和交付平面:接受开发者的请求,并将它们与平台的基线配置同步。其中包括 CI/CD 流水线、镜像注册表和平台编排器。
-
资源平面:云或云、数据库、集群。
-
监控、日志记录和可观察性平面。
-
安全平面:例如策略层和机密管理。
-
对于 Von Grünberg 来说,这些的组合就是内部开发者门户背后的东西。然后,您选择哪些工具来交付这个平台堆栈将取决于团队和组织的复杂性。
什么是平台工程师?这是一个经常被搜索的短语,因为坦率地说,很多组织都在匆忙地以名义上采用平台工程。有时,人力资源部门只是将职位标题从系统管理员、DevOps 工程师或站点可靠性工程师(SRE)更新为“平台工程师”。
问题的一部分在于,当您的组织中没有人专门指定平台架构团队时,不同的角色可能会被指派这项工作。这些同事可能来自以下任一团队:
系统管理。
-
DevOps 和 CI/CD。
-
运维。
-
安全性或站点可靠性工程(SRE)。
-
开发者体验或 DevEx 团队。
-
应用程序开发团队。
-
所有这些团队都应该以某种方式参与到创建您组织的平台中。它应该划分出一条更安全、无摩擦的生产路径。最终,它应该在您的 DevOps 或 CI/CD 流水线中融合。始终要记住,平台的目的是减轻应用程序团队的负担,这意味着他们应该能够提供充分的反馈意见,但他们很可能不应该构建整个平台。
“许多公司正在意识到需要策划使用这个平台的体验,因为存在着许多不同的系统,”开发者体验咨询公司 Frontside Software 的首席执行官 Taras Mankovski 说道,他也是 Backstage 组织的成员之一。
他们会问类似于,开发者应该使用 Terraform 吗?Mankovski 说:“开发体验团队所从事的是一个过程:开发者有哪些困难,我们如何消除这种摩擦?”
这使得构建现代开发者平台有两个关键问题:
我们开发人员的苦差事是什么?
-
我们如何消除它?
-
这一切都归结于识别出 Abigail Bangser 称之为团队在组织中共享的“非差异性但并不不重要的工作”。你知道的,跨组织的优先事项,如安全性和部署速度,通常以相同的方式在整个组织中处理。这些事情是优先事项,但单个应用团队不会通过纠缠于这些事情来为最终用户带来差异化的价值。
不同的公司在平台发展的过程中可能有不同的阶段或目标。实际上,大多数公司根本没有从平台思维开始。可能已经有一个 DevOps 团队负责一些平台,比如 CI/CD 流水线。或许有一个负责混沌工程、监控和可观测性的 SRE 团队。然后,当然,单个应用团队正在构建自己的东西或使用第三方工具——通常是为了绕过其他团队的障碍。
在我们与几家公司的交流中,平台的概念,或者根据 Puppet 的“平台工程状况报告”实际上是三到六个平台,有机地浮现出来。一个云工程师或 DevOps 工程师甚至可能意识不到他们已经成为了平台工程师——或者甚至不知道这意味着什么。
随着分散的平台逐渐演变为更具体、跨组织的平台战略,您需要明确谁负责——一个联系点和积压源。
哦,还有一件事。平台团队可能负责,但不要忘记老话,即“客户永远是对的”。如果你不听取内部开发人员客户的意见,并构建大多数人想要的内容,那么他们可能会再次绕过你强加给他们的任何东西。
平台绝非新颖的概念。只是在当今,它是通过合作构建的,而以前更多是命令和控制。
“在平台工程出现之前,我们只是构建东西,然后期望我们的工程师和最终用户使用它,” Bol.com 的软件工程师 Quiran Storey 说道。现在的关键是要思考您的内部用户实际上想要什么。
尽管工具选择很重要,但平台工程是一种固有的社会技术努力。这意味着培养开发者为先的文化是任何成功的重要部分。
“当我们开始讨论是否构建或购买平台时,我们需要首先问问自己和公司关于我们的心态、文化以及平台如何适应这个公司,” Mercado Libre 拉丁美洲电子商务平台的云和平台高级技术经理 Juliano Marcos Martins 说道。
毕竟,跨组织的沟通既是平台战略的一个好处,也是其成功的秘诀。公司文化支持平台,但平台工程也应该对文化产生积极影响。平台应该充当翻译器或透明度启用器,使 IT 能够更好地与业务价值保持连接,业务能够更好地了解 IT 作为大型成本中心的情况。
Martins 观察到,当平台团队从 DevOps 那里夺走职责时,可能会产生摩擦,这就是为什么他说 IDP 不应仅考虑开发者的角度,还应考虑公司的角度,从而改善治理、安全、效率、成本和上市时间等方面。
“突然之间,我们的客户成了平台工程师,” Efremovska 说道。“你需要让他们满意,同时保持稳定性、安全性和可审计性。”
在她担任 Bol.com 平台工程师五年的时间里,她认为不应过于抽象事物,因为当工程师尝试弄清楚如何做事情或底层发生了什么时,这会增加他们的认知负荷。
应用团队从他们的平台中想要的东西之一是统一的访问方式。通过 API 来实现。
Efremovska 建议,平台 API 应类似于 Kubernetes 资源模型,您可以使用 Kubernetes API 作为访问许多不同云提供商和第三方提供的单一、一致的方式。
因此,一旦您发布了第一个平台原型或最薄的可行平台,她建议您通过一个单一的内部 API 创建一个单一的访问点。然后您可以在其上创建模板。
平台团队不希望成为应用团队的另一个障碍。API 优先的设计对实现平台及其自动化的需求至关重要。您的应用团队希望能够选择、选择并使用平台的各个部分。
“良好的架构设计允许系统分散地增长,” von Grünberg 说。“用户可以说,这个金色的路径适合我,但如果对我不起作用,我知道如何扩展它并增加系统。”
任何扩展都可能后来被平台团队采用,以创建一个新的金色路径。
自助服务平台的另一个必备条件是可搜索的文档,这样您的开发人员就可以自己找到答案、操作指南、代码示例和错误代码定义。
Storey 在启动您的平台之旅时的建议是:问问你的开发人员 80% 的时间需要做什么。
对于您发布的每个平台部分,您需要提供和维持服务级别协议、黄金路径、文档、合规性和支持。Mankovski 提醒我们,与其不得不推销类似于单块式的内部更新,不如努力发布和采用较小的成果。这也可以保持一个更紧密的开发者反馈循环。
“在提供的内容上要明智,因为这样会成为平台团队的运营负担,”这个团队负责维护和处理您创建的复杂性或技术债务。Storey 呼应了减少复杂性的最薄可行平台的方式:“如果您提供一件事并且做得很好,宁愿这样做,也不要提供一堆质量都一般的东西。”
想要了解更多关于平台工程的知识吗?预注册以接收即将发布的电子书“平台工程:您现在需要了解的内容”,该电子书由 VMware Tanzu 赞助。 | https://yylives.cc/2023/08/26/6-patterns-for-platform-engineering-success/ |
扩展金融科技开发团队的 Backstage 开发者门户
在不干扰开发者体验的情况下融入 DevOps 原则是实现成功内部开发者门户的关键。
翻译自 Scaling a Backstage Developer Portal for a FinServ Dev Team 。
图片来自 Shutterstock 的 MIND AND I
金融服务机构的技术团队发现自己处于竞争激烈的行业,不达到高质量的数字体验可能会影响客户的忠诚度。
这种竞争的一部分源于数字战略背后的运营成本。由于客户可以轻松获得价格具有竞争力的替代产品,在利率上升的时候尤其是一个相关的威胁,任何增加数字产品交付成本的因素都会使在价格上的竞争变得更加困难。
仅仅这一点就已经足够艰难,更不用说金融服务机构面临的复杂监管限制和安全问题。合规失误会带来巨额罚款,进一步限制定价的灵活性,而安全漏洞带来的声誉损害可能会让客户离开。
今年早些时候,我们会见了一家欧洲金融服务机构,讨论如何应对这些挑战,以更好地支持其开发团队。
其中一个首要任务是找到一种方式,以帮助开发团队在采用先进的云原生架构时更快地进行开发。
该团队以迅速性为出发点,采用了 AWS 云服务,但发现组织标准和配置要求的复杂性成为了阻碍。
开发团队依赖 DevOps 工程师来协调支持开发生命周期的应用环境,其中许多环境需要多个 SaaS 和 PaaS 服务(数据库、消息队列、缓存等)。这导致了漫长的配置过程,进一步减慢了开发者的速度,并延长了发布时间表。
即使大多数配置都通过 Terraform 定义为代码,领导层仍然认为可以进一步提高开发者的生产力。他们一直在考虑采用微服务来加速配置,但对未经监控的云基础设施部署的风险产生了担忧。
这导致了一个权衡:对配置的管理优先于开发者的访问,降低了他们通过公共云寻求的速度。
为了寻求平衡,该组织决定采用以下技术生态系统:
使用 Backstage 作为内部开发者平台(IDP),为开发人员提供自助访问应用程序资源的途径;
-
通过 Terraform 定义的 Amazon Web Services(AWS) 云基础架构,存储在 Bitbucket 中,并通过 Quali Torque 进行自动化;
-
与 ServiceNow 集成,以触发新版本、基础架构更改和其他活动的 DevOps 团队的批准请求。
-
其目标是提供一个平台,既满足开发团队对云访问的要求,又满足 DevOps 团队的标准化优先事项。开发人员可以直接在其 Backstage IDP 中访问环境,而 DevOps 可以通过 ServiceNow 维护对配置的可见性和控制权。
为了减少 DevOps 团队手动配置的数量,我们首先将组织的 BitBucket 存储库与 Quali 的 Torque 平台连接起来。
这使团队能够发现并导入在 Terraform 模块中定义的基础架构,然后生成新的 YAML,定义了支持每个特定开发者用例所需的所有 SaaS 和 PaaS 服务、依赖关系和输出。
经过 DevOps 的测试和批准后,这些 YAML 文件作为环境配置的模板存储在 git 中,并通过 Backstage 提供给开发团队。这消除了开发团队每次需要环境时都向 DevOps 请求的需要。
同时,DevOps 对这些环境中的异常设置了通知,比如配置的意外更改、不合规的云服务配置或长时间的环境运行时间等,可以在不中断开发者工作流的情况下进行调解。
为了优化体验,我们将 Backstage 与 Quali Torque 集成,以便开发人员可以独立访问所有经批准的环境模板。基于角色的访问控制和帐户凭证的加密通过 Quali Torque 进行管理,满足了 DevOps 对未经批准的配置修改或从暴露的凭密中产生安全风险的担忧。
当开发人员通过Backstage启动创建新的软件组件、云资源或开发环境时,Quali Torque 根据 YAML 中定义的配置进行编排和部署。
这使得 DevOps 团队可以设置规则,自动拒绝违反其配置或操作标准的部署。
在 git 中管理的 Terraform 模块中定义的这些策略指示 Quali Torque 可以部署哪些环境,不能部署哪些环境。例如,创建一个禁止特定服务配置的策略将拒绝部署包含该配置的任何环境。
通过将策略应用于个别开发团队,通过 Quali Torque 工作空间进行管理,可以让 DevOps 将配置和操作标准与每个开发团队的用例相一致。
这种方法还可以自动化支持每个环境的云资源的运作。对于依赖于在正常工作时间内运行的临时环境的团队,策略可以自动在工作日开始时部署支持该团队环境的 AWS 资源,然后在工作日结束时自动终止这些资源。
开发人员通常会对软件组件有所了解。他们在其团队拥有权益的特定微服务范围内工作。 Backstage 为开发人员提供了团队职责的单一视图,以及有关支持这些职责的特定软件组件的信息。
对于这个团队来说,Backstage 允许开发团队查看、理解和访问执行其软件组件的环境,并在需要时执行连接、终止和重新启动这些环境中的资源等“第二天”操作。策略从开发和 DevOps 团队的日常运营影响中解脱出来。额外的集成使开发团队可以通过命令行界面(CLI)、集成开发环境(IDE)或 CI/CD 平台访问这些环境。
如果开发人员或开发团队需要在预定终止时间之外运行环境,他们可以请求由 DevOps 预先设置的持续时间限制内的延期。通过 Backstage UI 提交的与环境相关的其他请求将通过 ServiceNow 向 DevOps 团队触发通知。
集成方法还使 DevOps 团队可以看到资源利用情况。开发人员使用他们的 IDP 通过在 Quali Torque 中定义的模板运行 AWS 云资源,DevOps 可以看到基础架构被运行的频率、持续时间以及由谁运行。这些数据使 DevOps 团队可以深入分析任何运营异常的根本原因,调整其标准并收集反馈,以改进平台的开发者体验。
根据我们与开发团队的合作,可以明确地看出 IDP 对开发者体验的影响。在我们与开发团队的合作中,明显的一点是,有效的开发者体验需要与 DevOps 原则相结合。 | https://yylives.cc/2023/08/26/scaling-a-backstage-developer-portal-for-a-finserv-dev-team/ |
平台工程是一个值得跟上的热门趋势
平台工程不仅仅是关于工具链或内部开发者平台。在其核心,它是一门可以提高开发者生产力的学科。
翻译自 Platform Engineering Is a Bandwagon Worth Jumping on 。
DevOps 的实践与云原生技术生态系统相结合,承诺将速度、一致性和效率注入到软件构建和发布的方式中。
DevOps 的一个副作用是模糊了开发和运维团队之间的界线,开发人员越来越多地承担起更多的运营责任。随着云原生部署的复杂性增加,市场上出现了众多云原生解决方案,从监控到容器安全和服务网格,开发人员在努力跟上所有这些新技术。
我们如何提高开发人员的生产力和体验?我们如何确保开发人员更多时间用于编写代码?平台工程可能会有答案,Gartner 将其定义为“构建和运营自助内部开发者平台(IDP),用于软件交付和生命周期管理的学科”。
许多客户正在加入平台工程的热潮,并建立平台团队。Puppet 的 2023 年平台工程报告显示,51% 的公司在过去三年内建立了平台团队。这些团队通常具有以下任务:
识别其他功能的共享需求,并开发/利用集中管理的解决方案来解决这些需求。
-
在集中管理的解决方案上提供治理和专业知识。
-
使开发人员能够消费集中管理的解决方案,提供自动化和自助的方法,并提供必要的约束。这可以涉及利用更高级的界面,如开发者门户。
-
通过平台工程,开发人员可以从底层解决方案的复杂性中抽象出来。他们可以专注于编写由专业知识团队和自助界面支持的代码。这意味着平台团队可以拥有底层解决方案的运营和生命周期管理权。
Netflix 和 Adidas 等最初的采用者从他们的平台工程倡议中获得了显著的好处。
为什么?两者都准确地知道他们想要实现什么,并向后构建解决方案:Netflix 旨在统一他们的工程体验,而 Adidas 则希望缩短开发人员启动项目并将其集成到基础架构中所需的时间。
在我与亚太地区的客户交谈中,采用者通常有独特的原因。我最近与一个在许多国家分布的客户进行了交谈。对于他们来说,跨所有地区实现基础设施部署、应用开发和安全措施的一致性是首要任务。他们的解决方案是一个内部的云原生平台,可以被他们分布在各地的团队使用。另一个客户希望解放开发人员免于端到端的责任,例如管理基础设施,因此建立了一个基础平台团队,以便轻松地“插入”其他系统或应用程序。
从所有这些例子中可以明确看出,公司建立清晰的最终目标的重要性——无论是减少开发人员的责任还是创建一致的软件开发环境。随后可以采取快速简单的解决方案来实现这些目标。有三个关键教训可以遵循,以保持目标的视野:
采用“从大处着眼,从小处着手,逐步增长”的方法。从一个 MVP 或最小可行平台开始,它将改善开发者的指标或解决问题,例如开发者生产力。随着时间的推移,您可以为此 MVP 添加功能,或者您还可以创建另一个 MVP。并不一定要只有一个平台。
-
不要过于专注于工具。围绕平台工程的文献往往强调使用“专门的工具和平台”。尽管这可能很重要,但公司应该评估他们的目标,并确定使用最简单的可用工具最快地实现这些目标的方法。与一些供应商可能提议的情况不同,不是每家公司都会立即需要内部开发者门户或自助能力。解决方案可以很简单,例如拥有一个中央维基页面,记录开发人员需要的最常见的技术信息,以便他们不必花费很长时间搜索。这也可以是关于在 Visual Studio Code 编辑器上进行标准化,结合 Rancher Desktop,在本地开发机器上实现快速无摩擦的 Kubernetes 迭代。
-
实施有效的治理、最佳实践和技术专业知识来指导平台用户。这不仅有助于推动效率和一致性,还可以为用户设置保护措施。
-
平台工程不仅仅关乎工具链、内部开发者平台甚至 IT 或运维能力。在其核心,它是一门学科,可以在尽可能少的摩擦下增加开发者的生产时间,从构思阶段一直到交付阶段。
虽然平台工程并不能解决公司寻求的理想化、超级高效的开发人员体验和生产力提升问题,但如果逐步实施并得到治理和适当工具支持,它确实可以使您更接近这种理想状态。 | https://yylives.cc/2023/08/27/platform-engineering-is-a-bandwagon-worth-jumping-on/ |
DevOps 到平台工程:我们的前行之路
翻译自 DevOps to Platform Engineering: How We Got Here? 。
在 2000 年代,软件行业发生了许多重要事件。丰田的精益生产运动已经在汽车生产中证明了其巨大价值。许多行业,不仅包括制造业,显然软件行业也注意到了他们的领域与“精益”之间的相似之处。软件行业的早期创新者也在尝试“持续集成”的想法,可以从诸如 CruiseControl(2001) 和 Hudson(2005) 等工具的诞生中看出,而 Hudson 的一个分支被命名为 Jenkins(2011),被开源社区采用,并成为实施 CI/CD 的最受欢迎的工具之一!2009 年,正式提出了 “DevOps” 的术语,是在 O'Reilly Velocity Conference 上,Flickr 的工程师们呈现了他们著名的演讲:“10+ Deploys per Day: Dev and Ops Cooperation at Flickr”,并且形成了 DevOpsDays 会议。
(来自著名的演讲 “10+ Deploys per Day: Dev and Ops Cooperation at Flickr”)
DevOps 的基本思想是将“开发”和“运维”团队对齐,以实现更高速度的软件交付目标。虽然技术、流程和人员的对齐花费了 2010 年代很大一部分时间!
2010 年代见证了云计算、SaaS 和容器等技术的巨大增长。只需了解一下增长情况,AWS 从 2010 年的 10 万客户增长到 2015 年的 100 万客户,或者 Docker 于 2013 年推出,2014 年已有 10 万家公司在使用/评估,而在一年后的 2015 年,以 Docker 形式使用容器的公司达到了 100 万家!
(来源:Datadog 的 Docker 采用研究)
云计算和技术的增长改变了一些事情,例如:
一系列新工具应运而生,用于构建、运营和扩展软件。例如,Terraform 是一种用 HCL 定义基础设施的方式。或者一旦 Docker 成为主流,编排就成为创新的新领域,最终导致了 Kubernetes 及其周边大规模生态系统的诞生,被称为 Cloud Native Technologies。
-
早年的编排器增长,例如 Mesos、Docker Swarm、Kubernetes 或 Rancher Cattle。来源:Datadog 2017 的 Docker 采用研究
SaaS - 许多新业务现在以 SaaS 形式通过互联网交付。这意味着您现在可以通过 SaaS 提供商交付应用程序的大部分需求,同时可以专注于业务的核心。在这个过程中,运营的问题不仅仅是部署和管理基础架构。运营现在包括更高可靠性的构建,或者以安全性为重点的构建,因为您的服务正在跨越组织的网络边界!
-
随着 SaaS 变得更加主流,可靠性、安全性和成本等问题都成为主要关注点。运营的范围比以前扩展得多!
ShiftLeft + “You Build It, You Run It” (YBYRI)
尽管运营的范围扩展得更广泛,但开发方面的事情也同样增加。许多与安全性或可靠性相关的问题正在“编码”中定义。因此,开发人员必须对这些事物有所了解,即使是表面层次的了解。向左移动也是由敏捷运动推动的,以便修复尽可能靠近开发人员的内部开发,而不是将代码完全推向需要更改的阶段,然后再通过整个流程流动。
一些大型组织也尝试了 YBYRI - 你建立它,你运行它!这意味着开发团队必须了解除编写代码之外的许多其他事情。开发团队可能需要负责从与业务相关的代码更改到可靠性、安全性等方面的所有事情。
因此,DevOps 运动始于伟大的初衷,并解决了许多问题。然而,云计算、SaaS 和应用程序的复杂性的增长迅速模糊了边界,导致几乎每个人的认知负担增加!
(图片来源)
那么,除了编写代码,开发人员还应该知道 Terraform 如何提供一切,或者如何为 Kubernetes 编写所有清单和图表吗?同样,运营团队是否需要编写代码,如果是的话,边界在哪里?这不是要建立壁垒的问题,但毫无疑问,让每个人承担如此多的事情的认知负担是不具生产力的。因此,如果我们回到最初的 Dev 对齐 Ops 的图表,现在它是与更多功能(如安全性、可靠性、成本以及当然是 Dev 和 Ops)之间的对齐!
所有这些事情导致了重新思考团队结构,以减少认知负担,增加流程状态和更快的反馈循环。一些快速扩张并且是 DevOps 领先采用者的组织迅速识别了这一模式,并改进了团队结构、工具和流程,以构建出能够支持开发人员的平台。
那么,什么是平台工程?组织内部平台工程的目标是使交付团队能够获取所需的内容并快速移动,同时专注于应用程序。随着应用程序经历的复杂性和广度的增加,开发人员不可能深入了解一切。这就是平台的作用,使他们可以对他们想要快速推进的事物使用明智的默认值,而后根据需要进行更改。随着时间的推移,平台将成为一个完整的产品,用于支持软件的交付,但这不一定是最初的目标。
这就是全部内容!我们将很快在另一篇文章中介绍“什么是平台工程”,所以敬请期待(或者您可以订阅我们的新闻通讯,每周获取云原生知识的一小部分)。 | https://yylives.cc/2023/09/03/devops-to-platform-engineering-how-we-got-here/ |
平台工程的真正商业价值
如果你的关注点仅仅在于开发者体验,那么你可能错过了一半的重点,也可能错过了一半的价值。
翻译自 The Real Business Value of Platform Engineering 。
图片来自 Shutterstock 的 Ground Picture
最近几个月以来,有很多关于平台工程在取代(或某种方式解决) DevOps 角色的噪音。
尽管平台工程不太可能作为一种方法取代 DevOps,但它确实可以增强 DevOps 流程。由于平台工程具有许多潜在的好处,我预计其受欢迎程度将继续增长。
不幸的是,工程和技术团队通常在平台工程方面犯一些错误。那么,什么是平台工程?它能为企业提供哪些实际价值呢?
平台工程是构建和维护支持软件交付工作流程的内部工具链的实践。一个专门的团队实施工具和流程,为开发人员提供自助访问基础设施。平台团队将共享的基础设施平台作为产品提供给软件开发和相关团队使用。这种方法旨在减少开发人员和基础设施与运营(I&O)团队的复杂性,以加速软件开发生命周期。
许多平台供应商和其他组织强调开发者体验是平台工程的价值驱动因素。这些好处来自于开发人员通过内部开发人员平台(IDP)如 Backstage 或类似工具通常实现的对应用基础设施的自助访问。
这可以减轻与服务请求、长时间等待或管理自己的基础设施的认知负担相关的麻烦。简化开发人员访问基础设施可以提高生产率,改善员工保留率,并加速应用程序交付。
但如果你的关注点仅仅在于开发者体验,那么你可能错过了一半的重点,也可能错过了一半的价值 - 这就是平台工程的情况。
平台工程的真正价值来自于通过改进对基础设施的控制而实现的一致性和可见性。
当执行正确时,平台工程策略可以使我们更容易理解云基础设施的配置和部署,强制执行云配置和操作的标准,优化生产力,强制执行治理并管理成本。
掌控基础设施利用情况使平台和 I&O 团队在强制执行安全和合规政策方面处于独特的位置。
因为平台配置和部署所有环境,平台团队可以确保安全协议和合规政策被嵌入到每个部署的环境中。他们可以设置关于最终用户有权访问什么,这些资源可以使用多长时间,可以更改什么以及被锁定什么的参数。他们还能够利用机密信息、权限和密钥来设计基础设施,以便安全机制被自动嵌入到基础设施部署中。
使用可定制的基于角色的访问控制(RBAC),平台团队可以确保基础设施与组织的团队结构和人员技能/角色相一致,以控制对云帐户和源代码存储库的访问。
管理云成本的最大障碍之一是理解资源消耗背后的业务背景。
由于平台是所有部署的源头,它可以提供端到端的可见性,跨足软件开发生命周期(SDLC)的所有阶段启动的环境都可以看到。
单独的云计费数据缺乏透明性。然而,一些平台可以暴露云成本的产生方式。将应用基础设施整合到平台中可以将标记自动化为部署过程的一部分。这将使用与特定应用程序、流水线、阶段和团队相关的用法联系起来。
在具有这种业务背景的实时配置跟踪下,工程和技术团队可以就成本优化和资源消耗做出明智的决策。例如,他们可能能够找到经常在周末或假期期间保持环境运行并产生成本的人员或团队。这些见解可以用于实施成本管理的防护措施和消费政策。
由于企业越来越希望理解和管理其基础设施,平台工程方法非常合理。在其核心,它可以让 IT 和运营团队更好地掌控和看到基础设施的配置和利用情况。虽然使用平台工程方法可以明显改善开发者体验,但这种方法论具有广泛的好处,可以在整个业务中实现。
了解基础设施实例的使用方式、时间和目的为智能地优先考虑云支出提供了基础,并可以导致即时降低成本。通过应用集中策略和标准化环境蓝图来加强基础设施可以减轻业务风险。所有这些因素共同大大改善了 DevOps 流程和整体业务结果。随着 DevOps 的不断发展,这些好处将不再是“有会很好”,而是变得至关重要。 | https://yylives.cc/2023/09/03/the-real-business-value-of-platform-engineering/ |
新电子书:获取我们的免费平台工程指南
由 VMware Tanzu 赞助的 The New Stac k最新电子书为您的平台工程策略奠定基础,帮助您实现 DevOps 承诺的更快生产力。
本文翻译自 New Ebook: Get Our Free Platform Engineering Guide 。本人也翻译整理了这本《平台工程: 您现在需要知道的》,可以在这里下载。
无疑,对我来说,今年是平台工程的一年,至少在 The New Stack 这里是这样。今天,TNS 正在发布我写的一本电子书,这是关于这个主题的第一本:《平台工程:您现在需要知道的》。就平台工程资源而言,我可能有些偏见,但这本平台工程指南应该在您的图书馆中占有一席之地。
这当然不会是 TNS 在这一热门话题上的最后发言。蓬勃发展的平台社区充满了可以分享的故事和教训。毕竟,每个平台都应该是不同的,是对您公司独特文化、目标和技术堆栈的响应。
这个社会技术实践和工具集似乎突然走进了主流,这是对几个因素的回应 - 日益复杂的云原生景观、更紧张的预算、充满活力的 Slack 社区,尤其是在实施 DevOps 方面的 15 年挑战。
DevOps 要求组织试图打破壁垒,但壁垒通常存在合理的原因 - 合规性、安全性、预算、传统技术、职责分离。
虽然专注于流程、反馈和实验是很好的,但实际上 DevOps 已经导致开发人员负责的事情远远不止为客户提供价值 - 例如云计算、网络安全和基础设施。
另一方面,平台工程 - 正如 Syntasso 的首席工程师 Abigail Bangser 最近告诉我 - 侧重于这些壁垒之间的摩擦。
她说:“与我们历史上所做的去除壁垒不同,我们现在 - 正确地 - 专注于减少摩擦。”
DevOps 原则继续强调通过快速反馈循环拥有解决方案,但只关注改进技术方面。平台工程还减少了技术和业务部门以及流程之间的摩擦。
无论是人际关系、人与计算机、还是计算机之间,摩擦的根源往往可以归结为沟通。当平台工程正确交付时,它充当跨组织的翻译器。软件开发团队感觉更紧密地与业务目标相连。业务了解大型工程成本中心正在进行的工作。并建立了明确的前进路径。
平台工程侧重于可发现性、通过开发者喜爱的 API 实现可扩展性以及自助服务。通过建立 Spotify(流媒体公司)所称的“黄金路径”,平台反映了技术和业务利益相关者之间的一致,同时减少了完成工作的摩擦。
由 VMware Tanzu 赞助的这本免费电子书为您的平台策略奠定了基础。它汇集了数十家已经走过这一旅程的组织的建议和经验,让您可以建立与内部开发者客户的共鸣和理解,并构建一个真正有助于他们以更少的资源更快地实现更多成果的内部开发者平台。
通过这本平台工程指南,您将学到:
为什么平台工程正在崭露头角。
-
如何首先关注文化。
-
“最薄的可行平台”以及如何构建一个可以帮助您的开发者快速上手的平台。
-
API和自助服务的威力。
-
以产品为平台的思维方式。
-
平台启用的安全性。
-
如何衡量成功。
-
如何保持动力。
-
这本平台工程电子书适用于各种规模的组织,它们希望以真正理解和满足开发者需求的方式创建或扩展他们的平台战略,从而提高开发者的生产力和快乐。
但不要只听我的话。立即下载它吧! | https://yylives.cc/2023/09/05/new-ebook-free-platform-engineering-guide/ |
使用 Kubernetes 精简平台架构工程
平台架构工程涉及创建一个环境,使开发人员可以专注于构建应用程序。Kubernetes 可以提供帮助。
翻译自 Streamline Platform Engineering with Kubernetes 。很赞同本文,有时我会想,如果没有 Kubernetes ,对大多数平庸的我们来说,根本没有能力构建出自己的平台。
平台工程在现代应用程序开发和部署领域发挥着关键作用。随着软件应用程序变得越来越复杂和分布式,需要一个强大和可扩展的基础设施已经变得至关重要。这就是平台工程发挥作用的地方,它充当支撑整个软件开发生命周期的 backbone。让我们深入探讨平台工程在为应用程序创建和维护基础设施方面的关键作用。
在其核心,平台工程涉及创建一个环境,使开发人员可以专注于构建应用程序,而不必承担管理基础设施复杂性的负担。平台工程师架构,构建和维护必要的基础设施和工具,以确保应用程序平稳高效地运行,不管它们可能包含的复杂性。
在应用程序开发的动态世界中,平台工程师面临着多方面的挑战。最突出的挑战之一是管理各种各样的应用程序和服务,这些应用程序和服务在需求、技术和运营需求方面各不相同。随着应用程序跨云环境、内部设置和混合配置展开,平台工程师的任务是创建一个统一、一致和可靠的基础设施。
高效地管理这个多样化的环境对于确保应用程序的可靠性和可用性至关重要。如果没有精简的管理,就会出现低效,导致资源浪费、运营瓶颈和敏捷性降低。这就是 Kubernetes 作为平台工程转型解决方案发挥作用的地方。
Kubernetes 是一个容器编排平台,已经成为平台工程领域的突破。凭借其自动化部署、扩展和管理容器化应用程序的能力,Kubernetes 解决了平台工程师所面临的挑战。通过提供一个统一的平台来管理基础设施的应用程序,Kubernetes 与平台工程的目标完美契合。
Kubernetes 减轻了平台工程师的负担,允许他们以声明的方式定义应用程序部署、扩展和管理流程。这消除了手动干预,简化了重复任务,使平台工程师能够专注于更高级别的策略和优化。
此外,Kubernetes 通过提供应用程序部署和基础设施管理的通用语言,促进了不同团队(包括开发人员和运营人员)之间的协作。这培育了 DevOps 文化,在这种文化中,开发和运营之间的界限模糊,团队协作工作以实现共同目标。
从这里,我们将深入研究 Kubernetes 编排的具体内容以及它如何革新平台工程实践。从管理多租户到自动化基础设施,从确保安全到优化可扩展性,Kubernetes 提供了一个全面的工具包,满足平台工程师的复杂需求。加入我们的行列,一起探索 Kubernetes 如何使平台工程简化部署和管理,最终导致更高效和可靠的软件生态系统。
平台工程师的角色类似于一个繁忙大都市的建筑师,负责设计和维护支持各种应用程序和服务的基础设施。然而,在今天的技术环境中,这项任务变得越来越复杂和具有挑战性。平台工程师在努力管理各种应用程序和服务以跨越复杂和动态的环境时面临一系列困难。
在不断扩大的数字领域,应用程序在技术、框架和依赖项方面展示出惊人的多样性。从微服务到单体,从无状态到有状态,每种应用程序类型都提出了自己的一系列需求。平台工程师的任务是创建一个无缝适应这种多样性的环境,确保每个应用程序都能够在不与其他应用程序干扰的情况下进行最佳操作。
现代应用不再局限于单个服务器或数据中心。它们跨越混合云设置,利用各种云提供商,并且通常结合内部资源。这种基础设施的异构性在资源分配、数据一致性和维护一致的运营策略方面带来了挑战。平台工程师必须找到方法将这些不同的元素统一成一个统一且高效的生态系统。
应用程序的资源需求很少是静态的。它们根据用户需求、季节性模式或推广活动的波动而涨落。平台工程师必须设计一个可以根据这些波动动态扩展资源的基础设施。这不仅需要技术精湛,还需要预测分析来准确预测资源需求。
在当今永不停止的数字环境中,停机不能成为选项。平台工程师的任务是确保应用程序的高可用性和容错能力,这通常涉及设置冗余系统、实施故障转移策略以及在出现故障时平稳过渡。当应用程序跨多个区域或云提供商展开时,这变得更加复杂。
应用程序和服务需要持续更新,以保持安全性,利用新功能,并与不断发展的技术保持兼容。但是,在不造成停机或兼容性问题的情况下更新应用程序是一个挑战。平台工程师需要仔细协调更新,通常需要广泛的测试和规划以确保平稳过渡。
在网络安全威胁高度和数据法规日益严格的时代,平台工程师必须优先考虑安全性和合规性。他们需要实施稳健的安全措施,控制对敏感数据的访问,并确保应用程序遵守行业特定法规。在安全性与可用性和性能之间取得平衡是一项持续的钢丝表演。
在一个具有多种应用程序和服务的环境中,实现标准化可能捉襟见肘。不同的开发团队可能有不同的部署实践、配置和工具集。平台工程师需要在满足这些独特要求和建立标准化流程以确保一致性和可管理性之间取得平衡。
随着平台工程师在管理各种应用程序和服务以跨越复杂环境时陷入困境,一个转型的曙光出现了: Kubernetes。这个开源容器编排平台迅速崛起,成为直接解决平台工程师面临挑战的强大解决方案。
每个应用程序都有其独特的要求和依赖项,可能会给平台工程师造成运营迷宫。Kubernetes 作为一种统一力量介入,为部署、管理和扩展应用程序提供了一个标准化的平台,不管其基本复杂性。通过将应用程序封装在容器中,Kubernetes 抽象出具体细节,使平台工程师能够一致地对待每个应用程序。
Kubernetes 不会回避现代基础设施的复杂性。无论应用程序跨越混合云设置、多个云提供商还是内部数据中心,Kubernetes 都为跨这些不同地形进行编排提供了一种通用语言。它提倡“一次编写,随处部署”的概念,允许平台工程师在各种环境中无缝利用相同的配置。
资源分配和根据波动的用户需求进行扩展的挑战在 Kubernetes 中找到了优雅的解决方案。通过它的自动缩放机制,例如水平 Pod 自动缩放,平台工程师能够设计可以根据实时指标动态扩展或缩减资源的系统。这种弹性确保了在不需要人工干预的情况下实现最佳性能。
Kubernetes 体现了高可用性和容错的原则,这些是平台工程的关键方面。通过自动负载均衡、健康检查和故障转移机制,Kubernetes 创建了一个环境,应用程序可以在故障和中断时正常运行。平台工程师可以设计在面对意外挑战时仍能保持持续服务的系统。
在尽量减少停机时间和兼容性问题的同时更新应用程序的艰巨任务在 Kubernetes 中找到了精简的方法。通过滚动更新和金丝雀部署等功能,平台工程师可以编排无缝、渐进和可逆的更新。这不仅增强了部署过程的可靠性,还提升了开发人员和运营团队的信心。
安全性在平台工程中至关重要,Kubernetes 在这方面也不遑多让。通过实施基于角色的访问控制(RBAC)、网络策略和机密管理,Kubernetes 使平台工程师能够建立稳健的安全实践。合规性要求也通过受控访问和敏感数据封装来满足。
Kubernetes 弥合了适应唯一应用程序要求和建立标准实践之间的差距。它为通过 Helm Chart 和 Operators 创建可重用组件奠定了基础,同时允许灵活性。这种标准化的旅程增强了可管理性,减少了人为错误,并增强了团队之间的协作。
在平台工程领域,多租户的概念立足于一个关键支柱。随着组织在共享基础设施中托管多个团队或项目,挑战在于确保资源隔离、安全性和高效管理。凭借其强大的功能集,Kubernetes 提供了一个有效的解决方案来应对多租户的复杂性。
多租户是指在单个基础设施中托管多个隔离的实例或“租户”的做法。这些租户可以是团队、部门或项目,每个都需要自己的隔离环境以防止干扰和保持安全。
Kubernetes 引入了 Namespace 的概念来解决多租户的需求。Namespace 是一个逻辑分区,允许在集群内进行资源隔离、命名唯一性和访问控制。平台工程师可以利用 Namespace 为不同的团队或项目创建隔离的环境,确保资源是隔离的并且可以独立管理。
以下是 Namespace 的一些优点:
资源隔离: Namespace 提供了一个隔离的空间,其中包含诸如 pod、服务和配置等资源。这种隔离可防止不同团队或项目之间的冲突和资源争用。
-
安全性和访问控制: Namespace 允许平台工程师为每个 Namespace 设置基于角色的访问控制(RBAC)规则。这可以确保团队成员只能访问和操纵其指定 Namespace 中的资源。
-
命名范围: Namespace 确保跨不同团队或项目的命名唯一性。Namespace 内的资源由其名称标识,并且 Namespace 为这些名称提供明确的上下文,避免命名冲突。
-
逻辑分区: 平台工程师可以在同一集群内逻辑上分割属于不同团队或项目的应用程序。这使得在共享基础设施中更容易管理多样化的应用程序景观。
-
资源分配和隔离的挑战
虽然 Kubernetes Namespace 为多租户提供了坚实的基础,但与资源分配和隔离相关的挑战仍然存在:
资源分配: 在多租户环境中,资源分配变成了一项平衡行为。平台工程师需要确保每个 Namespace 都获得足够的资源,同时防止资源占用过多会影响其他 Namespace。
-
资源配额: Kubernetes 允许在 Namespace 级别设置资源配额,这可能很难微调。在限制资源使用和允许灵活性之间取得正确平衡至关重要。
-
隔离保证: 确保 Namespace 之间完全隔离需要仔细考虑。泄漏资源或 Namespace 之间的网络通信可能会损害预期的隔离。
-
管理复杂性: 随着 Namespace 数量的增长,管理和维护配置、RBAC 规则和资源分配会变得具有挑战性。平台工程师需要高效的工具和策略来有效地管理这种复杂性。
-
在平台工程领域,效率和可靠性的追求依赖于自动化。凭借其强大的功能集,Kubernetes 成为平台工程师寻求自动化部署和扩展过程的灯塔。让我们探索 Kubernetes 如何简化这些过程,并使平台工程师能够提升其基础设施管理。
Kubernetes 控制器在编排从扩展应用程序到确保自我修复的自动化任务中发挥着关键作用。
扩展: 水平 Pod 自动扩展(HPA)是一个典型的例子。 HPA 根据观察到的 CPU 或自定义指标自动调整 pod 副本数。这确保应用程序可以无缝处理流量波动,而不需要人工干预。
-
自我修复: 存活和就绪探测是促成应用程序自我修复的关键组件。存活探测检测到应用程序故障并触发 pod 重启,而就绪探测确保只有健康pod接收流量。
-
更新: 诸如 Deployment 之类的 Kubernetes 控制器通过维护所需数量的副本并过渡到新版本来自动化应用程序更新。这在更新和回滚期间可以防止服务中断,确保平稳过渡。
-
Kustomize 是一个允许平台工程师在不需要复杂模板化的情况下自定义 Kubernetes 清单的工具。它提供了一个声明式的配置管理方法,使工程师可以为不同的环境、团队或应用程序定义变体。
Kustomize 的一些好处包括:
重用性: Kustomize 通过支持创建可以根据需要进行扩展或修改的基本配置来促进重用。
-
特定环境的定制: 平台工程师可以为不同的环境(开发、暂存、生产)或团队定制配置,而无需复制整个配置。
-
效率: Kustomize 通过减少重复和最小化手动编辑来减少风险不一致和错误。
-
在平台工程动态的环境中,执行政策和治理变成确保稳定性、安全性和合规性的关键。 Kubernetes 及其强大的功能集政策执行确保平台遵循预定义的规则和标准。这包括访问控制、安全策略、资源配额和合规性要求。通过执行这些政策,平台工程师维护一个安全可靠的应用环境。
在动态的 Kubernetes 环境中,保持安全性和合规性可能具有挑战性。随着应用程序的发展,跟踪不断变化的政策并确保跨集群和 namespace 的一致执行变得复杂。Kubernetes 资源短暂的本质增加了在实现持久安全性和合规性方面的另一层复杂性。
在追求高效和协作的平台工程的过程中,培育 DevOps 文化至关重要。
DevOps 文化弥合了开发、运维和平台工程团队之间的鸿沟。它鼓励无缝的沟通、共享目标和对整个应用生命周期的集体责任感。
Kubernetes 通过提供应用部署和基础设施管理的通用语言,充当协作的催化剂。它鼓励跨职能沟通,并允许团队在共享配置上协作工作。
Kubernetes 的声明性质和共享工具消除了传统工作流中常见的孤立。开发者、运维人员和平台工程师可以集体定义、管理和发展应用程序,而不受僵硬边界的限制。 | https://yylives.cc/2023/09/07/streamline-platform-engineering-with-kubernetes/ |
生产中的 Backstage:平台团队需考虑的要点
从零开始构建一个生产级别 Backstage开发者门户网站的指导意见。
翻译自 Backstage in Production: Considerations for Platform Teams 。
图片来自 Shutterstock 的 Skreidzeleu
开发者门户网站是大多数平台的一个突出方面,因为它是您与用户之间特权的互动点。开发者门户网站通过一个集中的UI反映了平台的功能,这意味着它们必须定制化以适应您的开发者和您想要提供的功能。
这就是 Backstage 的闪光点:可定制化。您可以用 Backstage 创建您梦想中的开发者门户网站,这可能包括用您组织的设计系统替换 UI 或引入您自己的数据消费机制。这是可能的,因为 Backstage 不是一个现成的开发者门户网站,而是一个提供构建该网站的构建块的框架。
然而,开发者门户网站都是 web 应用程序。因此,当您从零开始采用和扩展 Backstage 时,您将承担它的全栈后果。因此,Gartner 和其他机构报告说,自己设置和维护 Backstage 可能具有挑战性,但对许多公司来说,这样做的价值是巨大的。
也就是说,采用 Backstage 没有一刀切的方式。当您着手自己搭建 Backstage 时,您将遇到一些采纳这个框架时没人告诉您的常见任务。在本文中,我将带您了解在规划团队工作时需考虑的一些要点。
Backstage 通过其命令行界面(CLI)提供了 create-app
命令来帮助您开始使用新实例。结果将在您的机器上运行良好,但从这一点上,您仍有一些工作要做,以使其成为生产就绪的开发者门户网站。
我对 Backstage 概念验证的建议是首先实现一个有意义的集成,如 GitHub。这将让您经历从 React 和 Node 配置到部署的所有接触点。
您的开发者门户网站很可能需要通过集成从各种源连接数据。因此,您需要实施一个 secret 管理策略,该策略允许您将 secrets 注入到将运行 Backstage 的容器中。
在部署方面,Backstage 团队建议使用您通常会为类似应用程序使用的部署方式。因此,您可以从将标准 CI/CD 实践应用于您的开发者门户网站中受益。
就 Roadie 管理的 Backstage 实例而言,所有这些考虑因素都内置于产品中,因此您不必投入时间在其中任何一个上。
您的开发者门户网站是一个集成 GitHub、Argo CD 或 PagerDuty 等第三方服务的一站式商店。开发者门户网站将允许用户通过其自助服务或黄金路径功能请求基础设施。因此,确保 Backstage 实例的安全性非常重要。
首先,您需要安装和设置一个身份验证机制。值得庆幸的是,Backstage 提供了从 Okta 到 Google IAP 的 13 个 provider 的开源集成。
接下来,您需要使用 Backstage 自带的权限框架。默认情况下,Backstage 的后端路由不受身份验证保护,因为开发者门户网站有开放性的假设。
另外,我建议您设置 scaffolder 在短暂的环境中执行任务。Roadie 一开始就这样做防止了去年 Backstage 远程代码执行漏洞影响到任何客户。
请务必关注 Backstage 团队发布的安全补丁,并且经常升级您的实例。
Backstage 团队每个月从许多贡献者那里合并大约 300 个拉取请求,每两周发布次要版本。这个过程为框架提供了令人印象深刻的功能和错误修复流。
我建议定期将升级添加到您的计划中。Backstage 的升级过程目前涉及一些手动步骤,每个版本的复杂程度各不相同。
要注意的是,一些改进作为您需要挂钩到开发者门户网站的额外 API 或一组可以改进实例的新的 UI 组件。
最重要的是,跟上新功能是很有用的,因为有时即使在升级 Backstage 之后,您也必须选择加入它们。我撰写了 Backstage 每周通讯,所以您不必自己查看代码库。欢迎订阅。
Backstage 生态系统中有 100 多个可用插件,并鼓励您构建自己的插件将您独特的开发需求集成到 Backstage 中。
插件通常在后端、前端和通用三个包中实现。插件也可以提供扩展点,以便根据不同情况进行自定义或适配。
Backstage 社区正致力于简化安装和升级插件的过程,但目前它仍然需要一些手动工作,并且需要您重新部署实例。
在编写插件时,请注意 Backstage 正在整合一个具有简化 API 的新后端系统,所以值得一看。
或者也许是第二步?您首先需要确定开发者门户网站要解决什么问题。然后,一旦您建立了一个实例,您将进入一个更长期的旅程,在学习开发者的同时,继续添加更多用例并对开发者门户网站进行迭代。
如果您想采用 Backstage 但不想拥有其实现或维护,Roadie.io 提供托管和管理的 Backstage 实例。 Roadie 提供无代码 Backstage 体验和更精致的功能,同时与开源软件框架完全兼容。 此外,Roadie 提供完整的记分卡来测量组织内的软件质量和成熟度。
如果您有兴趣了解托管生产级 Backstage 实例与自托管实例的优势和权衡,请查看我们的白皮书。 | https://yylives.cc/2023/09/10/backstage-in-production-considerations-for-platform-teams/ |
如何铺就通向未来的黄金路径
平台团队应该铺就从第 2 天到第 50 天都能优化流程的黄金路径,而不仅仅是第1天。这里有一些例子。
译自 How to Pave Golden Paths That Actually Go Somewhere 。
更多的软件工程组织正在转向平台工程,以通过设计实现标准化和真正的开发者自助服务。平台工程师构建内部开发者平台(IDP),这是所有捆绑在一起的技术和工具的总和,为开发者铺平黄金路径。根据 Humanitec 的 CEO Kaspar von Grünberg 的说法,黄金路径是“软件开发生命周期中用户可以以最小认知负载遵循并推动标准化的任何过程”。黄金路径长久以来一直被认为是成功的平台(和 DevOps)设置的一个重要目标。
Grünberg 在 PlatformCon 2023 的演讲 “Build golden paths for day 50, not day 1!” 中深入探讨了软件工程组织为何以及如何应将重点转移到长期黄金路径,并给出了具体例子。让我们来探究大多数平台团队处理黄金路径的方式所存在的问题,平台团队如何纠正优先事项以及可扩展的黄金路径实际上是什么样的。
在决定构建哪些黄金路径以及构建顺序时,太多组织将应用和开发生命周期中的首要过程视为首要任务。他们开始优化只在应用生命周期的第 1 天发生的过程,如通过脚手架创建新的应用或服务。但是,当评估应用的整个生命周期时,很明显,第 1 天的黄金路径并没有走多远。优先考虑第 2 天到第 50 天(或者第 1000 天)的黄金路径对开发者生产力和业务表现的影响要大得多。
Grünberg 在平台工程成为所有人关注的焦点 manyears 之前就开始研究顶级工程组织的做法。他长期以来一直认为这种优先级失败是平台工程中十大谬论之一,他写道:“您的团队将投入到应用中的时间,创建过程不到 1%。”在他看来,这个链中很小的一部分的投资回报率太小,不足以证明先投资其黄金路径。组织应该转而投资第 50 天及以后的黄金路径。
Netflix 联合平台控制台的第一个版本,即开发人员门户网站,表明并非所有黄金路径都具有同等价值。高级软件工程师 Brian Leathem 分享说,平台团队的原始目标之一是“统一端到端体验以改善可用性”。
通过用户研究,Leathem 的团队发现,开发人员在工作流程中分布的大量工具中挣扎。他们还发现,有限的发现既伤害了新开发人员,也伤害了老开发人员,这使他们很难上手,或者不知道可以改进现有工作流程的新产品。他们选择的解决方案是一个平台控制台,或者如 Leathem 所描述的那样,是一个“开发人员的共同前门”。
他们采用了 Backstage 插件 UI,以便他们可以将开发资源投入到为 Netflix 门户建立自定义 UI 组件中。结果是一个门户,用户可以在单个视图中管理软件开发生命周期中的软件。他们引入了“收藏集”,也就是开发人员希望一起查看和评估性能的一组服务,以减轻管理多个服务和软件的负担。他们决定仅使用黄金路径(Leathem 使用术语“铺好的道路”)来解决发现问题。
起初,黄金路径是一个静态网站,其中包含所有文档,并为开发人员解决的问题推荐适当的工具。目标是将黄金路径编织到控制台中,以更深入地将文档与其对应的运行服务集成。在更长远的将来,Leathem 的团队还希望建立功能,以便开发人员通过控制台创建、修改和操作服务。
在对平台控制台第一版的反馈中,Netflix 的开发人员表示“查看和访问”的体验还不够吸引人,不足以促使他们放弃旧习惯和例行程序。作为响应,平台团队将重点转移到现有工具无法提供的端到端工作流程上,以保持用户返回控制台。在 Leathem 的 PlatformCon 2023 演讲中,他说这种方法极大地提高了控制台上用户的复现。
Netflix 的例子表明,平台不仅仅是需要开发者门户组件才能吸引用户。开发者希望端到端工作流程的黄金路径。
此外,可用性只是平台可以改进的众多问题之一。例如,组织可以设计黄金路径,通过关注端到端工作流程来改善可用性、生产力和可扩展性。不同工作流程的黄金路径可以通过设计实现标准化和真正的开发者自助服务。
要涵盖应用生命周期的更大部分,针对第 50 天的黄金路径确定优先级可能很艰巨。受他的研究的启发,von Grünberg 提出了一个简单的练习,以帮助平台团队确定他们的优先顺序应该是什么,这取决于开发人员和运维人员与特定过程相关的频率和等待时间。下表是一个根据对 100 次部署的评估得出的这个分析可能的样子。
过程|
频率(部署的百分比)|
开发时间(小时,包括等待和错误)|
运维时间(小时,包括等待和错误)|
添加/更新应用配置(如环境变量)|
5%*|
1*|
1*|
添加服务和依赖关系|
1%*|
16*|
8*|
添加/更新资源|
0.38%*|
8*|
24*|
重构和记录架构|
0.28%*|
40*|
8*|
因环境阻塞而等待|
0.5%*|
15*|
0*|
启动环境|
0.33%*|
24*|
24*|
开发人员入职,重新训练和换挡团队|
1%*|
80*|
16*|
回滚失败部署|
1.75%|
10*|
20*|
调试,错误跟踪|
4.40%|
10*|
10*|
等待其他团队|
6.30%|
16*|
16*|
*每100次部署
从此表中,组织可以对其黄金路径需要解决的过程获得全面的了解。
自 2022 年初格林伯格分享了这个练习以来,他说平台工程社区的爆炸式增长使他能够观察到数千个顶级工程组织中最常见和最紧迫的痛点,并了解缓解这些痛点的成功方法。这些见解对于理解平台团队需要优先优化的第 50 天过程类型以及最好的优化方式非常有价值。他发现,首先用黄金路径解决最紧迫的痛点始终能带来最好的投资回报率。更重要的是,他了解到大多数组织在这些过程中的痛点具有相同的根本原因,可以通过直接解决这个共同原因来很大程度上加以缓解。
问题在于,大多数组织的 IDP 只在应用基础架构不变的情况下才允许开发人员将更新的镜像从一个阶段部署到另一个阶段。这些静态配置文件是针对一组静态环境和基础设施手动编写脚本的,因此,在超出最简单用例的情况下,它们容易出错或产生过多的开销。
使用静态配置管理,回滚、更改配置、添加服务和依赖关系以及类似的复杂任务对开发人员来说都是艰巨的。他们可以选择自己管理基础设施,减少编码时间并创建影子运维,或者他们可以提交工单给运维人员,增加等待时间并加剧现有的瓶颈。
使用静态配置管理,开发人员和运维人员都得不到好处。因此,解决静态配置管理挑战的黄金路径具有优化更大范围流程的更大潜力。
组织不应该满足于静态配置管理,而应该实现动态配置管理(DCM)。DCM 是“用于构造计算工作负载配置的方法学。开发人员创建工作负载规范,描述工作负载成功运行所需的一切。然后将该规范用于动态创建配置,以便在特定环境中部署工作负载。” 使用 DCM,开发人员不会因需要为工作负载定义或维护任何特定于环境的配置而受阻。DCM 通过设计推动标准化,并实现真正的开发者自助服务。
Humanitec Platform Orchestrator 与工作负载规范 Score 的组合通过遵循RMCD(读取、匹配、创建、部署)模式实现 DCM:它读取并解释工作负载规范和上下文,匹配正确的配置模板和资源,创建应用程序配置并将工作负载部署到连接到其依赖项的目标环境。 平台编排器是任何企业级 IDP 的核心,因为它使平台团队能够在每次 git push 时强制执行组织范围的标准。
在他的 PlatformCon 2023 演讲中,von Grünberg 分享了一些例子,说明平台编排器如何促进具有重大影响力和可扩展性的黄金路径的创建。这些示例也出现在基于 AWS 的 Humanitec IDP 参考架构的设置中。
例如,下图所示的黄金路径可以更有效、更一致地将开发人员对工作负载所做的更改部署到 dev。
假设开发人员想要将工作负载上的更改部署到 dev。开发人员所要做的就是修改工作负载并将其推送到代码。从那里,CI 流水线获取代码并运行它,镜像被构建并存储在镜像仓库中。
工作负载源代码包含工作负载规范 Score:
在这个例子中,工作负载规范的 resources 部分说明开发人员需要一个 Postgres 数据库类型、S3 存储类型和 DNS 的 DNS类型。
CI 构建完成后,平台编排器意识到上下文并查找与其匹配的资源。它检查资源是否已创建,并访问亚马逊网络服务(AWS) API 以检索资源凭据。目标计算在此体系结构中是 Amazon Elastic Kubernetes Service (EKS),所以平台编排器会以清单的形式创建应用配置。 然后,平台编排器使用 Vault 在运行时将机密注入容器来部署配置。
这样的部署经常发生,所以优化这个过程对开发者和整个业务有很大帮助。
在静态设置中,许多黄金路径在面对系统不熟悉的开发人员请求时就会失败。使用 DCM,一切都是基于存储库的,开发人员可以扩展可用资源集或自定义资源。
例如,如果开发人员需要 ArangoDB 但迄今为止设置还不知道,他们可以将资源定义添加到组织的一般基线中。通过这种方式,开发人员已经以可以由下一个开发人员重用的方式轻松扩展了设置。
更新资源是一个很好的例子,说明平台工程师如何使用平台编排器保持高度标准化。
假设您想更新资源“Postgres”到最新版本的 Postgres。
使用动态方法处理黄金路径,您需要更新的“事物”只是指定 Postgres 的资源定义。
您可以通过 ping 平台编排器 API 或在资源定义部分的 UI 中查找当前依赖于资源定义的工作负载。 一旦确定,您可以在所有依赖资源的工作负载上自动强制部署。
通过这个黄金路径,在所有工作负载和依赖项中推出更新的资源变得简单且可扩展。
当平台团队投资于这些可扩展的黄金路径时,von Grünberg 认为,每个人都会受益。 利用平台编排器和 DCM 的黄金路径使开发人员和运维人员能够从 IDP 开发的最早阶段起更轻松、更安心地执行常见任务,提供更多价值。
根据 von Grünberg 的说法,使用这种方法铺设黄金路径还可以催生平台团队的一个重要心态转变。 使用 DCM,每一天都可以成为第 1 天,成为进一步优化和减少技术债务的机会。 这种转变使组织能够发挥平台工程的最大效用。
Humanitec 基于麦肯锡的研究创建了针对 AWS、Azure 和 GCP 的参考架构。这些资源更详细地演练了推荐的黄金路径示例,以及它们如何适应更大的 IDP 架构。 | https://yylives.cc/2023/09/10/how-to-pave-golden-paths-that-actually-go-somewhere/ |
让开发者访问生产环境的七大好处
当开发者可以访问生产环境时,他们可以直接与他们构建和部署的真实系统进行交互。
译自 7 Benefits of Developer Access to Production。
图片来自 Shutterstock 的 Juice Flair
平台工程已经成为现代软件开发的一个游戏规则改变者。它承诺通过自动化的基础设施运营和自助服务能力来革命性地改变开发者体验,并更快地提供客户价值。这种方法的核心在于一个关键方面:开发者访问生产环境。
让我们来探讨为什么为开发者提供访问生产环境对他们的生产力和产品的成功至关重要,以及它如何与平台工程的原则完全一致。另外,对开发者进行安全、受控的生产环境访问可以显著地减轻运维团队在重复任务上的操作负担,使他们能够优先把资源用于高价值任务,如基础设施扩展或安全增强。
当开发者可以访问生产环境时,他们可以直接与他们构建和部署的真实系统进行交互。这种访问转化为更高的生产力,减少了与独立运维团队沟通以诊断和解决问题的需要。这种第一手的交互意味着开发者可以即时诊断、故障排除和纠正他们检测到的异常或低效,而无需等待反馈或遍历官僚过程。
通过沉浸于生产环境中,开发者可以获得宝贵的洞察力,识别潜在的瓶颈并使用真实世界的数据微调他们的代码,这导致了更快的迭代和更高效的开发流程,这在他们的本地开发环境中是难以实现的,因为本地环境通常无法完全重现生产环境的实际行为。
在软件开发的快节奏世界里,每一分钟都很宝贵。因此,解决问题的延迟可能会导致相当大的挫折。
当开发者可以访问生产系统时,他们可以迅速诊断和解决问题,最小化平均故障解决时间(MTTR)。这种能力在高压情况下特别有益,比如系统故障,开发者对代码库的第一手经验通常意味着更快地找到问题组件,并确切知道需要收集哪些日志、事件或数据来进行故障排除和诊断。
这种实时故障排除和调试的能力不仅可以减少停机时间,还可以提高系统整体稳定性,因为它更容易预测潜在的系统瓶颈或故障。开发者可以提供对可能影响系统性能的未来更新或更改的见解,让运维团队有时间准备。
授予开发者访问生产可以培养责任感和所有权。当开发团队对产品的性能和可靠性负责时,他们会对其成功负更多责任。这种责任感驱使他们交付高质量的代码,并积极参与维护应用程序的健康。
对生产环境的良好规范访问应该在开发和运维团队之间建立共享责任模式,因为系统运行时健康和正常运行时间的责任变成了共同的努力。这种协作方式确保开发和运维团队在目标上保持一致,减少误解或优先顺序不一致的可能性。
当开发者可以自由探索和实验时,他们就可以发挥最大的创造力。通过提供生产环境的访问,组织可以使他们的开发团队进行创新并推进界限。开发者可以直接在生产环境中原型和验证新功能,这将导致更具创造性和创新性的解决方案。
在传统设置中,来自运维团队的反馈可能需要时间才能传达给开发者。然而,通过直接访问生产环境,开发者可以通过收集日志、数据样本和事件,即时了解他们的代码对性能、扩展性的影响。此外,来自实时环境的数据和见解使开发者能够做出明智的决定,根据实际用户交互精炼他们的代码,并逐步改进软件。
这个反馈循环支持持续改进,导致更快、更可靠的更新。这种直接参与不仅精简了开发和维护过程,还确保解决方案针对现实需求和挑战,从而缩短开发周期和减少上市时间。
在大多数传统设置中,运维团队充当生产环境的守门员。虽然这有助于保护生产环境免受某些风险,但它也迫使运维团队参与重复性任务,如收集日志和事件、调整配置、分析有效载荷等。通过向开发者授予对生产的受控访问,运维团队可以减轻现有的负担,提高整个团队的生产力。运维团队可以更多地关注战略任务和主动的系统改进,而不是陷入日常故障排除的泥潭。
从本质上讲,允许开发者访问生产为他们与运维团队之间建立更加互利的关系铺平了道路。它促进协作,促进知识交流,最重要的是,确保两个团队和谐地为一个共同目标而努力:提供无缝、弹性的用户体验。
当开发者可以直接在生产中调试时,组织可以显著减少日志记录成本,避免进行昂贵的重新部署或仅仅为添加新的日志行而启动新的 CI/CD 周期。这种直接访问加速了问题解决,消除了不必要的重新迭代支出。成本优化也影响运维团队:在开发者自主解决某些问题的情况下,运维团队可以更好地分配资源,优先处理需要他们特定专业知识的任务。
Lightrun 的开发者可观测性平台通过动态日志添加、指标集成和虚拟断点简化了生产应用程序中的调试过程,而无需进行代码更改、应用程序重启或重新部署。
Lightrun 的平台通过以下方式为开发者提供对生产的访问:
动态日志,允许开发者在生产代码库的任何位置添加新的日志行,无需编写新代码或重新部署应用程序,并且不会丢失状态。
-
快照,是虚拟断点,提供了典型的断点功能,而无需停止执行,允许它们直接在生产上使用。 捕获快照后,开发者可以查看捕获的数据并对其采取行动。
-
指标,可以实时和按需监控生产应用程序。 例如,它们可以监控数据结构的大小变化,允许用户找到只能在生产系统上重现的错误。
-
虽然为开发者提供生产访问具有优势,但它也带来了安全性、审计和数据保密等挑战。 Lightrun 如何解决它们:
安全性:Lightrun 实施了强大的安全措施和访问控制,以防止未经授权的访问并降低风险,确保对生产的受控安全开发者访问。
-
审计和合规性:其全面的审计系统有利于持续的合规性监控,简化审计流程,确保遵守行业标准。
-
数据保密:它保护生产环境中的敏感数据,防止日志和快照中暴露。这使开发者可以安全合规地使用生产数据。
-
受控访问管理:Lightrun 使组织能够为用户和角色定义精确的访问控制,创建一个安全协作的开发环境。
-
允许开发者访问生产环境是平台工程的基石。它使他们能够更有效地创建、创新和维护自己的产品,最终有利于整个组织及其客户。
为开发者提供生产访问对生产力和产品成功至关重要,强大的平台像 Lightrun 是这个策略的一个强大促进器。 | https://yylives.cc/2023/09/11/7-benefits-of-developer-access-to-production/ |
新一代可观测性:平台工程中的监控与分析
可观测性通过提供实时洞察、异常的主动检测以及信息化的决策制定,重塑了平台管理。
这是一部关于平台工程的诗歌。译自 Next-Gen Observability: Monitoring and Analytics in Platform Engineering 。
图片来自Pixabay 的 Михаил Прокопенко
随着应用程序变得越来越复杂、动态和相互关联,需要强大、有弹性的平台来支持它们已经成为一个基础要求。平台工程是打造这种强大基础的艺术,涵盖从编排微服务到大规模管理基础设施的各个方面。
在这种背景下,新一代可观测性的概念作为平台工程卓越的关键使能者而出现。可观测性超越了传统的监控和分析边界,为复杂的软件生态系统的内部运作提供全面深入的视图。它不仅仅停留在可见性,而是赋予平台工程师洞察复杂分布式系统、快速响应事故以及主动优化性能的知识和工具。
平台工程提出了需要创新解决方案的独特挑战。随着平台的发展,它本质上会变得更加复杂,包含大量相互关联的服务、微服务、容器等。这种复杂性引入了许多潜在的陷阱:
分布式特性:服务分布在各个节点和位置,很难理解它们之间的交互和依赖关系。
-
扩展需求:随着平台使用规模的扩大,确保所有组件无缝可扩展变成一个优先事项,这需要动态资源分配和负载均衡。
-
弹性要求:平台故障或性能下降会对依赖它们的应用程序产生连锁反应,因此平台弹性至关重要。
-
新一代可观测性以变革力量的姿态迎头直击这些挑战。它为平台工程师提供了看透表面,深入洞察服务交互内在运行、跟踪数据流动以及理解整个平台性能特性的工具。通过聚合指标、日志和分布式追踪的数据,可观测性提供了超越独立监控工具局限性的全面视角。
本文探索了新一代可观测性与平台工程的结合。它深入探讨了可观测性如何通过提供实时见解、异常的主动检测以及优化资源利用的信息化决策重塑平台管理。通过将可观测性的力量与平台工程的艺术相结合,组织可以构建弹性强大、高性能的平台,这些平台构成了现代应用程序的基石。
平台工程在塑造应用程序构建和交付的基础方面发挥着关键作用。在其核心,平台工程包括设计、开发和管理支持整个应用生态系统的基础设施、服务和工具。
平台工程是为了让应用程序蓬勃发展而创建所需技术基础的学科。它涉及创建一个内聚的服务、库和框架生态系统,以抽象复杂性,使应用开发人员可以专注于构建差异化功能,而不是与基础设施的复杂性作斗争。
平台的一个决定性特征是它们错综复杂的相互关联的服务和组件网。这些组件范围从微服务到数据库、负载平衡器、缓存系统等。这些元素无缝协作以提供应用程序所依赖的平台所需的功能。
平台环境的管理具有内在的复杂性。协调各种服务、确保无缝通信、管理资源的扩展和缩减以及维持一致的性能水平提出了一个多方面的挑战。平台工程师必须在考虑安全性、可扩展性和可维护性等因素的同时应对这些复杂性。
平台故障造成的影响会超出平台本身的范围,给整个应用生态系统投下广泛的阴影。这些干扰会产生连锁反应,导致宕机时间、数据丢失以及愤怒和失望的客户群。其影响不仅仅是直接的财政损失;它们还会对一个公司的声誉造成长期的损害,侵蚀信任和信心。
在当代环境中,用户期望依赖于始终如一的、可靠的体验的交付。平台性能上的任何失误都有可能损害用户满意度。反过来,这可能导致令人沮丧的连锁反应,表现为用户流失和错过业务增长机会。保障高质量用户体验的先决条件需要平台本身的健壮性。
进入可观测性的关键概念——现代平台工程体系结构的基石。可观测性充当希望的灯塔,为平台工程师提供了一套工具,这些工具超越了单纯的可见性。这些工具使工程师能够超越表面,深入探索平台核心的复杂机制。
这种动态洞察力使他们能够浏览复杂交互的迷宫,及时诊断问题并实时提供补救措施。凭借其揭示平台内部运作的深刻能力,可观测性使工程师能够快速识别和解决问题,从而减轻干扰的影响并加强平台抵御逆境的弹性。
在平台工程的复杂性中,大量服务协同工作以提供一系列功能,理解分布式平台中的复杂相互作用提出了一个艰巨的挑战。
这个挑战的核心在于一种由相互关联的服务网组成的复杂性,每个服务都有特定的任务和职责。这些服务的范围通常跨越大量节点、容器,甚至地理位置。因此,跟踪单个请求在这个复杂网络中导航的过程成为一个充满复杂性和细微差异的努力。
在这种迷宫般的环境中,分布式跟踪的灯塔出现为一个强大的解决方案。这种技术,类似于解开一根紧密编织的线,照亮了请求在服务范围内的流动。通过捕获这些复杂的旅程,分布式跟踪揭示了服务依赖性、导致延迟的瓶颈以及复杂的通信模式的内在联系的见解。仿佛被赋予了看到编织平台结构的线的能力,平台工程师获得了每个请求所进行的旅程的整体视图。这种新发现的清晰度使他们能够精确定位问题并敏捷优化。
然而,分布式跟踪的优势超越了单个服务的小天地。得到的洞察力延伸其范围,涵盖整个平台。平台工程师利用这些洞察力发现跨多个服务的系统性问题。影响整个平台的瓶颈、延迟波动和故障被及时带到光明中。其结果影响深远:性能提高,宕机时间缩短,最终,显著提高了用户体验。在平台工程的复杂舞蹈中,分布式跟踪成为一个灯塔,驱散复杂性,照亮通往最佳性能和弹性的途径。
在可观测性的核心,指标和监控占据中心舞台,提供平台活力和效率的全景视图。
指标,那些可量化的路标,展开了一个数据编年史,封装了平台的多方面功能。从 CPU 和内存的利用率到响应时间的迅速节奏和错误率的拼图,指标展示内部运作,显示了平台运营健康的清晰画面。
这对角色的一个并行功能是监控的艺术——一种持续的监视,揭示了预期标准的偏差。充当数据哨兵的指标会勤奋地标记资源消耗的突然激增、令人困惑的错误率出现或性能建立模式的偏差。然而,监控的作用超越了简单的警报;它是一种前瞻性的灯塔。通过持续监测这些指标,监控预测可扩展性的需求。随着平台使用的起伏,用户和请求的激增和衰退,平台的编排必须与之同步。主动监控警惕地站岗,确保动态分配资源,并准备好满足需求的激增。
在指标和监控的舞蹈中,平台可扩展性的动态性凸显出来。在现代平台的编年史中,可扩展性被编织为一个内在的线程。随着用户及其请求的起伏,服务及其负载的变化,平台必须是可塑性的,并能够优雅地扩展和收缩。 可观测性扮演连接角色,通过实时心跳的转化赋能平台工程师。依靠可观测性提供的洞察,工程师监督平台性能的起伏,确保采取主动而不是反应式的扩展方法。因此,随着平台交响乐的展开,可观测性奏出其和谐的音符,在不同负载下指挥平台的优雅芭蕾舞。
在平台工程的复杂编年史中,日志出现为揭示平台事件故事的文本编年史。
日志扮演着文书的角色,记录平台领域内事件、错误和任务的叙述。通过其精心结构的条目,它们为各个组件所承担的努力创建了一个按时间顺序的踪迹。从日志中获得的见解为可观测性提供了一个上下文背景,使平台工程师能够解剖导致异常或事故的序列。
然而,在复杂平台内多服务环境的背景下,聚合和分析日志变得令人生畏。随着大量服务的共存,在各种节点和实例上收集日志的任务变得艰巨。将这些分散的日志统一起来创造一个连贯的叙述提出了一个巨大的挑战,这种环境生成的海量日志也加剧了这个问题。
解决这个复杂挑战的解决方案为高效日志分析铺平了道路。以 ELK 堆栈(包括 Elasticsearch、Logstash 和 Kibana)为代表的日志聚合工具就是良好的指引灯塔。这些工具促进了日志的集中收集、索引和可视化。平台工程师搜索、过滤和分析日志的努力得到这些工具的加强,提供了简化的过程。快速跟踪事故起源成为现实,使工程师在有效故障排除和缩短解决时间方面更上一层楼。随着日志从单纯的条目发展成为洞见拼图,这些工具在可观测性的增强下,照亮了通往增强平台理解力和弹性的道路。
在平台内广泛的服务中进行代码 Instrumenting 是实现细粒度可观测性的门户。
这里有一些要考虑的因素:
细粒度可观测性数据:检测涉及 Instrument 具有监控功能的代码,以洞察服务行为。这使工程师能够在代码级别跟踪性能指标、捕获追踪并记录事件。细粒度的可观测性数据提供了对每个服务交互的细致视图,有助于全面理解。
-
检测的最佳实践:有效的 Instrumenting 需要深思熟虑的方法。平台工程师需要仔细选择要捕获的指标、跟踪和日志,而不引入过多开销。最佳实践包括使检测与关键业务和运营指标保持一致,考虑采样策略以管理数据量,并确保与可观测性工具兼容。
-
代码级可观测性用于识别瓶颈:代码级可观测性在识别影响平台性能的瓶颈方面发挥关键作用。工程师可以跟踪请求流、查明延迟高峰并分析服务交互。通过理解服务如何协作和识别资源密集型组件,工程师可以优化平台以提高效率。
-
主动监控使平台工程师能够在问题升级成重大事故之前预先识别潜在问题。
主动监控方法涉及设置警报和触发器,基于预定义阈值检测异常。通过持续监测指标,工程师可以及早发现预期行为的偏差。这使他们能够在用户受影响之前采取纠正措施。
可观测性数据可无缝集成到事故响应工作流程中。发生事故时,工程师可以访问实时的可观测性洞察力,快速诊断根本原因。这通过提供即时上下文和可操作的数据来缩短平均故障解决时间(MTTR)。
可观测性在事故期间提供对整个平台行为的实时洞察。工程师可以分析跟踪、指标和日志,以跟踪问题在服务之间的传播。这有助于准确的根本原因分析和快速补救。
随着平台的增长扩展可观测性带来了与数据量、资源分配和工具功能相关的挑战。大量服务生成的海量可观测性数据可能会压垮传统方法。
为了管理涌入的数据,可观测性管道发挥作用。这些管道促进了可观测性数据的收集、聚合和处理。通过战略性地设计管道,工程师可以管理数据流、过滤噪音并确保相关的洞察力可供分析。
可观测性不是静态的;它与平台扩展同步发展。随着平台架构、服务和用户群的演变,工程师需要不断评估和调整他们的可观测性策略。这可以确保可观测性在支持决策和优化方面保持有效。
在其核心,可观测性为平台资源利用的动态交响乐展开实时洞察。诸如 CPU 使用率的节奏、内存消耗的节拍和网络延迟的音调等指标奏出和谐的音符,为工程师提供指引。这些指标就像乐谱上的音符,揭示了使用不足的仪器和过度使用的和弦。这样的洞察推动工程师明智地分配资源,灵活地在扩展和保守、平衡和分配之间取得平衡。
然而,可观测性不仅仅是一个地图;它是艺术家的调色板。用数据浸润的画笔,它赋予工程师打造精准表现的能力。在可观测性数据的复杂画布中蕴含着艺术家诊断性能限制和低效领域的能力。跟踪和指标揭示秘密,指出延迟音高、过度资源奢侈和服务依赖关系的互动导致的减速。依托这些启示,工程师承担起娴熟的斗篷,微调平台的组件。目标不外乎是最佳性能,一种效率的交响乐,在整个平台中回荡。
生动的案例研究作为案例,提供了可观测性转型影响的生动画面。这些故事讲述了通过可观测性获得的洞察如何产生有形的性能改进。这些编年史讲述了响应时间缩短、精简操作和协调体验的故事。这些不仅仅是轶事,而是可观测性数据编织进工程决策的织物,指挥性能飞跃的展示,产生可识别的收益。在平台工程的复杂编舞中,可观测性扮演多个角色——一个指导者、作曲家和性能增强的建筑师。
在业务运营和用户满意度的复杂互动中,可观测性作为一个安全网出现,作为监视商业连续性和提高用户满意度的哨兵。
在业务运营领域,可观测性是抵御平台中断风暴的哨兵。这种中断的动荡会扰乱业务运营,侵蚀用户信任的基石。可观测性介入,指挥故障识别和解决的敏捷芭蕾。在这种动态舞蹈中,工程师利用实时洞察作为灯塔,精确定位导致问题的难以捉摸的根本原因。可观测性的力量确保恢复迅速,影响减小,这证明了它在最小化宕机影响方面的作用。
然而,可观测性的画布延伸到业务运营领域之外。它将触角伸向用户体验的边界。在这里,它揭示了一个引人注目的相关性——平台健康状况与用户满意度保持同步起舞。迟缓的响应、不协调的错误或者服务的明显缺失会破坏用户体验,导致失望甚至流失。可观测性数据照亮的用户互动门户成为工程师透过的望远镜。这一视角让工程师一窥用户的情绪及其互动。可观测性揭示的洞察为工程师铺平了一条道路,使平台行为与用户情绪保持一致,编排促进积极体验的主动措施。
最后,案例研究阐明了可观测性的变革力量。这些真实世界的故事讲述了可观测性驱动的优化如何与用户满意度的织物交织。
从精简电子商务领域的结账过程到优化视频流体验,这些例子证明了可观测性在打造以用户为中心的平台方面的作用。在这个平台工程交响乐中,可观测性扮演指挥的角色,协调业务连续性与用户满意度的和谐。
可观测性不仅仅是一个工具;它是一个思维方式,重塑我们如何理解、管理和优化平台。软件工程世界正在发展,拥抱下一代可观测性力量的人将更好地 Equipped 构建健壮、可扩展和以用户为中心的平台,定义未来。
在你的平台工程之旅中,记住通往卓越的道路由洞察、数据和可观测性铺就。接受这种范式转变,通过将可观测性融入战略的 DNA,使你的平台工程努力达到新的高度。你的平台不仅会经得起复杂性的风暴考验,还将变得更强大、更具弹性,并准备重新定义可能的界限。 | https://yylives.cc/2023/09/12/next-gen-observability-monitoring-and-analytics-in-platform-engineering/ |
Spotify 如何实现 99% 的内部平台自愿采用率
我们与 Spotify Backstage 的首席工程师就让开发者自愿采用平台工程所需要的激励措施进行了交谈。
译自 How Spotify Achieved a Voluntary 99% Internal Platform Adoption Rate 。
Spotify 工程部门主管 Helen Greul 在接受 The New Stack 采访时表示:“首先出现了微服务革命,这在某种程度上解放了我们。然后 Kubernetes 革命塑造了云原生环境。随着云计算势头渐起,对跨环境的高效编排和管理的需求日益增加。所有这些为团队提供了试验的敏捷性。”
“但有利就有弊,在我们的案例中,开发者的负担日益增加。我亲眼目睹了开发者职责的扩大。”她继续反思促使平台工程崛起的动力。
平台工程是一种社会技术心态和最佳实践、工具链和工作流的集合,旨在减少摩擦并提高开发者生产力。今年,在每个人都试图做更多但资源有限的情况下,这一学科的普及度呈现出流星般的增长。我们也目睹了最受欢迎的开源内部开发者平台 Backstage 的采用量呈指数级增长。
The New Stack 自然而然地与 Spotify 坐下来,了解他们为什么在 Backstage 上投入如此多的时间和资金,并使其开源供其他团队利用。以及他们如何让他们的开发者也乐于使用它。
“作为招聘经理,你首先会雇佣一个能编程的工程师,但随后他们需要编程并交付成果。然后他们需要关注运行时。然后突然之间,他们需要管理跨环境,然后优化。” Greul 说,开发者的责任持续在 Spotify 爆炸性增长和扩展。
大约 5 年前,Spotify 工程部门意识到,仅仅通过雇佣更多开发者已经无法面对复杂性。现代平台工程概念随之诞生,目的是简化软件开发。
“我们在 Spotify 这里有一个平台的平台,这说明我们对此多么痴迷。” Greul 表示 Backstage 是最大的例子,但这家受欢迎的音频流服务还有其他几个内部平台,所有这些平台至少都是内部开源的。
“我认为,如果你正在构建一个面向开发者的产品,要么它将成为一个平台——如果成功且存在时间够长——要么它最终就会消亡。” —— Helen Greul,Spotify
有人会说,2023 年平台工程的兴起表明摆锤效应正在将开发者自治转向以平台为驱动的命令与控制。Greul 并不这么认为。她认为平台是为开发者提供选择的最佳方式,让他们有能力建立自己想要的黄金路径。
“开发者喜欢他们的平台和产品可以扩展。”她说。“我几乎想不出有哪些开发者使用的现成解决方案。”
Spotify 可能在公司文化和创新方面与众不同,但它的第一个目标对于大多数刚刚开始平台工程之旅的公司来说都非常贴切。首先也是最重要的是,他们想要一个目录来明确所有权。
“很难知道大多数微服务的所有者——存在散乱的情况,”Greul 说,“对我们来说所有权的概念非常重要。”所以这个内部开发者平台以一个软件目录开始——只有组件、团队和其他一些抽象,她概述道。这成为最初催生今天我们所知道的 Backstage 的第一块。
接下来——同样并不罕见 —— Spotify 工程团队试图抽象 Kubernetes 的复杂性。初具规模的平台团队正致力于解决编排、管理、部署、测试和健康技术质量等问题。
“这是它在内部爆炸式增长的节点。当我们开放时,”Greul 说。
接下来的需求是提供一站式服务,以了解最终容纳在内部开发者平台中的所有服务,以及清单和发布平台。
如果他们建立起来,他们就会使用它。
Greul 将 Spotify 平台策略的成功归功于其强大的内部开源文化:“任何人都可以自由地为公司内部的任何仓库做出贡献。没有什么代码库是锁定的。”
在这全新的内部开发者平台和关注开发者体验的时尚兴起之前,内部开源从一开始就是 Spotify 的全公司政策,作为确保组织流动性的一种方式。毕竟,她指出,一个有声读物的推出可能会利用多达 50 个不同的仓库。每个人都应该有机会改善自己的开发者体验。额外的好处是:参与建设的人越多,就越有动力去使用它,而不是其他选择——并向同事宣传它。
即使在 Spotify,Backstage 的使用也不是强制性的。“我们试图激励人们,使做正确的事变得更容易。” Greul 继续说道,“正确的事情是标准化,不太多,也不太少,但刚刚好。”
尽管如此,在 Backstage 的发源地,平台工程的采用率很高。但她说这是因为 Spotify 的团队遵循一种理念,即标准可以让你自由。Spotify 版本的 Backstage 在他们所谓的技术雷达中提供了三种前端技术和三种后端技术。
这个工具选择会经常重新评估,包括在季度调查中衡量开发者生产力。他们提供了很大的激励措施来坚持黄金路径,包括在内部广泛宣传成功案例和分享调查结果。
The New Stack 已经写过,这些黄金路径已被证明将 Spotify 的开发者入职时间从 110 天缩短到 20 天。
“作为一个加入 Spotify 的新人,你会在这些标准和模板的指导下完成旅程。” Greul 说,“你可以在某种程度上选择一个或另一个,但有一些警戒线作为你的入职培训的一部分。”
当然,组织内部可能会出现新工具,但她向我保证,Backstage 的即插即用风格允许最佳实践可以相当轻松地集成。
总的来说,在约一年的内部入职和推广后,她认为 Spotify 99% 的开发团队已经采用了 Backstage —— 因为这样做很方便。她指出他们的激励措施或平台即产品的心态是采用率如此之高的原因。
众所周知,Spotify 默认开源,Greul 推测这是因为“如果你想让某件事成为行业标准,软件就无法是专有的”,她认为所有技术标准化,至少在过去十年,都是通过开源路径实现的。这就是 Spotify 如何在 260 多个组织中铺平所谓的黄金路径。
但 Spotify 的公司文化并不普通。Greul 承认,许多其他采用 Backstage 进行平台工程的公司都在努力突破 10% 的采用率。
“他们经常会遇到路障,或者部署可能没有他们希望的那么顺利。”她说,“这就是为什么有时采用会遇到挣扎、停滞,或者无法超越概念验证(POC)的阶段。”
她说这一切又回到了激励上,“开发者必须看到这对他们的日常工作有何益处。” 对于一个创业公司来说,他们使用 AWS 管理控制台的认知负荷可能就很好,不会有改变的动力。“但一旦你达到一定规模,拥有工具来应对认知负荷几乎变得必不可少。” 通常,这时就需要一个 IDP。
你不仅需要说服开发者。业务利益相关者也需要理解,投资平台工程是必要的,以提高开发者生产力。
记住,Backstage 不是万能的现成解决方案。事实上,Greul 说 Backstage 可能不适合单体架构。
但是,在一系列访谈中,我们一直听到开发者对内部开发者平台的首要需求是可扩展性——平台工程与自上而下的命令与控制平台无关。
“Backstage 的独特卖点是你可以使它看起来和感觉起来像你自己的。你可以定制它来解决你的特定需求。” Greul 解释说,“对于开发者来说,通常没有一办法解决所有问题,他们喜欢保持独特的文化、工具和风格,让它看起来和感觉起来像一个自制的解决方案,即使它不是。”
最重要的是,它必须解决他们的问题。他们首要关注的通常是可发现性和标准化。
当然,她指出,这段发现之旅并不是从决定你需要一个内部开发者门户开始的。而是关于明确开发者生产力的挑战是什么,什么让开发者感到压力和熬夜。
归根结底,正如 Greul 所说,“对于一个面向开发者、理解开发者需求构建的产品,他们会认识到其价值,使用现成的就比在旁边做一些奇怪的事情更简单。” | https://yylives.cc/2023/09/13/how-spotify-achieved-a-voluntary-99-internal-platform-adoption-rate/ |
平台工程需要产品思维
平台工程不能强制推行,因为你得不到必要的反馈来鼓励进一步采用。要以平台即产品的思维。
译自 Platform Engineering Demands a Product Mindset 。
伦敦 - 如果你建立了,他们不会来。成功的平台工程师一直在敲打这一鼓点。不那么成功的平台工程师仍然认为他们知道最好的方式 - 毕竟,他们是工程师,所以他们肯定比开发者自己更了解开发者想要什么。
平台工程 - 这一专门致力于减少软件开发生命周期中的摩擦和烦恼的学科,以改善开发者体验 - 需要以平台即产品的思维方式。这意味着你的内部开发者平台不仅仅是在开发者的“思考中”构建,而是在整个过程中都有演示、原型和持续反馈。基本上,你的开发者变成你的客户。你会想方设法确保你正在构建他们想要的,因为否则他们不会使用它,你就会回到起点,除了浪费每个人的时间、金钱和信任。
在 CIVO Navigate 上,Syntasso 的首席工程师 Abigail Bangser 反映了真正采用平台即产品思维方式意味着什么,以及在多年平台工程角色中她在哪些方面做得不够好。
在数学中,拓扑结构即使被拉伸和挤压,也能保持牢固,即使在持续的压力和变化下也是如此。认识到软件开发团队可以以不同的方式布局,在压力下可以更可持续和灵活地适应变化,Matthew Skelton 和 Manuel Pais 创造了一系列他们称之为团队拓扑的原则和模式。
“团队的形状在整个组织中看起来有点不同,他们的互动方式也有点不同,所以他们将这些年来我们看到的模式编纂成码,”Bangser 解释道。
团队的形状可能各不相同,但大多数组织都有共同的团队类型。团队拓扑结构所说的流式组团队,通常称为应用开发团队,专注于为终端用户提供价值的产品和功能。
“在理想的世界里,100% 的工程师都会从事这件事,因为这是客户支付的,”她说。 “但现实情况是,你不能让 100% 的人从事面向客户的功能,因为他们需要依赖的基础要求有很多。” 随着云原生图景不断复杂化,你的依赖项也有依赖项,这就是为什么你要有其他团队来支持这些价值驱动的应用团队。
大多数组织都必须建立专业化团队,如测试、敏捷教练或数据库。还有一些复杂的子系统团队,在内部功能如 AI 或安全方面具有专业化。最后,有平台团队,它不断壮大,为大多数如果不是所有的应用团队提供基础服务,以交付价值。
在 DevOps 和持续交付管道的时代,特性团队越来越依赖这些支持的跨职能团队创建的工具,以便将自己的代码投产。
这三个团队努力减少流式组团队的认知负荷,其中平台团队通常将使能和复杂子系统团队的工作抽象和合并成更易于消费的工作流程和工具链。
团队拓扑结构还强调平台团队与其应用团队客户交互的三种方式:
协作 - 是人与人之间的,比如请求特定的人做一些事情,像是提供一个容器。当你是初创公司,每个人都坐在一起时,这种互动模式就够好了。无论公司大小如何,这对头脑风暴和测试新想法也很有好处。然而,协作无法扩展。它也可能是一个主要的摩擦源,通常会减慢部署并打断流状态。
-
促进 - 这遵循一对多的人际互动模式,其中文档、培训和实践社区可以扩展信息和知识。这在人员规模上是可扩展的。而开发人员出了名地推迟编写文档,而且通常没有时间进行额外培训。
-
X 即服务 - 从人与人的互动转变为开发人员通过 API 与内部平台进行交互。当考虑到开发团队客户时进行,这可以具有无限的可扩展性。
-
“作为一个拓扑结构,平台团队通常在不同阶段都运作这三种模式,” Bangser 说。这三种方式都很重要,在平台工程的世界中,并非一切都应该自动化,以免与客户疏远。
“我认为平台工程有很大的潜力,但我不认为我们总是利用这种潜力。” 最终, Bangser 认为,如果平台团队不将自己视为产品团队,平台工程计划最终往往会失败。
Bangser 反思了她在十几家公司建立平台的八年时间。在一家扩张的公司,通常会有几个应用团队致力于交付业务价值,这些团队由其他团队提供支持,如客户支持、财务和营销。或许更不寻常的是,每个不同的功能交付团队都有一个不同的亚马逊网络服务(AWS)账户。
“当我们还是一家小公司时,我们想让人们保持自治权并快速轻松地行动,但我们也想确保我们不会存在权限问题和相互践踏。让人们启动和运行的最快最简单的方式就是账户,” Bangser 说。随着团队的增长和分割,新的 AWS 账户被开设。
平台团队使用 Jira 提出新 AWS 账户的请求,然后平台团队会查看 Confluence 中的运行手册,然后再将适当配置的账户返回给功能团队。这种影子 IT 流程一直“足够好”,直到财务部门开始询问为什么它收到费用报告和要求报销 AWS 收费的个人信用卡。我们都知道云费用会如何积累。
Bangser 和她的团队深入研究了 Jira 数据兔子洞。正如她在 Syntasso 的同事 Paula Kennedy 之前对 The New Stack 所说,Jira 是平台团队发现重复工作、广泛疼痛和漫长瓶颈的绝佳第一步。
他们意识到,这不仅是不理想的财务跟踪,而且花费两周时间让这些团队使用新的 AWS 账户启动和运行。
“因此,我们检查了我们的流程,并意识到导致问题的就是这个手动运行手册,” Bangser 说。 “不仅仅是手动的。对我们来说很疲惫,因为人们不确定它。这也很麻烦,需要大量时间,所以人们避免使用它,”从而增加了平台团队的待办事项积压。
于是,他们自动化了运行手册,这最初似乎限制了意外开支,使财务部门感到满意。它为平台团队消除了一项令人沮丧、重复和手动的任务,这意味着更少的苦差事和更低的错误风险。
“现在,当一条 JIRA 工单进入时,我们点击一个按钮,运行一个脚本,就可以离开了,” Bangser 说。 “作为一个单独的团队,这大大减少了我们的上市时间。”
三个月后,财务部门重新审视了这个问题,意识到他们的问题并没有真正为他们解决。他们仍在收到意外的财务报告。
“问题是,我们解决了一个问题,而不是问题本身,”她说。 “我们需要从客户的角度来看这个问题,而不是从技术实施的角度 - 如何加快速度? - 我们需要考虑的是,试图创建账户的客户需要什么,以及我们作为一个产品团队该如何提供。”
他们正确地认为这两周的滞后时间是一个问题。 但他们将解决方案的重点放在平台工程师的经历上,而不是软件开发人员的动机上。
平台团队遵循要做的工作理论(Jobs-to-be-Done Theory)的发现之旅,这是定义、分类、捕获和组织客户需求的结果驱动创新框架。记住,对于平台团队来说,你的同事就是你的客户。
“要做的工作理论上说:无论数据对人们多大的意义,如果你不了解是什么驱动他们,也不知道他们需要通过你的产品来完成什么,那么你将不足以解决问题。” Bangser 解释道。
这种 Tony Ulwick 在本世纪之交开发的策略认为人口统计信息不是你最重要的潜在客户信息。重要的是回答:他们试图做什么工作? Bangser 解释了工作的四个特征:
与解决方案无关 - 有许多方法可以完成该工作。
-
你需要完成工作 - 必须有所进展。
-
工作随时间保持稳定 - 你可以创新以更好地完成工作,而不是为了创新。
-
没有需求仅仅是功能性的 - 也有社交和情感方面。的确,平台工程总是一个社会技术努力。
-
她使用日常生活示例解释了工作的不同之处:
一次性或意外的 - 骨折。
-
定期、重复或预期的 - 税季。
-
小的 - 做饭。
-
大的 - 搬家。
-
一个应用团队将(希望)采用内部开发者平台来完成运维工作。
“当涉及到内部平台时,我们需要了解客户 - 这些应用程序开发人员 - 需要实现的工作以及......他们希望如何构建和操作他们的软件,”Bangser 说。团队需要问:你为什么要创建一个 AWS 账户?
就像所有良好的客户关系一样,这需要进行对话,每天需要花费 15 分钟时间。
“你正在建立关系。表明你关心他们试图做什么,并且实际上关心他们试图做什么,因为他们是你的客户,对吧?你不想告诉他们他们是对是错。你不想与他们解决问题。你只想听听他们的想法。” —— Abigail Bangser,Syntasso
他们意识到,不同的应用团队具有不同的工作要完成,这导致他们打开 AWS 账户。他们可以在扩展超过两个披萨大小时分割团队。 一些项目想更快进入生产。有些想复制一个项目在新国家/地区推出。其他人想在所有产品中支持更多的身份验证选项。
Bangser 和她的团队意识到 AWS 账户是达到目的的一种手段:“他们实际上不知道为什么需要一个账户,当他们实际上只需要一个 S3(AWS 云计算存储)中的文档源,或者他们实际上只需要访问一台服务器就足够了。”
他们还意识到,团队仍在绕过平台引导的云访问路径,因为 Jira 会让他们感到害怕,而复制旧票证、使用个人信用卡并申请报销或者手动联系平台团队的朋友以帮助他们完成工作要容易得多。
“他们需要服务,而不是账户。”她解释说,这些应用程序开发人员“不是云专家。他们希望这个流程更容易接近和使用他们的用例。”
平台团队开始头脑风暴解决方案。
“我们对平台的发展方向有很多宏伟的愿景和想法,”Bangser 说,“但财务部门有时间表,我们必须尽快找到解决方案。”
他们确定了 8 种可能的解决方案:
简化 Jira。
-
创建一个 Slackbot 界面。
-
创建一个导师制度,现有的自信用户成为新用户的导师。
-
平台团队提供服务。
-
改变拉取请求服务。
-
与应用团队和平台工程师进行配对编程。
-
构建配置模板。
-
吸收账户。
-
然后他们比较了这些解决方案,考虑了成本与价值的关系,就是改进平台产品所带来的价值。并决定简化 Jira 作为一种平衡迅速安抚财务部门的需求与投资清晰接口以满足应用团队需求的方式。
“除了 Jira 很难自动化,”她说,听众都心知肚明地嘲笑道。 “我们遇到了任何代码都会遇到的同样问题,那就是我们想要快速反馈,但这并不总是易于获得的。” 因为代码需要花费时间编写、测试、实施和维护,她解释道,尤其是如果你不确定这是客户想要的。
“你必须给人们一些有形的东西来看,以获得现实的反馈。如果你告诉他们一个想法,他们要么有些心不在焉,要么确实不知道该如何回应你,”她继续说道。
因此,他们制作了 Jira 原型。反馈显示,在他们努力简化的过程中,实际上造成了更多压力。原型仅要求开发人员确定一个账户类型,但它没有解释这意味着什么,应用团队 - 他们了解组织的约束和工具的复杂性 - 甚至不相信这是对现实的准确描述。
他们返回到他们的理想决赛者,接受他们将不得不使用需要更多时间和资金的东西。他们选择聊天机器人,Bangser 在采访中进一步说明:“这允许与造成摩擦的现有界面保持更大距离,并为用户在提出请求时提供更多互动反馈循环。”
这第二轮发散思维获得了积极的反馈,他们继续实施了这种基于聊天机器人的平台工程解决方案。
她提醒 CIVO Navigate 的听众:“与您的客户交谈并尝试获取更快的反馈循环。平台被视为强制性的。即使不应该这样,如果它们是强制性的,产品就不会获得反馈。” | https://yylives.cc/2023/09/13/platform-engineering-demands-a-product-mindset/ |
平台工程的是是非非
平台工程最近很热门。为了帮助您区分事实和夸张,这里总结了各方对平台工程是什么和不是什么的观点。
译自 Platform Engineering: What’s Hype and What’s Not? 。
软件开发世界正在经历深刻的变革。将开发人员和运营人员融合在一起的 DevOps 可能进入了一个新篇章。在这个新世界中,新兴的平台工程学科正在迅速流行起来。
平台工程是设计和构建自助功能的实践,以减少开发人员的认知负荷,并促进快速软件交付。许多大型组织在获得 DevOps 好处方面仍然艰难,部分原因是将更多运维和安全问题“左移”到软件开发人员的领域中为开发团队制造了瓶颈。与此同时,面对越来越多重复性的耗费时间的任务,打断了开发人员高效编码的流程状态,许多开发人员越来越不想涉及运维和“你构建,你运行”的范式。
平台工程正在成为解决这些挑战的解决方案。但是在所有关于它的讨论中,很难知道什么是真实的,什么不是。为了帮助您区分事实和夸张,这里总结了各方对平台工程是什么和不是什么的观点。
有人认为平台工程是新来的。但大规模交付软件的数字平台构建没有什么新鲜的。它甚至早于 2000 年代中期 DevOps 运动的诞生。根据 Puppet 的 2023 年 DevOps 报告,大型软件公司几十年来一直采用平台方法,以便开发团队能够更快速和更高质量地构建、交付和操作应用程序。
特别是在企业空间,平台工程作为一种使大公司改进大规模软件交付的方法,正在迅速增长。Gartner 将平台工程(它可交换地称为“平台运维”)确定为 2023 年顶级战略技术趋势之一。Gartner 分析师预测,到 2026 年,80% 的软件工程组织将建立平台团队,其中 75% 将包括开发人员自助服务门户。
那些声称 DevOps 已经死亡并且平台工程已经取代它的人在夸大其词。软件工程师和 DevOps 评论员 Sid Palas 在 2022 年发推文说:“DevOps 已死,祝贺平台工程诞生!”“1. 开发人员不喜欢处理基础设施,2. 公司需要随着增长控制基础设施。平台工程使这两个事实能够共存。”
平台工程是 DevOps 和 SRE 的下一阶段演进 - 事实
平台工程没有对 DevOps 造成致命一击,更准确的说法是平台工程是 DevOps 和 SRE(网站可靠性工程) 的下一阶段演进。特别是,它有利于那些在等待内部批准或履行期间遇到代码生产瓶颈的开发人员。它还可以帮助开发人员按照自己的时间表交付,而不是按照他们的 IT 团队的时间表。它还可以帮助操作类型(例如 SRE 或 DevOps 工程师)的人,他们感受到了重复的请求履行和运营故障排除的痛苦 - 这种繁忙的工作阻碍他们为未来建立愿景。
作为 DevOps 文化核心的敏捷开发实践(例如协作、沟通和持续改进)还没有扩展到运维领域。这削弱了敏捷开发团队快速交付产品的能力。为了不永久地延续这种动态,DevOps 团队文化应该发展来支持平台工程,平台团队应该接受 DevOps 团队文化。
有些人,比如独立技术顾问 Sam Newman,认为平台工程只是另一个供应商生成的标签,可以贴在旧实践上,以掩盖我们积累的恐怖复杂的技术生态系统。Newman 担心的是,“单一”平台团队有风险成为他们本应该缓解的瓶颈,并且可能如此专注于管理工具,以至于忘记了结果。Newman 建议使用诸如“交付支持”或更好的“交付启用”之类的面向结果的标签,而不是使用“平台团队”之类的名称。
平台工程通过专门的团队为应用程序开发人员提供共享的自助服务平台,来解决扩展和加速 DevOps 采用的挑战。它最适合那些需要扩展和快速移动的更成熟的 DevOps 实践的企业。它通常不适用于小公司、单个开发团队或需要支持多个不同平台的情况,其中规模不是成功的驱动因素。
平台工程的一个定义是创建一组可重用的标准化工具、组件和自动化流程的实践,通常称为内部开发者平台(IDP)。IDP及其构建团队提供了开发人员完成日常任务的最低阻力路径。这些“黄金路径”内置了推荐的工具和最佳安全实践,使开发人员能够自助服务和自我管理他们的代码。
Gartner 和其他人建议通过将使用它的开发者视为客户来处理平台,以便他们反过来可以为组织的客户提供服务。与任何其他产品一样,在没有开发者的输入的情况下将平台强加于开发者不太可能产生积极的结果。因此,与内部消费者沟通以解决他们的需求至关重要。许多传统的基础设施团队不这样做,通常甚至不了解在他们的平台上运行的工作负载。
成功的 IDP 在允许开发人员保持高生产力编码的流程状态和通过自动化的全栈环境消除重复任务之间取得了平衡。开发人员可以更快地交付应用程序,因为平台工程师为他们平整了道路,使他们能够在每次签入时创建自己的环境。这使得开发人员可以在不等待或担心代码冲突的情况下查看、共享和测试应用程序。做得好的平台工程提供一流的开发人员体验; 在整个软件开发生命周期中为领先的工具、平台和云提供选择; 并为每个开发人员提供自助服务访问全栈环境。 | https://yylives.cc/2023/09/14/platform-engineering-whats-hype-and-whats-not/ |
DevOps工具链胜过现成平台
许多组织都在寻找一个可以购买和标准化的单一平台,但团队经常会在一个不适合他们的平台上挣扎。
译自 DevOps Toolchains Beat Off-the-Shelf Platforms 。
寻找企业级 DevOps 平台的浪潮正在形成,但有迹象表明,这些平台在性能上无法胜过将最佳单项工具组合起来的 DevOps 工具链。平台工程可能会进一步扩大平台和工具链之间的差距,为开发人员提供定制的、针对组织的预组装工具链。
DevOps 平台的概念比 DevOps 早了几年。当 DevOps 成为市场上必须具备的标签时,许多现有的用于工作项管理、版本控制和持续集成构建的一体化工具与 DevOps 保持一致。
对 DevOps 运动密切关注的人会明显注意到,这些工具的功能组中缺乏“Ops”。这些平台不包括运行手册、可观测性或基础设施管理等功能。
人们倾向于认为,将这些工具贴上“DevOps”标签是一个讽刺的营销策略。然而,使用 DevOps 这个名称的想法是帮助人们看到该产品可以成为 DevOps 工具链的一个重要部分。
通用 DevOps 平台通常涵盖计划、开发、版本控制和构建,有些的覆盖范围比其他的小。平台的范围越广,完成工作所需的努力就越大。
为了说明这一点,你可以创建一个基本上是执行任意命令的任务运行器的平台。这可以满足企业对 DevOps 平台的定义。你的部署流水线将包括一个命令序列,使用命令行界面和 API 调用来执行每个步骤。这样一个平台的价值很低。
所有流行的 DevOps 平台在工作项管理或持续集成构建等领域都有核心优势。在核心之外,其功能就不那么有用了。这不是一个弱点,因为成功的组织使用 DevOps 平台来建立基础,然后用专业的工具来补充,这些工具可以提高他们交付软件的能力。他们不依赖将其作为 DevOps 的唯一工具。
这就是为什么所有这些平台都提供了集成和扩展机制。
当你使用更多的专业化工具时,需要进行一定程度的集成。组合后的功能集必须带来生产力和性能改进,以抵消互操作性工作。如果你使用单一的DevOps平台,就不会有互操作性问题,但你的功能集将限于通用工具中可用的。
但是,与更丰富的功能集相比,互操作性问题有多大?
如果你创建一个由独立的工作项管理、版本控制、构建和部署工具组成的部署流水线,你可以形成一个整洁的顺序工具链,每个阶段都有清晰的交付。提交引用工作项。每个提交都会触发构建。构建过程创建的工件被上传到部署工具,并可以导致零接触部署到第一个环境。
通过这种轻量级的交付,多个工具组成的工具链优于通用平台就不奇怪了。这是经典的工具箱与瑞士军刀的场景,只不过我们谈论的是对软件交付至关重要的工具。你可能会带上一个瑞士军刀去野营旅行以备不时之需。然而,如果你的 builder 到现场时除了一个小的多功能工具外别无他物,你会谅解他对结果的顾虑。
“2023 年持续交付报告”证实了我们的直觉。报告发现,如果你使用更多工具,你成为顶级表现者的可能性会加倍。你的前置时间会更短,部署频率更高,服务恢复更快。报告发现 CI/CD 工具预测较高的表现,并且使你成为低端表现者的可能性大大降低。
报告中的一个警示故事是,自托管太多 CI/CD 工具会降低性能。当团队自托管超过两个 CI/CD 工具时,这一点显而易见,表明运营负担变得分心。由于大多数这些工具都以托管解决方案的形式提供,远离自托管工具可以减轻负载。
平台工程与 DevOps 运动深度相关。该概念基于 Matthew Skelton 和 Manuel Pais 关于团队拓扑的工作,其中平台团队的目的是“使面向流的团队(如特性团队)能够相当自治地交付工作”。
平台工程团队通过抽象掉开发团队必须处理的某些复杂性,试图减轻开发团队的认知负担。平台团队可能关注的一个关键领域是部署流水线。假设开发人员可以访问由 DevOps 平台和许多最佳单项工具组成的顺畅 DevOps 工具链。在这种情况下,他们可以在没有互操作性和运营负担的情况下交付软件。这使团队可以获得“持续交付状态”报告的积极益处,而不会产生不利影响。
内部开发者平台可以按需生成整个部署流水线,部署和基础设施自动化准备就绪。开发人员可以创建流水线和项目骨架,然后开始开发第一个功能。你可能会称之为“即时 Hello World”,因为你可以立即将空应用部署到生产环境。
与买下架的通用产品相比,内部开发者平台是针对组织需求定制的,并且可以响应必要的变更。
根据我们对 DevOps 工具链的评估,你可以看到为什么平台工程存在于 48% 的高绩效 DevOps 组织中,根据 Puppet 的“平台工程状态报告”。
在企业范围采用工具链是一项艰巨的任务。因此,许多组织正在寻找一个可以购买和标准化的单一平台。这将提供低投资回报,因为团队难以在一个不适合他们的平台上实现高性能。
DevOps 平台很好地解决了经过深入探索的问题,但在边缘位置很浅。高绩效者使用最佳单项工具创建 DevOps 工具链,以加速软件交付。平台工程团队可以通过在内部开发者平台中提供完善支持的 DevOps 工具链来平滑路径。 | https://yylives.cc/2023/09/17/devops-toolchains-beat-off-the-shelf-platforms/ |
开源平台工程指南
了解构建基于 Kubernetes 的开源内部开发者平台的步骤,以及为何你应该投资平台工程来打败运维散乱。
译自 A Guide to Open Source Platform Engineering 。
毕尔巴鄂 - 2023 年平台工程的兴起是摆脱背离开发人员自治的一部分,但并非完全回归瀑布式命令与控制。我们希望开发人员保留他们的选择感,鼓励这些富有创造力的工作者的问题解决能力。但我们也希望减少工具散乱,以及随之而来的成本和风险。
本周在 Linux 基金会的欧洲开源峰会上,开源社区成员着重强调使用开源栈完成工作的入门方法。这包括 Gedd Johnson,一名在 Defense Unicorns 工作的全栈工程师,这是一家为美国国防部等构建开源 DevSecOps 平台的咨询公司,他讨论了如何跟上这一平台工程的最新趋势。
最重要的是,Johnson 的演讲展示了如何利用开源平台工程的优势,描绘了一个完全基于自由和开源软件构建 Kubernetes 基础平台的示例。
“采用 DevOps 文化意味着团队对整个软件生命周期有完全的所有权,”Johnson 说。“团队在整个技术栈上都很熟练,”他们选择了适合其独特情况的栈。
但是,伴随大自由度和责任而来的是巨大的低效。
“如果你有采用 DevOps 文化的各个应用团队,他们从端到端拥有自己的流程,这些团队有倾向无意中将自己隔离开来,”他说。 “如果发生这种情况,你可以确信多个应用团队将重复解决同样的问题,且不一定局限在应用代码层面。”
他给出了在亚马逊网络服务(AWS)上构建的这样一个组织的例子。
“在 AWS 上部署的一种非常流行的方法是使用弹性容器服务(ECS)。如果你有多个使用 ECS 的应用团队,而这些应用团队相互隔离,你可以确信他们都会以自己的方式解决在 ECS 上部署应用的问题,”Johnson 说。
一些应用团队可能会采用 TerraForm 的基础设施即代码方法。其他人可能只是通过 AWS 控制台“点击操作”,滚动浏览菜单以找到合适的选择。每个团队在其应用前都可能使用负载均衡器,但可能出于不同原因选择不同的负载均衡器。
“即使只看一个 AWS 服务 ECS,也有多种不同的做事方式,我只是谈论 ECS,”他观察到。“在整个 AWS 中,有数百种部署应用的方法,如果没有任何组织级指导和意见,你最终会出现所谓的运维散乱。”
Johnson 将运维散乱定义为云环境过载重复且稍有不同的工作,通常没有选择工具或流程的初衷背景。这种散乱发生在所有这些意外的筒仓之间 - DevOps 诞生的讽刺结果,其目的是打破筒仓。
“这也很可能非常昂贵,因为你的云账户中可能存在大量闲置的资源,”他继续说道。 “最后,如果每个应用团队都有自己独特的部署流程,意味着你的安全和合规工程师必须重新认证这些独特的应用,那么安全性和合规性尤其困难。”
每个人对平台工程的解释都不同。Johnson 说:“平台工程的目标是标准化部署和操作应用以及其基础设施的过程。” 平台策略从发现每个应用团队使用的各种工具和流程开始,然后“对部署应用和操作其基础设施的最佳、最强大和最相关的上下文方法形成意见”,从而确定、实施和自动化通往生产的黄金路径。
除了黄砖块,黄金路径还包括什么?Johnson 说,这可以从创建可重用的持续集成流水线开始,这些管道强制执行静态代码分析和依赖项扫描,一直到通过“将应用程序范围限定为使用运行所需的最少权限集”来简化您的(可能非常昂贵的) AWS 帐户。
现在,如果你已经在 The New Stack 上阅读了一段时间,你会知道内部开发者平台如果是自上而下的举措就不会成功 - 这绝对是制定你的工程师不想要的计划的良方。因此,在内部启动平台作为标准化和意见领导时,您必须小心 - 因为它开始使人们“正当地”担心他们的自治正在被剥夺 - 毕竟,在 DevOps 世界中,他们的团队拥有全部控制权。
“平台工程似乎要夺走这种自由,回到一个其他团队在没有适当的上下文的情况下决定应用团队如何做事的世界,”Johnson 警告说。“事实上,平台工程的关键在于平衡你给予开发者的自由度与平台的基本意见。”
或者,正如 Spotify 所说,标准可以令你自由。
为了让你的 DevOps 驱动的应用团队买入这个新的伪自由,你需要向他们解释什么是平台工程 - 作为一个新兴学科,行业还没有在内部开发者平台(IDP)的单一定义上达成一致。
“简单来说,平台只是应用程序在生产环境中有效运行所需的一组基础服务和功能,”Johnson 说。平台驱动的自动化使做正确的事变得非常容易,做错误的事变得非常困难。
尽管每个 IDP 都应该基于您的运维扩展爬行结果的自然唯一性,但他的团队已经发现了完全免费开源平台工程策略所涉及的一定模式。Johnson 向我们介绍了在前端和后端层面上,您希望您的应用团队专注于为最终用户提供价值时需要构建什么。
监控和可观测性需求在您的组织中可能是相同的,这是开始您的平台之旅的公平之处。
“当这个应用被部署时,工程师会想知道它是否真的被部署了,它是否健康,是否可达,以及这个应用的性能如何,”Johnson 说,这就是为什么在最低要求中,任何抽象都必须包括保证和健康检查、连接监控和“类似 CPU 和网络方面的一些定量洞察应用性能”。
他建议使用 Kubernetes dashboard Metrics Scraper 来实现这一点。
Johnson 说,工程师将希望实时查看日志,以及查询历史日志,这意味着您需要日志栈。 “应用程序会向特定目录发出日志,我们需要日志扒手从该目录获取日志,然后将它们转发到日志数据库。”
Logalyzer 和 OmniSci 是流行的开源日志扒手。
然后,您需要仪表板,以便工程师轻松查看其日志记录和监控。 Johnson 说,为了安全地做到这一点,这需要使用 TLS 进行网络加密。 每个应用程序可以实现自己的 TLS,或者您可以指向某个中心化证书颁发机构或 CA 服务器,然后手动传递证书 — 但任何手动操作都会导致您的运维散乱。 因此,他提供了添加服务网格的替代方法,该服务网格执行相同的功能,而无需接触应用程序代码。
负载均衡器和 DNS 记录将通过创建公共接口使应用程序可供其最终用户访问。
这将决定您的平台工程策略的成败。 此开发者门户应启用自助服务,以便开发人员弄清楚他们需要做什么。 它还应提供一种在一个地方轻松查看所有这些仪表板的方法,并随时为他们提供应用运行状况的快照。 此外,此开发人员门户使他们可以看到其他团队在做什么以及谁拥有什么,为跨组织提供清晰度并启用重用。
内部开发者门户应该让他们相信平台工程是前进的方式,并让他们真正采用它。
“随着更多用户与应用程序和平台进行交互,我们可能想要一些机制来扩展和缩减这些各种资源,”Johnson 说,“以便我们可以有效利用底层计算能力运行它们。” 他建议使用 Kubernetes 资源缩放器。
“在某个时候,应用程序或这些平台组件中的一个会有一个 0-day 关键安全漏洞,这个系统将被黑客入侵,”他警告说。 这要求运行时安全组件来识别此漏洞并警告团队。
选择免费开源软件并不典型的免费,无论是时间还是精力。 “基本上有无数移动部件和技术决策你必须做出来构建你的应用开发者实际想要使用的东西,并且它很容易操作,”Johnson 说。 这就是为什么许多组织选择直接外包给他们的云提供商。
然而,在 Defense Unicorns 正在工作的高度规范化、出口受限的环境中,三大提供商提供的可能还不够,这将迫使您构建自己的平台。
好处是,通过选择开源路线,您能够避免供应商锁定。
Defense Unicorns 选择使用 Kubernetes 构建他们的开源堆栈,他称之为平台工程的基石 - 以及通常触发采用平台路线。
“在其核心,Kubernetes 所做的就是提供一个非常强大和可扩展的 API 来管理容器。这个 API 非常受欢迎,以至于 Kubernetes 已经成为部署容器的事实标准,无论是本地还是云端。” 但 Johnson 警告说:“当您选择采用 Kubernetes 时,您的云提供商曾经为您提供的许多平台组件现在您要拥有、操作和维护并更新它们。”
这就是为什么他建议有一个专门的平台工程师团队来构建和维护-当然还要与他们的内部应用开发客户保持紧密的反馈循环。 但他认为,好处通常超过成本,因为“使用 Kubernetes 作为基础,我们可以使用完全免费和开源软件来构建整个系统”。
Johnson 在峰会上与 OS Summit 共享了国防部的 Platform One DevSecOps 计划创建和外包的 Big Bang。 “Big Bang 是一个开源的基线声明,用于创建一个安全的基于 Kubernetes 的平台,”他说,这是美国空军创造的。
Big Bang 旨在采用最广泛使用和采用的开源组件,并将它们打包成一个可以一起部署的 Helm Chart。 所包含的这些免费开源工具包括:
日志记录堆栈 - Promtail 和 Grafana loki。
-
监控栈 - Prometheus。
-
仪表板 - Grafana。
-
服务网格 - Istio 用于保护平台组件之间的流量以及集群的出口流量。
-
运行时安全性 - NeuVector,用于监控集群异常或入侵。
-
资源缩放器 - Kubernetes。
-
持续交付 - Flux,其中具有 Helm 版本的概念。
-
AWS EKS 集群。
-
EBS CSI 驱动程序。
-
本质上,Johnson 解释说:“Big Bang 本身就是一个由所有这些各种平台组件的 Flux Helm 版本组成的 Helm Chart。” Big Bang 提供了默认配置,该配置会自动连接许多平台组件。
他在台上进行了现场演示,在几分钟内就能检查不到 50 个 pod 和虚拟服务的运行状况和连接性,包括 CPU 和内存利用率。
“你有所有这些花哨的图表向你的老板展示,我在这里检查的只是确认指标数据确实被计算和收集,我们可以查看它,所以现在对于日志,我们可以做的是转到 Grafana 的这个资源管理器选项卡中,”Johnson 说。 此外,使用此开源平台工程堆栈,您可以查看最新日志并查询历史日志。
您在发现模式下训练 NeuVector 一段时间,然后将其切换到保护模式,“它将使用在发现模式中学习的启发式方法来检测各种异常和入侵,您甚至可以将其设置为自动中和某些行为。”
国防部是一个庞大的组织,这使得它在数百个账户中遇到大量的运维散乱不足为奇,每个应用团队都拥有自己的流程,可以随心所欲地做任何事情。
另外,这些应用程序在高度规范化的环境中运行,处理高度敏感的数据。 任何基线体系结构都必须符合跨数百个应用团队的 NIST 800-53 要求。
“由于这种运维散乱,安全团队需要花费大量时间来认证这些应用在各种规范环境中运行,”Johnson 说。
他们实际上能够在 6 个月内构建和部署他们的开源内部开发者平台。
不过,与大多数 IDP 一样,主要目标是是否被采用。 Johnson 说,内部开发者平台必须具备两点:
它应该使开发人员的生活更轻松。
-
它应该增强工作流程。
-
“如果平台没有做到这一点,那么从根本上说我们错过了目标。”
采用过程中也有一些阻碍。首先,他们意识到,虽然许多团队在云端运行 AWS,但很少实际上是容器化的 - 这是在 Kubernetes 中运行的先决条件。大多数要么在虚拟机中运行,要么完全是无服务器使用 lambda。
因此,在向人们推销平台之前,他们实际上需要团队投入一些工程周期进行容器化 - 大多数团队不愿意这样做。
“在一开始,我们更多地将这个平台营销给安全和合规工程师,并真正突出自动满足所有这些安全控制的价值主张。所以对实际的应用开发者的重视度较低,”Johnson 承认。
为了让应用团队上船,他们决定内部开源工作,“然后邀请他们来与我们一起构建,并鼓励这些社区采用,并对我们正在构建的内容保持透明。”
而与此同时,即使运维散乱开始得到控制,Johnson 的团队仍然必须运行和管理Kubernetes 和 Big Bang 的近 50 个pod。“当我说管理时,我的意思是检查镜像更新等事项,以及重构上游 Helm Chart 的任何重大变更及其值-这种情况比你想象的要常见得多。”
他会发现自己第十次重构 AWS 在多种日志记录方式上的日志记录部分。
“根据团队移动的速度和所做更改的数量,运行自制的基于 Kubernetes 的平台的运营开销可能相当荒谬,”Johnson 说。“所以在那里学到的教训是,在架构平台时,不要忘记权衡运营开销。”
不要假定 Kubernetes 适用于所有组织和所有平台——要有基于数据的明确的对 Kubernetes 的需求。一旦您承诺使用 Kubernetes,就很难抽身出那个技术决策。
最后,最初构建的 6 个月转化为 1 年。他了解到最好的平台来自前期广泛的用户研究,然后构建得更小、失败得更快。
最后,Johnson 建议平台团队关注问题,而不是技术:“所有这些流行词试图解决的核心问题类似于,我们如何使软件开发更轻松,我们如何构建更好的产品?” | https://yylives.cc/2023/09/24/a-guide-to-open-source-platform-engineering/ |
平台工程的六大支柱之一:安全
平台团队的工作流程和检查表,用于在其平台中构建安全性、流水线、预配、连接性、编排和可观察性。
译自 The 6 Pillars of Platform Engineering: Part 1 — Security 。本系列其他文章也会陆续发出,欢迎大家关注本公众号“云云众生s”和网站。
平台工程是设计和构建工具链和工作流程的学科,这些工具链和工作流程为软件工程团队提供自助服务功能。这些工具和工作流程组成了一个内部的开发者平台,通常简称为“平台”。平台团队的目标是提高开发者生产力,促进更频繁的发布,改进应用程序稳定性,降低安全和合规风险,并降低成本。
本指南概述了平台工程中六个主要的开发者体验技术领域的工作流程和检查表步骤。分六部分发布,本部分,第一部分,介绍了该系列,并侧重于安全性。(注意:您可以下载平台工程六大支柱的完整PDF版本,以获取完整的指导、大纲和检查表。)
在 HashiCorp 工作的解决方案工程师和架构师支持过许多组织,这些组织通过平台团队扩展其云操作模型,而这些团队实现其目标的关键是提供令人满意的开发者体验。我们观察到提供出色开发者体验的公司有两个共同主题:
标准化一组基础设施服务以减少开发者和运维团队的摩擦:这赋能了一个小型的、集中化的平台工程师组,具有正确的工具来通过 API、文档和倡导改进整个组织的开发者体验。目标是减少工具和流程的碎片化,从而提高您的软件交付系统和环境的核心稳定性。
-
将平台作为产品实践:传统 IT 项目通常有确定的开始和结束日期。但内部开发者平台情况并非如此。它永远不会真正完成。正在进行的任务包括 Backlog 管理、定期发布新功能以及向利益相关者更新路线图。考虑以迭代式敏捷开发的方式思考,而不是像瀑布开发那样大量前期规划。
-
任何平台都不应该在真空中设计。只有当开发者想要使用它时,平台才有效。构建和维护平台涉及与开发者(平台团队的客户)和业务利益相关者的持续对话和认可。本指南通过帮助平台团队围绕软件交付过程的六个技术要素或“支柱”以及每个要素的一般要求和工作流程来组织其产品,作为这些对话的起点。
平台战略的具体构建块是什么?在与各行各业的客户合作中,HashiCorp 的解决方案工程师和架构师确定了组成大多数平台的六个基础支柱,每个支柱将在单独的文章中解决:
安全性(包括简介)
-
流水线(VCS、CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
当开发者开始使用任何系统时,他们首先要问的问题是:“我该如何创建账户?在哪里设置凭据?我怎样获取 API 密钥?” 即使版本控制、持续集成和基础设施预配对启动和运行平台至关重要,安全也应该是首要关注的问题。早期关注安全可以从一开始就推动默认安全的平台体验。
历史上,许多组织投资于基于网络边界的安全性,通常被描述为“城堡和护城河”的安全方法。然而,随着基础设施变得越来越动态,如果不妨碍开发者速度,边界会变得模糊且难以控制。
作为回应,领先公司正在选择采用基于身份的安全性、身份代理解决方案和现代安全工作流程,包括凭据的集中管理和加密方法。这促进了在一个碎片化的解决方案组合中降低操作开销的同时,提高了可见性和一致的审计实践。
领先公司还采用了“左移”安全性;在整个软件开发生命周期中实施安全控制,从而提早检测和补救潜在的攻击向量,并提高对控制实现的警惕。这种方法要求默认自动化,而不是特殊强制执行。
启用这种 DevSecOps 心态需要支持现代基于身份的安全性的工具决策。还需要“即代码”实现范例,以避免根据工单驱动流程分配和授权身份。这为传统的特权访问管理(PAM)实践铺平了道路,以采用现代方法论,如即时(JIT)访问和零信任安全性。
在云操作模型方法中,人、应用程序和服务都呈现可以针对中心、规范源进行身份验证和验证的身份。一个多租户机密管理和加密平台以及一个身份提供者(IdP)可以充当您组织的身份代理。
工作流程:身份代理
在实践中,典型的身份代理工作流程可能如下所示:
请求:人、应用程序或服务通过请求发起交互。
-
验证:一个(或多个)身份提供者针对一个(或多个)真实/信任来源验证提供的身份。
-
响应:向请求方发送经过身份验证和授权的验证响应。
-
成功的身份代理有若干先决条件:
所有人、应用程序和服务必须具有明确定义的身份形式。
-
身份可以针对受信任的 IdP 进行验证。
-
身份系统必须在多运行时和多云平台之间互操作。
-
身份系统应该是集中化的,或者具有有限的细分,以简化跨环境的审计和操作管理。
-
为每个 IdP 建立身份和访问管理(IAM)控制。
-
客户端(人、机器和服务)必须呈现有效的身份进行 AuthN 和 AuthZ)。
-
一旦验证,访问通过默认拒绝策略进行代理,以尽量减少发生破坏后的影响。
-
AuthZ 审查集成到审核流程中,最理想的是,它被授予及时访问权限。
定期审查审计跟踪,以识别过度宽泛或未使用的特权,并在检测到威胁后进行追溯分析。
-
历史审计数据为数据存储要求提供不可否认性和合规性。
-
-
使用灵活的身份代理系统最小化碎片化,支持异构运行时,包括:
平台(VMware、Microsoft Azure VM、Kubernetes/OpenShift等)
-
客户端(开发者、运营商、应用程序、脚本等)
-
服务(MySQL、MSSQL、Active Directory、LDAP、PKI等)
-
-
通过服务级协议(SLA)提供 7*24 小时企业支持
-
通过自动化(基础设施即代码、运行手册)配置
-
一旦建立了身份,客户端希望具有一致且安全的机制来执行以下操作:
检索机密(凭据、密码、密钥等)
-
代理对安全目标的访问
-
管理安全数据(加密、解密、哈希、屏蔽等)
-
这些机制应该是可自动化的——设置后需要尽可能少的人为干预——并促进合规的做法。它们还应该是可扩展的,以确保未来的工具与这些系统兼容。
典型的机密管理工作流程应遵循五个步骤:
请求:客户端(人、应用程序或服务)请求机密。
-
验证:针对 IdP 验证请求。
-
请求:如果由请求的平台管理,则服务机密请求。或者:
-
平台从第三方请求临时凭证。
-
第三方系统响应代理请求,提供短期机密。
-
代理响应:初始响应通过 IAM 加密屏障进行卸载或缓存。
-
客户端响应:最终响应返回给请求者。
-
机密管理流程
在传统的城堡和护城河模型中,人与机器之间的访问一直很低效。该工作流程需要多个身份、计划干预 AuthN 和 AuthZ 控制、机密生命周期规划以及复杂的网络细分规划,这带来了很多开销。
虽然 PAM 解决方案在过去十年中发展,提供了动态 SSH 密钥生成等委派解决方案,但它并不能满足更广泛的生态系统要求,包括多运行时审计或跨平台身份管理。 引入云架构模式(如短暂资源、异构云网络拓扑和 JIT 身份管理)进一步复杂化了传统解决方案的任务。
现代远程访问解决方案解决了短暂资源及其带来的动态资源注册、身份、访问和机密等复杂性的挑战。这些现代安全远程访问工具不再依赖网络访问(如 VPN)作为初始入口点、CMDB、堡垒主机、手动 SSH 和/或带有签入/签出工作流的机密管理器。
企业级安全远程访问工具使用零信任模型,其中人员用户和资源都有身份。用户直接连接到这些资源。 通过动态资源注册表、控制器和机密注入资源的作用域角色,可以消除许多手动流程和安全风险,例如广泛的直接网络访问和长期有效的机密。
对于人类用户,现代远程基础设施访问工作流程通常遵循以下八个步骤:
请求:用户请求系统访问。
-
验证(人):针对受信任的身份代理验证身份。
-
验证(到机器):一旦通过身份验证,验证目标系统的授权。
-
请求:平台请求目标系统的机密(静态或短期)。
-
注入机密:平台将机密注入目标资源。
-
代理响应:平台向身份代理返回响应。
-
客户端响应:平台向最终用户授予访问权限。
-
访问机器/数据库:用户通过现代安全远程访问工具安全访问目标资源。
-
机密管理系统中的所有机密都应该:
集中化
-
传输和静态加密
-
作用域角色和访问策略有限
-
动态生成(如果可能)
-
时间绑定(即定义的生存时间 - TTL)
-
完全审计
-
机密管理解决方案应该:
支持多运行时、多云和混合云部署
-
提供灵活的集成选项
-
包含各种合作伙伴生态系统
-
采用零接触自动化实践(API 驱动)
-
在范围界定的边界内授权开发者并委派实现决策
-
在行业中有良好的文档记录和常见用途
-
由 7*24 小时企业支持按 SLA 提供
-
支持自动化配置(基础设施即代码、运行手册)
-
此外,实施安全远程访问做法的系统还应:
动态注册服务目录
-
实现基于身份的模型
-
从可信来源提供多种形式的身份验证功能
-
可配置为代码
-
API启用且包含内部和/或外部工作流功能以进行审查和审批流程
-
使机密注入资源
-
提供详细的基于角色的访问控制(RBAC)
-
提供记录操作、命令、会话的功能,并提供完整的审计跟踪
-
高可用性、多平台、多云能力,用于分布式操作,且对操作影响具有弹性
-
敬请关注我们关于平台工程第二支柱的文章:版本控制系统(VCS)和持续集成/持续交付(CI/CD)流水线。 或者下载平台工程六大支柱的完整 PDF 版本,以获取完整的指导、大纲和检查表。 | https://yylives.cc/2023/09/24/the-6-pillars-of-platform-engineering-part-1-security/ |
平台工程的六大支柱之二:CI/CD 和 VCS 流水线
平台团队为将 CI/CD 和 VCS 流水线集成到其平台而制定的工作流程和清单。
译自 The 6 Pillars of Platform Engineering: Part 2 — CI/CD & VCS Pipeline 。
本指南概述了平台工程中开发者体验的六大主要技术领域的工作流程和步骤。该指南分为六个部分发布,第一部分介绍了该系列并关注了安全性。第二部分将介绍应用程序部署管道。指南的其他部分如下所列,您也可以下载完整的 PDF 版本以获取完整的指导、大纲和清单。
安全性(包括简介)
-
流水线(VCS、CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
平台团队旅程的首要步骤之一是集成并可能重构软件交付流水线。这意味着详细查看组织的版本控制系统(VCS)和持续集成/持续交付(CI/CD)流水线。
许多组织在不同成熟阶段拥有多个 VCS 和 CI/CD 解决方案。这些平台也会随时间发展,因此建议采用基于组件的 API 平台或目录模型来支持未来的可扩展性,而不会损害功能或要求定期重构。
在云原生模型中,基础设施和配置以代码的形式进行管理,因此 VCS 对此核心功能是必需的。使用 VCS 和管理代码提供以下好处:
一致性和标准化
-
敏捷性和速度
-
可伸缩性和灵活性
-
配置即文档
-
复用性和共享
-
灾难恢复和重现性
-
调试性和审计性
-
合规性和安全性
-
VCS 和 CI/CD 使跨多个基础设施系统和平台的交互和工作流成为可能,这需要仔细评估下面列出的所有 VCS 和 CI/CD 要求。
典型的 VCS 和 CI/CD 工作流程应遵循以下五个步骤:
代码:开发人员将代码提交到VCS,并自动向流水线提交任务。
-
验证:CI/CD 平台向 IdP 提交验证请求(AuthN 和 AuthZ)。
-
响应:如果成功,流水线触发任务(例如测试、构建、部署)。
-
输出:输出和/或工件在平台组件内共享或与外部系统共享以进行进一步处理。
-
操作:安全系统可能参与后运行任务,例如取消供应 provisioning 凭据。
-
VCS 和 CI/CD 流水线流程
成功的 VCS 和 CI/CD 解决方案应提供:
针对团队需求定制的开发人员体验和现代化效率
-
易于入门
-
温和的学习曲线,需要很少的辅助培训(利用行业标准工具)
-
完整且可访问的文档
-
支持流水线即代码
-
平台不可知(API 驱动)
-
内嵌预期的安全控制(RBAC、审计等)
-
支持自动化配置(基础设施即代码、运行手册)
-
支持机密管理、身份和授权平台集成
-
鼓励并支持大型合作伙伴生态系统,具有广泛的企业技术集成
-
扩展的服务范围,具有代理人和隔离控制跨度的运行程序
-
基于 SLA 的企业支持(例如 24/7/365)
-
注意:VCS 和 CI/CD 系统可能有这里未列出的更具体的要求。
随着平台团队选择和发展他们的 VCS 和 CI/CD 解决方案,他们需要考虑这种转变对现有/遗留供应实践、安全性和合规性的影响。团队应该假设构建新平台将影响现有惯例,并且他们应该努力识别、协作和协调业务中的变化。
平台团队也应具有前瞻性。VCS 和 CI/CD 平台正在迅速发展,以进一步从开发人员那里抽象出 CI/CD 过程的复杂性。HashiCorp 旨在通过为开发人员提供一致的方式来部署、管理和观察跨多个运行时(包括 Kubernetes 和无服务器环境)的应用程序,使用 HashiCorp Waypoint 来简化这些工作流程。
敬请期待我们关于平台工程第三支柱的文章:provisioning。或者下载《平台工程的六大支柱》的完整 PDF 版本,以获取完整的指导、大纲和清单。 | https://yylives.cc/2023/09/24/the-6-pillars-of-platform-engineering-part-2-ci-cd-vcs-pipeline/ |
平台工程的六大支柱之三:Provisioning
为平台团队提供在其平台中建立 Provisioning 的工作流程和清单。
译自 The Pillars of Platform Engineering: Part 3 — Provisioning。
本指南概述了平台工程中开发者体验的六大主要技术领域的工作流程和步骤。该指南分为六个部分发布,第一部分介绍了该系列并关注了安全性。第二部分将介绍应用程序部署管道。指南的其他部分如下所列,您也可以下载完整的 PDF 版本以获取完整的指导、大纲和清单。
安全性(包括简介)
-
流水线(VCS、CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
在前两个支柱中,平台团队提供自助服务 VCS 和 CI/CD 流水线工作流程,其中内置了安全工作流程,以从一开始就充当护栏。这些是软件交付的第一步。现在您有要运行的应用程序代码,您将在哪里运行它?
每个 IT 组织都需要一个基础设施计划作为其应用程序的基础,平台团队需要将该计划视为其计划的基础。他们的首要目标是消除基础设施 Provisioning 的工单驱动工作流程,这在现代 IT 环境中不可扩展。平台团队通常通过为开发人员提供标准化的共享基础设施 Provisioning服务以及精心策划的自助服务工作流程、工具和模板来实现此目标。然后,他们将这些工作流程与前两个支柱的工作流程连接起来。
建立一个有效的现代基础设施平台取决于基础设施即代码的采用。当基础设施配置和自动化编码化时,即使是最复杂的 Provisioning 场景也可以自动化。然后可以对基础设施代码进行版本控制,以便于审核、迭代和协作。采用基础设施即代码有几种解决方案,但最常见的是 Terraform:一种 Provisioning 解决方案,其使用比竞争工具更广泛。
Terraform 是采用基础设施即代码的组织首选,因为它有一个大的集成生态系统。这个生态系统帮助平台工程师满足 Provisioning 平台的最后一个主要需求:可扩展性。广泛的插件生态系统允许平台工程师快速采用开发人员希望部署的新技术和服务,而无需编写自定义代码。
构建标准化的基础设施工作流程需要平台团队将其基础设施分解为可重用的、理想情况下是不变的组件。不变的基础设施是现代 IT 中的一个常见标准,它减少了复杂性,简化了故障排除,同时也提高了可靠性和安全性。
不变性意味着删除和重新 Provisioning 所有更改的基础设施,这将最小化服务器修补和配置更改,有助于确保每次服务迭代都会启动一个经过测试和最新实例。它还强制运行手册验证并促进故障转移和金丝雀部署练习的定期测试。许多组织通过使用 Terraform 或其他 Provisioning 工具来构建和重建大量基础设施,方法是修改配置代码。一些还构建黄金镜像流水线,专注于构建和持续部署可重复的机器镜像,这些镜像经过测试和确认符合安全和策略合规性(黄金镜像)。
除了机器镜像之外,现代 IT 组织还将其基础设施代码模块化,将常用组件组合成可重用的模块。这很重要,因为软件开发的一个核心原则是“不重造轮子”的概念,它也适用于基础设施代码。模块创建轻量级抽象来描述基础设施的术语,而不是离散对象。它们通常通过版本控制进行管理,并与第三方系统(如服务目录或测试框架)进行交互。
高性能 IT 团队汇集黄金图像管道和自己的模块注册表,供开发人员在为其应用程序构建基础设施时使用。在对此基础设施及其设置的内部工作原理几乎不了解的情况下,开发人员可以在可重复、可扩展和可预测的工作流程中使用基础设施模块和黄金镜像管道,该工作流程在第一次部署时内置了安全性和公司最佳实践。
典型的 Provisioning 工作流程将遵循以下六个步骤:
代码:开发人员提交代码并向流水线提交任务。
-
验证:CI/CD平台向您的IdP提交验证请求(AuthN和AuthZ)。
-
IdP 响应:如果成功,流水线会触发任务(例如测试、构建、部署)。
-
请求:CI/CD自动化工作流程用于构建模块、工件、图像和/或其他基础设施组件。
-
响应:将响应(成功/失败和元数据)传递给CI/CD平台。
-
输出:部署或存储基础设施组件,如模块、工件和图像配置。
-
模块和图像 Provisioning 流程
敏捷开发实践已经将基础设施 Provisioning 的重点从运营问题转移到应用交付预期。基础设施 Provisioning 现在是业务成功的制约因素。其价值与推动组织战略和客户任务保持一致,而不仅仅是基于控制运营支出。
在转向应用程序交付预期时,我们需要转变工作流程和流程。从历史上看,运营人员通过利用工单对 Provisioning 过程应用工作流程和投诉。这些工单通常涉及验证访问权限、审批、安全性、成本等。整个过程也为合规性和控制实践进行审计。
现在必须改变这个过程,以使开发人员和其他平台最终用户能够通过自助服务工作流进行 Provisioning 。这意味着必须实施一组新的编码安全控制和护栏,以满足合规性和控制实践。
在云原生系统中,这些控制通过策略即代码来实现。策略即代码是一种使用可编程规则和条件来部署软件和基础设施的做法,它将最佳实践、合规性要求、安全规则和成本控制编码化。
一些工具和系统包括自己的策略系统,但也有与多个系统集成的更高级别的策略引擎。基本要求是这些策略系统可以以代码的形式进行管理,并将对工作流程中的人员和系统提供评估、控制、自动化和反馈循环。
实施策略即代码有助于通过在 Provisioning 过程的更早阶段向用户提供反馈并使他们能够更快地做出更好的决定,从而将工作流程“左移”。但是在可以使用它们之前,需要编写这些策略。平台团队应该拥有策略即代码的做法,与安全、合规、审计和基础设施团队合作,确保策略与风险和控制措施正确匹配。
在基础设施 Provisioning 工作流中实施策略即代码检查通常涉及五个步骤:
代码:开发人员提交代码并向流水线提交任务。
-
验证:CI/CD 平台向您的 IdP 提交验证请求(AuthN 和 AuthZ)。
-
IdP 响应:如果成功,流水线将触发任务(例如测试、构建、部署)。
-
请求: Provisioning 商通过策略引擎运行计划的更改,如果代码没有通过策略测试,则请求将被允许通过(有时会发出警告)或被拒绝。
-
响应:元数据响应数据包发送到 CI/CD,然后发送到外部系统,例如安全扫描或集成测试。
-
自助服务基础设施 Provisioning 成功所需的:
端到端自动化的统一控制和数据平面
-
自动化配置(基础设施即代码、运行手册)
-
预定义和完全可配置的工作流程
-
与 VCS 和 CI/CD 工具的本地集成
-
业务所需的各种容器和虚拟机镜像
-
针对不同人员和工作流程的多种接口(GUI、API、CLI、SDK)
-
使用广泛采用的基础设施即代码语言 - 强烈建议使用声明式语言
-
与行业标准测试和安全框架、数据管理(加密)和机密管理工具的兼容性
-
与通用工作流组件(如通知工具和 Webhook)的集成
-
支持编码化护栏,包括:
策略即代码:内置的策略即代码引擎,具有可扩展的集成
-
RBAC:精细范围的权限来实现最小特权原则
-
基于令牌的访问凭证来认证自动化工作流程
-
-
规定使用组织批准的模式和模块
-
与可靠的身份提供程序集成,具有单点登录和RBAC
-
维护资源 Provisioning 元数据(状态、图像、资源等):
通过默认拒绝 RBAC进行控制
-
加密
-
人类和/或机器可以通过可编程接口访问
-
通过可跟踪的配置保持逻辑隔离存储
-
-
可扩展到大型分布式团队
-
支持公共和私有模块
-
完整的审计日志记录和日志流功能
-
财务运营(FinOps)工作流程来执行基于成本的策略和优化
-
明确定义的文档和开发者启用功能
-
基于 SLA 的企业支持(例如 24/7/365)
-
敬请关注我们对平台工程第四个支柱的文章:连接性。或者下载《平台工程的六大支柱》的完整 PDF 版本,以获取完整的指导、大纲和清单。 | https://yylives.cc/2023/09/24/the-pillars-of-platform-engineering-part-3-provisioning/ |
平台工程帮助规模化公司控制 DevOps 复杂度
随着 Capillary Technologies 客户基数翻倍并进入新市场,该公司经历了成长期的阵痛。与 Facets.cloud 的合作伙伴关系帮助提高了其在线时间和开发人员生产力。
译自 Platform Engineering Helps a Scale-up Tame DevOps Complexity 。
从创业公司向规模化公司的转变对任何科技公司来说都是个伟大的时刻。这意味着你已经具有了很好的客户黏性和价值证明,可以将你的触达面扩展到新的市场和垂直领域。
但这也意味着是时候扩大你的技术规模了,通常是在云中。这并不容易。
Capillary Technologies 开发客户忠诚度和参与度领域的 SaaS 产品,随着其客户数量从 100 增长到 250,开始经历典型的规模化公司的成长痛苦,该公司 CTO Piyush Kumar 向 The New Stack 透露。
随着 Capillary 的团队规模显着增长,其与 DevOps 复杂性相关的挑战也在增长。继续阅读以了解这些挑战是否对你也同样真实,以及 Capillary Technologies 如何利用 Facets.cloud 的自助基础设施管理和采用平台工程来加速开发人员的生产力,并更快地为最终客户提供价值。
当 Kumar 在 2016 年以首席架构师的身份加入 Capillary 时,该公司的业务正在印度、东南亚和中东扩张,同时开始在中国获得客户的信任。 但当它希望进一步发展时,这家建立在亚马逊网络服务(AWS)上的公司开始遇到云计算中的一些常见障碍。
“开发人员与我们 DevOps 基础设施团队人数之间的比例开始变得不平衡。”Kumar 说。“这意味着从工程师到 DevOps 团队的请求数量在增长,所以操作工单的数量基本上在增长,我们的响应时间开始放慢。”
接近 2019 年底,Capillary 开始扩张到美国和欧洲的新市场和新的云区域。这些机会也带来了挑战。
“新的区域本质上意味着在不同的区域完全重新启动软件、基础设施、监控等所有内容。”他说。
在新区域启动业务需要机构遵守数据主权和数据本地化法律。
随着这些启动的发生,Capillary 的基础设施处于半自动化模式。 “当你处于这种模式时,有些事情是自动化的,然后还有很多事情不是。 所以你对整个环境堆栈没有足够的可视性。”Kumar 说。
新的区域带来了很多惊喜 -- DevOps 团队不得不发展壮大以管理新的环境,并满足日益增长的客户群、产品组合和所需基础架构组件数量的新需求。
与此同时,Capillary 的工程师人数从约 100 人增长到 250 人。
“我们不希望稳定性开始受到影响,因为我们现在需要在多个环境中发布。” Kumar 说。 简而言之,他指出:“需要比线性扩展更多的东西来管理所有这些。”
很多平台工程计划都是由于开发和运维工具的差异而启动的。这并不是 Capillary 的案例,该公司一直在中心管理基础设施。
正因如此,为了在扩展时与这种复杂性作斗争,团队成员逻辑上试图增加其基础设施的自动化覆盖范围。但是他们发现自己陷入了一个不断追赶的困境。
“所以我们继续自动化越来越多,作为一个团队,你会做更多,然后你会意识到还有更多要做的,所以它感觉像是一个不断的斗争,因为那个图景继续增长。” Kumar 说。
“在六个月内,我们继续前进并自动化的任何事情,我们基本上承担了更新的债务,所以还有更多要自动化的。”
例如,他们采用了开源数据库 MongoDB,将新的基础设施、存储和数据库功能引入 Capillary 生态系统。DevOps 团队很快意识到他们无法轻松自动化一切——从启动新区域到监控、备份、升级、修补程序和恢复。
到 Capillary 团队自动化他们能自动化的一切时候,他们也已经采用了 Apache Kafka 进行实时数据流,并使用 AWS EMR 来运行和扩展工作负载——他们然后也试图自动化这些。
Capillary 的团队走开源路线是为了避免供应商锁定。但是无论他们选择开源还是专有,他们意识到云原生图景的复杂性意味着很多自动化工具链的拼接。
为了解决这个问题,他们需要:
使整体基础设施和部署架构更加统一、更加可见,并实现从构建到部署的 100% 自动化。
-
将开发人员从依赖 DevOps 团队转变为可以自助方式配置基础设施。这包括文档的统一性以创建单一版本的事实。
-
一个工具来管理环境、基础设施和部署。
-
Kumar 说,Capillary 寻求的解决方案将允许用户“继续创建一个文档。你会说这是我的唯一真理来源。现在我用这种方式继续做所有这些。我始终以统一的方式做。”
简而言之,他想知道:“这是否是软件可以转换的东西,以管理您的环境、基础设施、部署等?”
很多公司通过发现之旅来启动他们对平台工程的采用。 他们会问自己:我们拥有什么技术,谁拥有什么?
2020 年底,Capillary 开始与 Facets 合作共同构建一个解决方案,以帮助回答这个问题。 Capillary 选择 Facets 部分原因是它可以自动编录应用程序、数据库、缓存、队列和跨基础设施的存储,以及它们之间的依赖关系。 这种编录帮助创建了环境中架构应如何出现的部署蓝图。
Facets的蓝图设计器提供了整个体系结构的高层次视图和已部署资源的详细信息。
“一旦你有了一个单一的蓝图,那么在启动基础设施方面所做的任何后续操作,在运行应用程序方面,在监控和管理方面所做的任何操作,所有这些都会成为从那里衍生出来的后续活动。” Kumar 说。
“这本质上是将你的整个环境和应用程序的蓝图结构带入标准化和良好可视性的部分。”
Capillary 选择 Facets 的另一个原因是它在全球运行了 10 个环境——3 个用于测试,其余用于生产。这意味着整个迁移到 Facets 的过程花了四到五个月才完成,以确保所有现有数据都已迁移。
团队特别花了大约三个月的时间将测试环境迁移过来,以确保一切正常工作。 Kumar 说,生产环境的迁移要快得多。
到 2021 年中期,Kumar 的团队已经看到了一些明显的成果:
“我们通过 Facets 所能做的是,我们创建了一个自助服务环境,作为开发人员,如果你需要创建一个新的应用程序,你需要将其添加到目录中。” Kumar 说。 “你团队中的某个人,比如你的负责人或架构师,会批准它。 然后它自己启动。不需要 DevOps 团队参与。”
DevOps 团队不再参与日常软件启动。 现在,他们能够使用 6 个成员的 DevOps 团队在两个产品堆栈中运行约 15 个环境。
事实上,Capillary 将其 DevOps 团队重命名为“SRE 和开发者体验”,转向网站可靠性工程,并创建解决方案以支持其开发人员。
“我们的环境稳定性基本上已经取得了质的飞跃,”Kumar 说。“我们的环境得到持续监控。你看到的任何故障基本上都会触发警报。你的备份,你的回退,都是非常标准化的。”
“发生的最大的事情是,DevOps 团队的队列时间或等待时间不复存在,”Kumar 说。
现在工程运维也具有统一性,包括日志和监控,这进一步提高了开发人员的生产力。
“而且因为我们的发布是完全自动化的,发布的监控也是完全自动化的,”Kumar 说。
这意味着在过去两年中,Capillary 团队已经从每两周发布一次转变为现在每天发布一次。此外,他们转向了具有验证的自动化无人值守发布模式。现在,Kumar 说,“如果某些东西被破坏了,你会立即收到警报去处理它。”
随着新的产品的出现,首席技术官表示,Capillary 工程团队不断壮大,并变得更有效率。 2016 年,启动一个环境需要 64 个开发人周。现在,包括所有验证和稳定化在内,只需要 8 个开发人周。
他说,使用与 Facets 共同创建的蓝图,用户必须定义一个新的环境“将如何处理这种工作负载,因此需要这种容量。一旦你设置好了,环境启动就是全部自动化的。所以你可以节省很多时间。”
今年早些时候,Capillary 收购了另一家科技公司,这需要启动一个新的开发人员环境。工程团队能够在 Facets 内定义蓝图,并在两个半星期内启动了一个新的环境。
最后,三到四年前,Kumar 只能通过事后分析来监控基础设施成本,这导致响应延迟和成本泄漏。现在,他说,Facets 在审计方面提供了帮助,并使其更多地了解其基础设施的使用情况以及过度配置的位置。
Kumar 说,这些新功能引发了更多主动监控和 CloudOps 与 FinOps,“我可以更早地得到成本飙升的信号。” | https://yylives.cc/2023/09/26/platform-engineering-helps-a-scale-up-tame-devops-complexity/ |
假如我是CTO,我会这样推动平台工程
译自 If I were a CTO, I’d approach platform engineering like this 。
平台工程已经在科技界讨论一段时间了,但它到底是什么?
它是技术、运营和人员管理的核心学科。它致力于创建无缝的开发者体验,以提高生产力、推动创新和增长。它通过优化和保证软件交付流程的可靠性和弹性,为技术基础设施提供支持。
但是作为 CTO ,如何应对其广泛的复杂性?作为一名 DevOps 顾问,我将通过这个七部分博客系列,从 CTO 的角度探讨这个问题。
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
采用平台工程不仅是技术转变,更是范式转变。对 CTO 来说,不仅要考虑“如何做”,更要思考“为何要做”。为推动这样重大的转型,首先要思考:
基本目标是什么?
-
现在是否是将工程动力转为平台不仅可行且有益的阶段?
-
是否具备所需能力,或者哪些领域可以加强?
-
回答这些问题可以制定一个与目标一致的行动计划。以下是行业的一些常见目标。
在软件开发中,“实现价值时间”经常被优先考虑,这关注从提出想法到获得实际效益之间的时间差。但是重点不仅是快速交付软件,还包括理解新软件对业务和用户的整体影响。
想象一下推出立即改善用户体验的软件,推动业务向增长方向发展。就像播下种子,立刻看到发芽一样。
反馈至关重要。软件需要用户反馈,就像新芽需要阳光、水分和照料。尽快收集反馈以完善软件,使其更有效。持续的“建立、测量、学习”循环创造价值,健全的平台起到催化剂作用。
它消除繁重工作,让开发人员专注他们最拿手的部分——编写代码和创新。通过屏蔽基础设施管理复杂细节,他们可以专注开发对用户最重要的功能。
想象一位大厨在装备先进的厨房里工作。有了正确的工具和环境,他可以专注烹饪令人垂涎的菜肴,而不用担心设备故障或原料短缺。在软件开发中,平台就是厨房,开发人员就是大厨。他们开发出取悦用户的解决方案,推动企业成功。
在现代 IT 格局中,IT 领导者倾向关注降低成本。这类似于拔掉服务器插头节省电费,可能节省资金,但从实用性来看行不通。
这正是统一平台的改变游戏规则之处。它促进战略性财务管理实践,如 FinOps,简化将元数据(成本中心或业务单位的标签)集成到资源中。可以通过标准化部署流程轻松添加这些标识符,使之成为强制性的,而不需要层层审批。
通过平台集中这一功能,可以提高成本透明度,赋能团队。更高的可见性让团队看到支出是否与整体业务价值保持一致。
最终,这培养价值创造和成本控制并重的文化。IT 投资与创造价值一样重要。
在技术圈,各公司争抢人才,顶尖开发者就像黄金标准。那么如何使公司成为开发者梦寐以求的地方?
开发者选择公司时,核心是他们将使用的软件。招聘广告中的先进技术栈展示了公司对创新热情,让开发者相信他们可以发挥作用。
对一个开发者来说,从开发周期数月缩短到数天,就像从马车跳上跑车!
开发者不仅追求速度,还渴望有意义的工作、整洁的代码、协作环境和能力增长的挑战。
那么平台工程在其中起什么作用?精简。顶级组织缩短交付时间并非碰巧,而是战略投资平台以统一和加速软件交付。平台不是仅仅工具,而是改变游戏规则者。
适应合规要求,感觉像回到软件被称为“程序”,更新被称为“季节性事件”的日子。今天,业已大不相同。
快速迭代需要严格规范。尽管可能有抱怨,合规措施存在是有充分理由的。鉴于数字环境脆弱性,更严格的安全与隐私不再是选项,而是必须。
它不仅使合规变得可承受,还无缝集成到工作流中,感觉直观自然。可以视其为可靠的同事助手。
例如:
自动审计跟踪:平台可以自动记录所有更改,清晰地跟踪是谁做了什么和何时做的。这不仅确保合规性,还提供有价值的洞察,防止问题发生。
-
策略即代码:在平台上将特定策略设置为代码,而不是手动审查流程。如果开发违反合规,平台会标记并指导修正。这种积极的方法大大减少错误。
-
安全的自助服务:开发者经常需要访问某些资源。平台提供自助服务门户,根据预定义规则自动授权,实现速度和合规。
-
环境配置一致性:正确设置每个环境可能是合规性噩梦。平台可以模板化环境,确保设定一致、合规和安全。
-
通过平台整合这些守则,合规从障碍转变为流畅的开发流程。有了这些自动化守则,遵守规定比绕过规定更简单。开发人员可以专注创新和创造,不会被合规问题困扰。总之,在不制约创造力的情况下确保安全是最理想的。
在平台工程中, CTO 不仅是技术领导,更是有远见的领导者。这需要制定清晰目标,洞察全局,并召集整个组织支持愿景。
平台工程的本质不仅是技术,还涉及商业愿景、团队动力和技术能力。
那么,我们如何建立平台工程组织呢?请阅读我的博客系列第二部分。 | https://yylives.cc/2023/09/29/if-i-were-a-cto-id-approach-platform-engineering-like-this/ |
平台工程的六大支柱之四:连接性
为平台团队提供构建连接性的工作流程和清单。
译自 The Pillars of Platform Engineering: Part 4 — Connectivity
本指南概述了平台工程中开发者体验的六大技术领域的工作流程和清单步骤。本系列分六部分发布,第一部分引入了该系列,并着重于安全性。第六部分讨论可观测性。其余部分如下,您可以下载“平台工程六大支柱”的完整PDF版本,以获取完整的指导、大纲和清单:
安全性(包括简介)
-
流水线(VCS、CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
任何平台工作流程的最后一步都是监控和维护部署。您需要在平台中构建可观测性实践和自动化,衡量软件、服务、平台和产品的质量与性能,以了解系统的运行情况。优秀的系统可观测性可以更快更轻松地调查和诊断问题。
可观测性的本质是记录、组织和可视化数据。仅仅提供数据并不能实现企业级的可观测性。首先,网站可靠性工程、DevOps 或其他团队需要确定生成、收集、汇总和分析哪些数据,以获得有意义和可操作的洞察。
然后,这些团队采用和构建可观测性解决方案。可观测性解决方案使用指标、追踪和日志这三种数据类型来理解和调试系统。企业需要在整个技术栈实现统一的可观测性:云基础设施、Kubernetes 或 Nomad 等运行时编排平台、Azure 托管数据库等云管理服务以及业务应用程序。这种统一有助于团队理解云服务和组件之间的相互依赖性。
为适应现代动态环境,平台团队正在将网络功能、软件和设备整合到基础设施即代码配置中。这为网络带来了基础设施即代码的自动化速度、可靠性和版本控制追溯性优势。
如果组织采用微服务架构,他们会很快意识到基于软件的服务发现和服务网格解决方案的价值。这些解决方案创建了一种架构,其中服务根据集中策略在零信任网络中被发现和自动连接,如果具有权限,否则安全默认值是拒绝服务间连接。在此模型中,基于服务的身份对于确保严格遵守常见安全框架至关重要。
组织的中央共享注册中心选择应该是多云、多区域和多运行时的,这意味着它可以连接各种类型的集群,包括虚拟机、裸机、无服务器或Kubernetes。团队需要最大限度地减少对传统网络入口或出口的需求,这会使环境退回到过时的“城堡与护城河”网络边界安全方法。
典型的网络连接性工作流程应遵循以下八个步骤:
编码:开发人员提交代码。
-
注:根据分配给他们的基于角色的访问控制(RBAC),开发人员可能具有直接访问网络控制平面的权限。
验证:CI/CD 平台向身份提供商(IdP)提交验证请求(认证和授权)。
-
IdP 响应:如果成功,则触发流水线任务(例如测试、构建、部署)。
-
请求:配置器执行请求的模式,例如构建模块、检索工件或针对内部外部引擎验证策略,最终配置定义的资源。
-
配置:如果尚不可用,则配置基础设施。
-
连接性配置:配置器配置连接性平台。
-
连接:根据定义的策略更新目标系统。
-
响应:元数据响应数据包发送到 CI/CD 和执行操作(如安全扫描或集成测试)的外部系统。
-
连接性流程(连接框包含服务网格和服务注册表)
成功的网络连接性自动化需要:
中央共享注册表,用于跨任何地区、运行时平台和云服务提供商发现、连接和保护服务
-
支持多个接口,适用于不同的人员和工作流程(图形界面、API、命令行接口、软件开发工具包)
-
健康检查
-
多个细分和隔离模型
-
第 4 层和第 7 层流量管理
-
实施安全最佳实践,如深度防御和默认拒绝
-
与可信标识提供商集成单点登录和委派的基于角色的访问控制
-
审计日志记录
-
根据服务级协议(例如 24/7/365)提供企业支持
-
支持自动配置(基础设施即代码,运行手册)
-
敬请期待平台工程支柱系列的第五部分:编排。 | https://yylives.cc/2023/09/29/the-pillars-of-platform-engineering-part-4-connectivity/ |
平台工程的六大支柱之五:编排
为平台团队提供构建编排功能的工作流程和检查表。
译自 The Pillars of Platform Engineering: Part 5 — Orchestration 。
本指南概述了平台工程中六大技术领域中的开发者体验工作流程和检查表步骤。该系列分六部分发布,第一部分介绍了该系列,并着重于安全性。第五部分讨论编排。完整的 PDF 版本包含平台工程的六大大支柱的完整指导方针. 大纲和检查表,可供下载:
安全性(包括简介)
-
流水线(VCS. CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
当您要部署应用程序时,如果采用分布式应用程序. 微服务,或者希望实现跨云基础设施的弹性,使用工作负载编排器将更容易。
Kubernetes 和 HashiCorp Nomad 等工作负载编排器比传统技术提供更多优势。实现这些优势的工作量可能不同。例如,重构为容器化和采用 Kubernetes 可能需要更高工作量,而使用像 HashiCorp Nomad 这样面向各类工作负载的编排器可能需要较少工作量。无论哪种情况,工作负载编排器可实现:
提高资源利用率
-
可扩展性和弹性
-
多云和混合云支持
-
开发者自助服务
-
服务发现和联网(内置或可插拔)
-
高可用性和容错能力
-
高级调度和放置控制
-
资源隔离和安全
-
成本优化
-
编排器提供优化算法,以最有效的方式将工作负载分配到基础设施资源中(例如装箱. 扩展. 亲和力. 反亲和力. 自动缩放. 动态应用调整大小等),这可以降低成本。它们自动化分布式计算和弹性策略,开发者不需要了解底层工作机制。
与其他平台支柱一样,主要目标是标准化工作流程,编排器是现代平台团队统一部署工作流程以消除基于工单的流程的常见方式。
选择编排器时,确保它足够灵活,能处理环境的未来扩展和异构工作流非常重要。编排器还必须能够处理多租户并轻松集成跨多个内部数据中心和多云环境。
需要注意的是,并非所有系统都可以容器化,或转移到像供应商提供的单体设备或应用等现代编排器,因此平台团队识别其他团队优化编排器参与度和自动化的机会非常重要,这符合其他平台支柱的原则。现代编排器提供广泛的本地功能。尽管不同系统之间具体实现和功能各有不同,但存在许多核心要求。
典型的编排工作流程应遵循以下八个步骤:
代码:开发人员提交代码。
-
(注:开发人员可能具有直接的网络控制平面访问权限,这取决于分配给他们的基于角色的访问控制。)
验证:CI/CD 平台向身份提供商提交验证请求(认证和授权)。
-
身份提供商响应:如果成功,触发流水线的常见任务(测试. 构建. 部署)。
-
请求:provisioner 执行请求的模式,如构建模块. 检索工件或根据内部和外部策略引擎验证策略,最终预配定义的资源。
-
Provision:如果基础设施不可用,则设置和配置基础设施。
-
配置:provisioner 配置编排器资源。
-
作业:编排器根据定义的任务和策略在目标资源上运行作业。
-
响应:向 CI/CD 平台提供预配器请求的完成情况,以进行后续处理和/或移交给执行操作(如安全扫描或集成测试)的外部系统。
-
编排流程示意图
成功的编排需要:
服务/批处理调度程序
-
灵活的任务驱动程序
-
可插拔设备接口
-
灵活的升级和发布策略
-
集成的部署拓扑
-
弹性. 高可用的部署拓扑
-
自动缩放(动态和固定)
-
访问控制系统(IAM JWT/OIDC 和 ACL)
-
支持多种接口,面向不同人员和工作流程(GUI. API. CLI. SDK)
-
与可信身份提供商集成,支持单点登录和委派的基于角色的访问控制
-
任务的功能. 逻辑和/或物理隔离
-
原生配额系统
-
审计日志
-
基于服务级协议的企业级支持(例如全年无休7*24小时)
-
通过自动化进行配置(基础设施即代码. 运行手册)
-
平台工程的第六个也是最后一个支柱是可观测性:敬请期待后面的文章! | https://yylives.cc/2023/09/29/the-pillars-of-platform-engineering-part-5-orchestration/ |
平台工程的六大支柱之六:可观测性
为平台团队提供工作流程和检查表,以在平台中实现可观测性
译自 The Pillars of Platform Engineering: Part 6 — Observability 。
本指南概述了平台工程中六大开发者体验技术领域的工作流程和检查步骤。该指南分六个部分发布,第一部分介绍了指南系列,重点关注安全性。第六部分探讨可观测性。其余部分如下,您可以下载《平台工程六大支柱》完整 PDF 版本获取所有指导、概述和检查表:
安全性(包括简介)
-
流水线(VCS、CI/CD)
-
Provisioning
-
连接性
-
编排
-
可观测性(包括总结和下一步)
-
平台工作流程的最后一步是监控和维护部署。您需要在平台中融入可观测性实践和自动化,来衡量软件、服务、平台和产品的质量和性能,以便更好地了解系统行为。高质量的系统可观测性可以更快更轻松地调查和诊断问题。
简单来说,可观测性就是记录、组织和可视化数据。仅提供数据本身不等于实现企业级可观测性。站点可靠性工程、DevOps 等团队首先确定生成、收集、汇总、分析什么数据以获得有意义、可操作的见解。
然后,这些团队采用并构建可观测性解决方案。可观测性解决方案使用指标、追踪和日志等数据类型来理解和调试系统。企业需要在整个技术栈实现统一可观测性:云基础设施、Kubernetes或Nomad等编排运行时平台、Azure托管数据库等云托管服务以及业务应用程序。这有助于团队了解云服务和组件之间的相互依赖。
但是,统一只是将可观测性融入平台工作流程的第一步。在工作流程中,平台团队需要在模块和部署模板中自动实现可观测性的最佳实践。就像平台工程帮助安全功能左移一样,可观测性的集成和自动化也应通过在部署时将可观测性融入容器和镜像来向左转移到基础架构编码和应用程序构建阶段。这可以帮助您的团队从一开始就通过将可观测性自动化到平台工作流程中来构建和实现全面的遥测策略。
将可观测性解决方案集成到基础架构代码中的好处很多:开发人员可以更好地了解他们的系统运作方式和应用程序的可靠性。团队可以快速调试问题并追踪到根本原因。组织可以根据数据做出决策来改进系统、优化性能和提升用户体验。
企业级可观测性工作流程可能遵循以下八个步骤:
代码:开发人员提交代码。
-
注意:根据分配给开发人员的访问控制角色,他们可能直接访问网络控制平面。
验证:持续集成/持续交付平台向身份提供商提交验证请求(认证和授权)。
-
身份提供商响应:如果成功,触发流水线任务(如测试、构建、部署)。
-
请求:provisioner 执行请求的模式,比如构建模块、检索工件或根据内外部引擎验证策略,最终预配定义的资源。
-
Provision:如果不存在,则设置基础设施并进行配置。
-
配置:provisioner 配置可观测资源。
-
收集:根据配置的发射器和聚合器收集指标和追踪数据。
-
响应:向持续集成/持续交付平台提供预配程序请求完成情况,以进行后续处理和/或移交给外部系统,如安全扫描或集成测试。
-
企业级可观测性需要:
实时问题和异常检测
-
跨不同控制平面和环境的自动发现和集成
-
准确的告警、追踪、日志记录和监控
-
高基数分析
-
标记、标签和数据模型治理
-
可观测性即代码
-
适用于多云和混合部署的可扩展性和性能
-
自助可视化、配置和报告的安全性、隐私性和访问控制
-
平台构建永远不会完全完成。这不是一个前期规划好、大家签字认可后就结束的项目。它更像是一个迭代的敏捷开发项目,而不是传统的瀑布项目。
您可以从最小可行产品开始,然后必须向组织推广平台。向团队展示他们如何从采用整个开发生命周期的通用模式和最佳实践中受益。与各团队进行流程分析(当前与未来状态),共同工作并理解采用的好处,这可以是有效的。最后,降低入门门槛尽可能简单至关重要。
随着您逐项检查这六个平台支柱要求,平台团队将希望采用用户体验设计师的思维方式。调查不同团队的需求,理解您可能只能满足 80-90% 的用例。一些工作流程将过于精细或独特,无法融入平台。您无法取悦所有人。工具链选择应该是一个跨职能过程,而在最开始获得高层支持对驱动采用至关重要。
从业者采用:您是否从询问开发人员他们感兴趣的技术入手?什么可以让他们快速支持业务?他们想学习什么技能,这在市场上是否常见?
-
规模:此工具是否可以扩展以满足企业预期,在性能、安全合规性和采用简易性方面?您是否可以从同行那里吸取教训,而不是踏入未知领域?
-
支持:所选解决方案是否由能满足核心关键基础设施服务级协议(24/7/365)并达到客户可用性预期的组织支持?
-
长期:这些解决方案供应商在财务上是否雄厚,能长期支持这些支柱和核心基础设施?
-
开发者灵活性:这些解决方案是否提供灵活的接口(图形界面、命令行界面、应用程序编程接口、软件开发工具包)来创建定制用户体验?
-
文档:这些解决方案是否提供全面、最新文档?
-
生态系统集成:是否存在可扩展的生态系统集成,以整洁地链接到链中的其他工具,如安全或数据仓库解决方案?
-
对于已经投资于这些核心支柱的组织,下一步涉及与 HashiCorp 等生态系统合作伙伴合作,以确定工作流改进并使用成熟解决方案来解决覆盖差距。 | https://yylives.cc/2023/09/29/the-pillars-of-platform-engineering-part-6-observability/ |
平台团队成功的箴言
译自 A MANTRA FOR PLATFORM TEAMS TO SUCCEED 。
“确定优先级,保持专注,确保交付”是平台团队成功的箴言。
在平台工程繁忙的领域里,成功关键在于三件事:
明确工作重点,着眼于产生重大影响的结果。
-
始终保持对打造最薄可用平台的高度专注。
-
不仅交付顶级软件,还要提供全面友好的用户体验。
-
我们将深入探讨以上要点,为平台团队提供洞察和指导,让他们明白重要的不仅是开发,更是正确开发。
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
简言之,在错综复杂的平台工程领域掌舵,需要像进行紧张平衡一样。但是,如果平台团队牢记“确定优先级,保持专注,确保交付”的箴言,就能高效利用能量,绘制出创新与成功的航线。
想象在空白画布上随心描绘,没有特定主题或对象。可能性无限,创造的自由令人兴奋却也难以抉择。
这正是没有约束和指引的平台团队面临的难题。尽管灵活至关重要,但一个没有优先级的团队可能会分散时间和资源来进行对重大影响缺乏的工作。
没有明确平台优先级,就很难评估进展和成功,也难以与业务目标保持一致。
天空可能是极限,但具备几颗导航之星则至关重要! 让我们用一个简单的比喻说明问题。
想象一家咖啡店,咖啡师根据对常客通常点单的假设提前准备好所有饮料。等他们来的时候,饮料已经冷了,而且那天他们可能想要不同的东西。
这种方法浪费资源,提供次优体验。相反,按订单即调即备确保新鲜和满意。同理,我们的平台旨在通过细微的纵向切片提供功能,确保每项开发都相关、即时,满足用户的瞬时需求。
对平台团队来说,选项是在平台上实现广泛的横向层面,还是创建微缩的、可行的纵向层面。后者通常更好,称为“最薄可用平台”。
为什么?因为它确保每个平台组件自身都是可用和有价值的。这就像建造高塔,确保基础牢固,然后继续逐层垒砌。
这种方法最大限度减少基于假设而开发的风险,允许即时反馈,并确保始终在建设具有内在价值的东西。
对平台团队来说,交付不仅意味着提供顶级软件。当然这很重要,但还不止这些。想象拥有尖端设备却没有用户手册,是很难用的吧? 文档充当手册。它确保软件开发的辛勤付出可以被他人轻松访问、理解和使用。大多数开发团队都经历过由于缺乏文档导致的困扰,这需要与软件同等的努力。
但不止这些。良好的开发者体验(DevX)是锦上添花。它确保开发者可以无缝地与平台交互、集成工具并优化工作流程。简言之,成功的交付是顶级软件、清晰文档和无懈可击的DevX的三位一体。
接下来我们将进入博客系列的第五部分,探讨平台团队如何应对产品思维。 | https://yylives.cc/2023/10/01/a-mantra-for-platform-teams-to-succeed/ |
平台团队的沟通、成就和挑战
译自 COMMUNICATING ACHIEVEMENTS AND CHALLENGES IN PLATFORM TEAMS 。
在我们博客系列的最后一部分,我们探讨沟通的重要性。
记住,在科技快速迭代的今天,软件开发中的沟通和编码一样重要。特别是当我们关注平台团队的表现时。让我们深入探讨! Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
作为CTO,我有责任进行核查并提出关键问题。
我深信让团队自己设定目标,这会鼓励团队负责任和投入。记住,重点不是互相指责,而是团队合作和相互理解。我们共同为最终目标而努力,每个人的贡献都非常重要。
用通俗语言解释技术成果
软件行业的专业人士,无论管理层还是技术层,可能都对技术术语有较高理解,但不像平台工程师那样了解细节。
当平台团队取得重大进展时,重要的是用企业各部门都能理解的语言进行沟通,从人力资源到项目管理。
“我们将 CI/CD 管道效率提升 40%!”
这固然不错,但对企业意味着什么?也许可以这样表达:“我们现在可以每周发布新功能的次数提升一倍,意味着在同等时间为客户创造两倍价值!”明白区别了吗? 开放和诚实的沟通是任何成功组织的支柱。作为 CTO,我会确保平台团队始终有清晰的沟通渠道,特别是在遇到挑战时。
跳级会议是一个好办法,平台团队成员可以在不通过直接主管的情况下直接反映问题和关注。
当面临挑战时,认识到问题至关重要。这并不意味着立即有答案,但确认问题是找到解决方案的第一步。
平台团队做了不可思议的工作,确保企业内外对他们的成就有充分理解和欣赏同样重要。也需要确保他们有渠道和支持来有效应对挑战。让我们保持渠道的开放和通畅! 我们身处的技术世界日新月异。唯一不变的就是变化。今天奠定的基础,明天可能需要调整。这就是为什么一切都是迭代的。让我们拆解一下:
团队使命和章程:需要不断更新,以适应业务形势。
-
组织与系统:记住康威定律,系统反映组织沟通。随着组织演进,系统设计也需要迭代。
-
平台团队目标:实现一个里程碑后立即思考下一个。目标需要不断设定、评估和调整。
-
优先排序、专注和交付的能力:环境变化需要方法调整,保持敏捷。
-
技术栈:关注创新,看是否有更合适平台目标的新技术。
-
业务成果:如果结果不符预期,需要重新思考。
-
总之,平台团队需要拥抱变化,不断迭代和进步。
希望您喜欢这个平台工程七部分博客系列。欲了解更多信息,请查看我们的指南。 | https://yylives.cc/2023/10/01/communicating-achievements-and-challenges-in-platform-teams/ |
建立平台工程组织
译自 ESTABLISHING A PLATFORM ENGINEERING ORGANIZATION 。
在第一部分,我们探讨了平台工程的动机。现在,我们来讨论如何使组织为这一转型做好准备。
要为平台工程铺平道路,建立一个专职的平台团队至关重要。然而对更广泛的组织来说该怎么做呢?我们如何激发大家的热情,让所有人都参与进来?
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
我们这里不是在开拓未知领域。我们的许多策略都参考了《团队拓扑》一书和 managers.app 中关于团队章程重要性的原则。
平台团队是重点。他们是否认同这个远景?是否全力以赴?是否充满动力去创新,在给定的范围内找到问题?
建立团队章程至关重要。我们的章程可能包括:
团队名称:与平台名称不同。代表团队的认同感和精神面貌。
-
目的和价值:不仅限于使命,还要理解团队存在的“why”,以及指导行动的核心价值观。
-
目标:需要与当前阶段的短期目标保持一致,如关键绩效指标/目标成果;也需要与长远愿景保持一致。
-
服务概述:对所管理服务的概述,或者链接到服务目录。
-
运营范围:规定团队可以(和不可以)参与的活动。
-
沟通渠道:例如 Slack,以及理解团队会议和更新的频率和性质。
-
反馈机制:用于建设性和可执行的反馈。
-
考虑这些基础原则,可以使团队的发展与真正的、自然的需求保持一致,这些需求可能反映出日益增多的不同子领域。
提示:要使团队章程成为实际有用的工具,我推荐看看团队章程模板。
如果我是 CTO ,我的目标是加快产出时间价值,所以不仅要完成任务,也要有作出正确的洞察。
为了把洞察转化为行动,我们需要让团队自主决策并采取行动。当团队有决策自主权时,他们才能迅速行动并交出出色的结果。如果需要不断检查、等待批准,或是过多程式,将会拖慢速度。
目标是让组织拥有可以在自己领域自主决策的团队。正如 Melvin E. Conway 所说:“任何设计系统的组织最终会设计出类似组织沟通方式的系统。”
如果你目前的设置还不够像这样,现在该考虑转向流对齐的团队了。要记住,改变组织可能导致一些架构问题。旧方法和新方法可能会发生冲突,如果不及早解决,会拖延进度。
提示:同一价值流中的团队应保持一致,并按照自己认为合适的方式自我组织。 流连贯的团队不需要始终同步。相反,应有明确的约定规则,如不同软件服务间通过 API 沟通。在《团队拓扑》中,这称为“团队 API”。
当组织转向去中心化、面向团队的结构时,调整中高层管理的角色就很关键。摆脱等级制组织常会精简流程、减少官僚,在某些情况下也减少中层管理需求。
这对经验丰富的中高层管理意味着什么?他们如何适应新格局?
从主管到导师:传统中层管理通常涉及监督、协调和控制。在以团队为中心的世界,管理者角色从监督转向指导和支持,确保团队拥有成功所需的一切。
-
层级减少:沿用少层级的结构,管理岗位确实会减少。面向团队的核心在于赋予团队自我管理权,这可能使一些传统管理角色无用。
-
官僚主义消失:这种转变的一个关键原因是等级制往往导致官僚主义、降低效率、扼杀创新。没有过多层级,决策会更快,创新也更多。
-
提升和培训新技能:这是深入探索自己感兴趣领域的机会,无论是专业技能、项目管理,还是软技能如解决冲突。
-
担任专家角色:中层管理可以转为专家角色,在自己有丰富经验和知识的领域提供专家建议。
-
加入团队:不再监督,可以成为团队的积极成员,直接为项目和举措做出贡献。
-
战略思考:组织始终需要战略思想者。中层可以转向侧重长期规划、业务战略和全局思维的角色。
-
为何平台工程在这个背景下非常重要?
转型期的明确性:随着等级减少、赋予团队自治权,平台工程为团队提供自我管理所需的清晰度和结构。
-
冗余减少:平台工程的模块化减少冗余和对管理监督的需要。 3, 风险管理:技术风险可能降低,中层转型战略家可以关注更广泛的组织风险,使整体更有弹性。
-
向以团队为中心的组织转型,这冲击了中层管理的传统概念。它挑战现状,为中层创造机会。对中层来说,不是害怕过剩或失业,而是抓住变革机遇,适应变化,找到新的有意义方式为组织整体成功贡献力量。
诚恳的对话、培训和清晰的远景,可以让所有相关方平稳务实地完成角色转变。
在平台工程的世界,关键是团结整个组织,向共同目标进发。以下是主要考虑事项:
受《团队拓扑》启发,平台团队是转型的核心。他们对远景的认同、投入和创新决定成功。制定完备的团队章程至关重要,包括团队目的、价值观、目标和运营范围等要素。
对任何 CTO 来说,梦想是能迅速根据正确洞察采取行动。能自主决策和行动的团队就是黄金团队。
理念是拥有自治权的流对齐团队;要记住,改变组织可能导致问题。应预料一段混乱期,但保持开放沟通,以让团队拥有服务和资源所有权的方式工作。
在更强调团队的设置中,中层管理角色正在改变。不再是传统的主管角色,而是导师和指导者。
管理岗位确实可能减少,但这种转变也带来机遇。中层可以重新培训技能,担任专家角色,或成为积极的团队成员。在少层级系统中找到新的创造价值方式,这就是目标。
要了解团队动力和如何在技术驱动的商业环境中有效组织和管理团队,《团队拓扑:组织业务和技术团队实现快速流动》是必读之作。
在《团队拓扑》中,Matthew Skelton 和 Manuel Pais 展现了如何优化团队结构以促进快速产出和创新的新视角。他们探讨了各种组织模式,并介绍可执行的策略来克服常见挑战。
这本书是致力于改善协作、减少瓶颈、加速产值的领导者和团队成员的无价资源。
欲了解如何设置野心目标但仍可实现的目标,可阅读我们博客系列的第三部分。 | https://yylives.cc/2023/10/01/establishing-a-platform-engineering-organization/ |
如何让平台团队实现远大目标
译自 HOW PLATFORM TEAMS CAN ACHIEVE AMBITIOUS GOALS 。
艰巨的目标不仅给我们提供努力的方向,也能激发我们的潜力。虽然目标应该充满雄心,但我们需要确保它们既务实又可实现。
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
鼓励平台团队自定目标,不仅培养所有权文化,也确保他们全力以赴。
提示:平台团队制定的任何目标都应与技术总监(CTO)保持一致。CTO 有责任监督和推动有利于企业的技术策略。
目标不应孤立存在。如果没能对企业整体造成正面影响,哪怕平台团队实现了卓越的成就,也很难称得上成功。
无论是由 DevOps 团队、项目经理还是平台工程团队制定,目标都应与更广泛的企业目标保持一致。
在忙碌的交付过程中,易于注意产出量。但是,应更关注结果。重要的不是做了多少,而是带来的影响。真正的价值在于工作结果所产生的有利变化。
目标不应是被遗忘的静态陈述。应经常讨论,使其成为重点事项,与时俱进而充满雄心,不断推动团队突破舒适圈。与此同时,目标必须具体,给出明确方向,当然也要透明,确保所有人理解且立场一致。
让我们详细分解:
KPI:关键绩效指标,反映实现预期目标的进展。可以把 KPI 看作企业健康和正确方向发展的关键信号。
-
目标:实现的更广泛愿景。提供方向和目的,是指引一切活动的北极星。
-
指标:代表实现目标的进展情况的具体数量。提供可操作的洞察,是测量绩效具体方面的工具。
-
这三者都关联数据与企业价值。设立远大而可实现的目标需要在授权、一致和清晰之间取得平衡。在平台工程中,重点不仅在设置目标,还在确保目标带来有意义的变革。
通过协作、频繁讨论和对KPI、目标和指标的深入理解,平台团队可以制定路线图,实现影响深远的结果。
目标:下一季度实现所有平台服务可用性达到 99.9%,未计划宕机时间减少 25%。
-
业务影响:确保依赖平台的其他团队经历最小中断,提高生产力和用户信任。
-
指标:未计划宕机次数减少。
-
KPI:可用性百分比。
-
目标:在未来一年将新团队接入平台时间缩短50%。
-
业务影响:更快接入意味着团队可以尽早从平台功能中受益,加速项目进度。
-
指标:平均接入时间(天)。
-
KPI:每月接入团队数量。
-
目标:在未来 8 个月提升平台基础设施,在不增加延迟的情况下处理用户量增加一倍。
-
业务影响:随着组织扩大,团队不会遇到性能问题,确保运营流畅并保持高用户满意度。
-
指标:平台可处理的最高用户量。
-
KPI:用户对性能和延迟问题的反馈。
-
目标:下一季度实施每两个月一次的平台用户反馈,并在两周内处理 80% 以上的可执行反馈。
-
业务影响:确保平台不断根据用户需求演进,培养持续改进和紧贴用户需求的文化。
-
指标:已处理反馈数量。
-
KPI:在两周窗口内处理的反馈百分比。
-
目标:下一季度部署时间缩短30%。
-
业务影响:更快部署意味着更快上市,其他部门如销售和营销可以更早利用新功能。
-
指标:每周部署时间。
-
KPI:平均部署时间减少百分比。
-
这些目标都强调业务影响,与 CTO 提升平台健壮性和用户体验的愿景一致,并设定可测量的指标和 KPI 来跟踪进展。
既然我们已经理解平台团队如何实现远大目标,让我们进入博客系列第四部分,探讨如何优先处理、专注和交付。 | https://yylives.cc/2023/10/01/how-platform-teams-can-achieve-ambitious-goals/ |
超越数字,衡量平台团队的成功
译自 MEASURING SUCCESS BEYOND NUMBERS IN PLATFORM TEAMS 。
“平台团队的价值可以通过他们为产品团队提供服务的价值来衡量。” - Skelton, Matthew; Pais, Manuel, Team Topologies
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
在评估团队成功时,我们经常看到引入DevOps研究与评估(DORA)指标。
对不了解的人来说,DORA指标包括部署频率和服务恢复时间等测量标准,被视为评估DevOps表现的行业标准。
从高层管理向团队强推这些指标,有时会适得其反。
为什么?因为有些团队担心“赤裸裸的指标”。 透明地被测量有一定脆弱性,特别是如果存在不利对比的可能。 坦白地说,没有团队喜欢与其他团队相比,特别是两者之间如比喻苹果和橘子一样。
不同部门都有自己的挑战,例如,DevOps团队与项目管理或平台工程团队有不同重点。 每个团队都有独特优势。 因此,简单依据指标进行对比可能至少会产生误导,最糟是损害士气。
那么,如果自上而下地推行指标的传统方法并不理想,替代方案是什么?关键是平台团队要对自己的测量负责。
理解指标:在采取任何行动之前,团队应该理解某些指标的重要性。 以DORA指标为例,这篇谷歌云文章对其进行了精彩阐释。 通过理解指标背后的理论依据,团队才能真正接受它们。
-
引入SPACE指标:Nicole Forsgren提出的SPACE代表满意度、表现、活动、社区和进化。 这些指标鼓励对成功采取更广泛的视角,兼顾技术和人文因素。
-
学习意见领袖:意见领袖像Abi Noda提供洞察,指标如何成为真正的绩效指标,而不是惩罚工具。 智慧在于将测量视为路标,而不是禁行标志。
-
如果平台团队一个月内提高部署频率10%,表面看似不错,但没有上下文很难评论。
这就是为什么趋势至关重要。 关注指标的绝对快照不如追踪其随时间的变化趋势。 正是这些轨迹提供了洞察,突出增长领域,展示真正的进步。
以下是评估平台团队效能和找出改进领域时可考虑的指标:
描述:使用平台的产品团队占全部产品团队的比例。
计算:(使用平台的产品团队数量/全部产品团队数量) x 100。
重要性:更高的采用率可能表示平台的可用性、相关性和效能。 较低可能意味存在平台差距或改进空间。
描述:产品团队从接触到积极使用平台的平均时间。
计算:所有产品团队引入时间总和/引入产品团队数量。
重要性:更短的MTTO表示平台直观易用且文档完备。 较长可能意味理解或支持材料不足。
描述:平台提供的服务可靠性。
计算:(总时间 - 宕机时间)/总时间。
重要性:高可用性百分比表示平台健壮可靠,对依赖它的产品团队至关重要。
描述:用户反馈到平台团队解决的平均时间。
计算:所有反馈回复时间总和/反馈数量。
重要性:更短反馈循环可能表示敏捷有效的平台团队,持续改进和提升用户满意度。
这些指标为平台团队提供性能和潜在关注领域的初步洞察。 记住关键不仅测量,还要基于这些洞察采取行动,促进成长和改进。
提示:Backstage提供了开发者门户启用相关的指标和KPI,可以提供有价值的洞察。
指标讲述增长、挑战、胜利和学习的故事。 对平台团队来说,它们是指南针。 但记住,虽然指南针提供方向,团队谱写叙事。
将指标视为导航、启发和进化的工具,确保通往成功的道路可以测量且有意义。
这是平台工程系列博客的最后一篇 —— 传达平台团队的成就和挑战。 | https://yylives.cc/2023/10/01/measuring-success-beyond-numbers-in-platform-teams/ |
引导平台团队树立产品思维
译自 NAVIGATING THE PRODUCT MINDSET IN PLATFORM TEAMS 。
不要问开发者能为你做什么,而要反问自己能为开发者做些什么。
Dan Grøndahl Glavind 用 CTO 的视角,写了一系列七篇博客来讲述平台工程。
第一部分:假如我是 CTO ,我会这样推动平台工程
-
第二部分:建立平台工程组织
-
第三部分:平台团队如何实现远大目标
-
第四部分:平台团队成功的箴言
-
第五部分:引导平台团队树立产品思维
-
第六部分:超越数字,衡量平台团队的成功
-
第七部分:平台团队的沟通、成就和挑战
-
想想你最喜欢的产品,你为什么喜欢它?因为它切合你的需求,预判你的心意,提供独特体验,对吧?现在,用同样逻辑看平台工程。
当平台团队树立产品思维时,他们转变从仅“制造”向创造真正打动用户的解决方案。这种思维将用户视为第一,不断迭代,持续创生价值。
重点不仅在平台能做什么,更在用户能用它实现什么。
这里的“内部客户”指将在组织内使用平台的开发者、团队或部门。
有了产品思维,平台团队与客户的关系变得更互动、协作。不仅为他们提供工具,而是理解他们的痛点、需求和抱负。
通过定期反馈会、工作坊或者闲聊,打开沟通渠道,帮助平台持续相关和有影响力。
从传统基建思维转变为面向产品的平台团队,感觉像是学习一门新语言。
过去,基建团队在背后确保系统顺畅运行,与终端用户保持距离。他们仅通过ITIL系统的变更请求沟通。
关注平台工程团队意味着直接与用户互动,并负责用户体验。
这不仅是策略变革,更是团队基因转变,需要主动参与、关注用户反馈、对持续进化持开放态度。
的确,会遇到阻力,如抵制变化、角色边界不清、理解新动力等。但有承诺和清晰愿景,这转变可以带来深远组织和个人效益。
船需要船长掌舵,平台团队可以从产品经理、产品负责人和用户体验专家中受益良多。
这些专家对用户需求、市场趋势和产品演进有深入理解,帮助确定优先功能、简化用户反馈、保持以用户为中心。可以视他们为平台技术能力与用户真实需求之间的桥梁。
一个古老困境是,人们会说想要一件事,但行为反映另一件事。这就是“说”数据(客户表达想要的)和“做”数据(客户如何使用平台)的区别。
想象被告知工具过于复杂,然后看到它有高使用率。这反差可以提供非常有价值的洞见。
找到平衡至关重要。“说”数据提供有价值反馈,“做”数据反映真实行为模式。
分析两者可以认识用户认为需要什么与如何使用工具之间的差异,帮助团队构建有影响力的软件。
转向产品思维时,经常辩论是面向产品驱动还是技术驱动。两者各有优劣,但要找到最佳平衡点。
面向产品意味着用户需求、愿景和痛点主导决策。这通常带来:
高度对齐业务结果:聚焦用户需求自然转化为业务结果。
-
更高用户满意度:正构建用户所需。
-
更清晰路线图:目标更直接,因为与用户和业务结果高度相关。
-
但是过度面向产品可能错过可以让产品领先竞争对手的创新技术。
面向技术意味着决策主要基于技术进步、趋势和能力。这通常带来:
创新解决方案:站在技术前沿可以带来用户甚至没考虑过的解决方案。
-
性能和安全改进:这通常可以推进速度、效率和安全的边界。
-
面向未来:利用最新技术可以使产品更适应未来变化。
-
但是过度注重技术可能导致开发用户可能不需要的闪亮功能或不一定符合业务目标的技术。
平衡两者可以发挥魔力。原因如下:
优化投入:平衡两者可以把精力集中在关键用户导向功能上,同时跟上技术趋势。
-
保持相关和创新:结合用户需求和尖端技术可以满足当前和预测未来需求。
-
降低风险:在创新时,也扎根于现实世界需求,避免过度专注技术或用户需求的陷阱。
-
尽管完全面向产品或技术的诱惑很大,但成功的关键在两者协同。
这是创造用户真正需要和看重的技术先进解决方案。避免极端,拥抱平衡。
通过树立产品思维,从工具转向真正体验的解决方案。这样的团队与内部客户(可能是开发者或整个部门)建立更深层、双向互动。
从传统基建角色转变可能面临独特挑战,这通常是重大的运营和文化变革,但回报也很可观。
随着发展,产品专家的作用日益重要。这些人,无论是用户体验专家还是产品经理,都扮演平台技术能力与用户真实需求之间的桥梁。
一个反复出现的主题是平衡“说”数据和“做”数据。平台团队在软件交付中做出明智决定,需要权衡用户表达想要的与实际平台互动。
最后,平台团队经常在产品驱动与技术驱动间犹豫。每种方法都有优劣,但真正的成功在于整合两者,通过确保技术创新服务于真实用户需求,平台团队可以创造有影响力和持久的解决方案。
如果您想深入了解产品思维的细微差异和理解用户行为,强烈推荐以下两本书:
"Escaping the Build Trap: How Effective Product Management Creates Real Value" - by Melissa Perri
梅利莎·佩里探讨了组织过度关注构建功能而非创造价值的常见陷阱。这是一本非常具有洞察力的指南,适用于任何希望采用真正以产品为中心方法的人。
"Decoding the Why: Behavioral Science in the Next Generation of Consumer Business" - by Nathaniel Greene
Nathaniel Greene 深入探讨了行为科学,阐明消费者做出某些决定的原因。这本书为真正希望理解受众的企业提供了宝贵洞察。
两本书为渴望理解和优化用户体验和产品开发的人提供了丰富知识。快乐阅读! 既然我们已经探讨了产品思维,接下来让我们看看平台团队中如何衡量成功。 | https://yylives.cc/2023/10/01/navigating-the-product-mindset-in-platform-teams/ |
)捐款的同样原因。
一个有趣的发现显示,“现时偏好”可能可以用一些非常清晰的神经活动来解释。
恒河猴被给予选择:立即获得少量糖水,或者几秒钟后获得更大量的糖水。通过改变更大量糖水的数量和延迟交付的时间,科学家能够记录猴子的行为偏好。例如,较大量的糖水需要提高多少价值才值得等待5秒钟?
果然,如果猴子必须等待糖水,它会认为糖水的价值更低,由此展示了“现时偏好”的作用。
同样的猴子然后在其大脑的顶间区插入了电极。研究人员发现特定的神经元似乎对它们正在权衡的选择进行了价值编码:神经元发射得越快,该选项就越有吸引力;它发射得越慢,该选项就越不吸引人。
令人震惊的是,研究人员观察到猴子显示出的行为偏好,与抽样神经元的发射速率之间存在近乎完美的映射关系。这证明“现时偏好”具有非常清晰的神经机制基础。
如果“现时偏好”是我们神经构造的一部分,那么我们就无法摆脱它。我们可以推理它,但我们总会容易受到它的影响。
既然我们无法逃避“现时偏好”,那么我们能否将其转化为有利条件呢?
让我们再次思考甘特图。工程决策是由那些面临迫在近期最后期限的人做出的,他们有不同且更为紧迫的问题要处理(比如只影响他们那个竖井的逼近的最后期限)。如何奇迹般地使负载测试成功是个谜。
如果我们使用平台,我们需要担心的问题空间会更小,项目计划上的许多条 would disappear entirely.一个跨职能产品团队现在拥有它需要做工作的所有技能,并且有了自助服务平台,它可以在需要时完成工作,没有延迟。
按需自助访问资源改变了我们团队的经济状况。我们的交易成本已经降低了几个数量级(获取数据库现在只需要几秒,而不需要几周),这使得我们有经济效益来专注于单个功能,而不是功能的各个方面。
专注于单个功能意味着对那个功能重要的一切现在都是重要的——而不是在三个月后的某个时间点。
像Cloud Foundry这样的自助服务平台提高了抽象级别,创建了更小的问题空间,并允许团队按需访问资源。所有这些结合在一起可以实现以每个功能为单位的工作流程,这可以让我们利用“现时偏好”而不是受制于它。
自动化平台允许团队用单个命令和零停机时间进行部署,这与过时的周末发布和计划停机时间的做法大不相同。现在部署不再痛苦,它们可以变得越来越频繁——我们的团队可以转向持续交付模型,更快地将功能交付给用户。
持续交付不仅可以更快地交付业务价值,还可以让我们更快获得客户反馈。事实证明,持续交付还可以帮助我们减少技术债务。
《匮乏》这本书详细描述了大量原创研究,内容是关于意识到某些对自己重要的东西不足时对心理的影响。
一个代表性的研究在新泽西州的一个购物中心询问顾客一个假设的问题。
“你的车发生了交通事故,保险公司不会支付修理费用。你打算如何支付修车费用?”
根据收入,受访者被分成两个群体:富人和穷人。 每个群体中的一半人被问到一个略有不同的问题:他们要么支付300美元的修理费用,要么支付3000美元的修理费用。
在回答修车资金困境之后,受访者进行了一个流体智力测试。所进行的测试是瑞文氏进阶矩阵测试,这常用于测量智商。
富人的智商分数不会受到他们被提出300美元问题还是3000美元问题的影响——他们的得分接近预期水平。被提出支付300美元问题的穷人也没有显示出明显的智商差异。
但是,被要求找到3000美元用于修车的穷人显示出智商下降了13到14分。所有这些,只是从一个虚构的练习中提醒他们在现实生活中缺钱。
除了流体智力下降,匮乏的另一个效应是执行控制能力下降,这是一类包括自我控制和远景记忆(记住将来需要做什么)等心理能力。
这种匮乏效应在《匮乏》一书中描述的研究中一次又一次地被验证,并且控制了文化和人口统计差异。
它不仅被证明存在于资金短缺,对社会接触的匮乏也显示了这种负面心理影响。最重要的是,当人们感受到时间不足时,也会显示出这种效应。
只要想一想,如果提醒工程师他们截止日期逼近,会在他们的头脑中发生什么:
你降低了他们的有效智商,使他们不太能解决抽象问题
-
你降低了他们的自我控制能力,更有可能为了赶期限而妥协、增加技术债务
-
你抑制了他们的远景记忆,使他们不太可能记得之后需要修复刚抄的近道!
-
我们为什么要这样做呢?
如果你正在实践瀑布流,迟交会对后续的竖井活动造成连锁延误和重新调度成本。有了自助服务平台和跨职能团队,我们就不会有这个问题。
如果你正在实践敏捷开发,你每两周就会这样做一次。为什么?因为敏捷开发是为低信任环境设计的方法论。管理层会坚持工程师在冲刺结束时承诺交付事项。如果没有最后期限的压力,管理层怎么知道人们会做他们的工作呢?
但是,相比最后期限的恐惧之鞭,存在一种更好的软件交付方式,它以内在动机的美味胡萝卜取代了最后期限。这样可以避免人为强加的匮乏效应。
持续交付完整的特征可以让我们展示进度,而不是预测未来。没有人可以预测未来,如果他们可以的话,我敢肯定他们会忙着买彩票,而不是获得Scrum大师认证。
如果你想知道一个团队的速度,看看过去两周他们交付到生产环境中的内容。看看现在客户手中的业务价值量。我无法预测未来,你也不能。但是一个持续交付的团队可以指向最近的过去表现。
敏捷开发中内在的不信任可以通过两个非常简单但有力的想法来解决。
每个产品团队应该从一个单一的、有序的、公开的待办事项 backlog 中工作,该 backlog 由产品负责人安排优先级。“业务部门”决定优先级,工程团队从不推翻这一点(尽管他们可能会讨论已指派的优先级)。
工程师只从 backlog 的顶部选择故事,从不跳过去找一些可能更有趣的事情。利益相关者可以通过查看待办事项 backlog 或查看已经交付到生产的内容来随时看到进度。
通过始终做最重要的事情,工程师可以保持持续关注。他们从不浪费时间。
工程师始终以最简单的方式实现一个故事。他们不会过度设计,不会为可能永远不会发生的未来架构。实现是尽可能精简的——我们不能再裁剪任何“脂肪”。
通过始终以最简单的方式做最重要的事情,我们总是走最短的路线来交付最关键的业务价值。
在这一点上,最后期限变得毫无意义。
如果我们已经在用最简单的方式做最重要的事情,在日历上画一个日期不会产生任何影响。
这有点像对一颗卫星大喊让它更快环绕地球——我们要么可以增加动能(相当于增加团队资源),要么减少卫星的质量(相当于减少任务复杂性)。大喊大叫不会改变决定速度的关键变量。工作会在完成时完成。
持续交付最重要的事物以最简单的方式可以让我们摆脱最后期限的枷锁,以及最后期限造成的技术债务。
利用可以实现持续交付的平台,我们可以用内在动机的胡萝卜来替代最后期限的大棒。
一项经常被报告的研究在监狱中进行,发现如果受审批释听证会刚好在午餐后举行,犯人获得假释的可能性更大。下午晚些时候举行听证会的犯人获得假释的可能性只有20%,而在委员会吃午餐返回后听证的犯人假释可能性高达65%。
长期以来,人们认为这种差异是因为假释委员会吃午餐、摄入葡萄糖,代谢成赖氨酸,然后在前扣带回中使用——这是与抑制冲动相关的大脑区域。
然而,事情可能还有更多的因素。
一项更近期的研究要求受试者进行力竭的Stroop测试,在这种测试中,受试者需要观看颜色名字的文字,文字打印成不同的颜色,他们需要说出写的文字而不是文字的颜色,这需要自我控制能力,因为受试者需要抑制更直接的反应。
在Stroop测试达到极限后,要求受试者漱口含有甜味的饮料,然后吐出来。紧接着,他们进行了另一个意志力测试,这次是用握力器使劲捏和捏持续时间尽可能长。
一半受试者漱口含糖饮料,另一半受试者漱口人工甜味饮料。
平均而言,漱口含糖饮料的人在后续的意志力测试中表现更好。但为什么?他们吐出了饮料,所以不可能摄入任何葡萄糖。握力测试紧随其后,所以即使吞咽了一些,他们也没有时间消化和代谢葡萄糖。
假设是含糖饮料中的葡萄糖与舌头上的化学受体结合,这反过来激活了大脑中的奖励网络。就是这种奖励感补充了人们的自我控制力,而不是糖所包含的化学能量。
轶事证据完全证实了这一点(至少对我来说),并解释了为什么美好的日子会自我实现,而糟糕的日子往往会变得更糟。当你得到奖励时,你更能抵御诱惑并坚持一条有益的道路;当你感到没有被奖励时,你会缺乏抵御诱惑的自我控制力,从而在其他地方获得你没能得到的奖励。
持续交付允许工程师每天完成任务并获得完成的感觉。与管理层的普遍看法相反,人们在很大程度上是受工作完成的感觉和看到别人从自己的劳动中受益的动机驱动的。在瀑布流项目中,这种奖励被严重延迟,以至于几乎没有作用;在敏捷开发中,这些奖励至少也要延迟两周。
对一个行为频繁奖励会使那个行为更有吸引力。这是赌博机和免费游戏利用得非常高效的心理钩技巧。
持续交付每天(有时一天好几次)给工程师一种成就感。这增强了他们的自我控制力,减少技术债务,并使获得生产环境部署的行为更有吸引力。
当我和 Daniel Young 一起创立EngineerBetter时,我们花时间思考我们想达成什么目标以及为什么。
我们观察到,企业从本质上只由两样东西组成:股东用辛苦赚来的金钱,和员工轻易就能花掉的时间。每当一个组织做一些低效的事情时,它就在浪费这两种资源之一。
当时担任 Cloud Foundry 基金会 CEO 的 Sam Ramji 曾经对我指出,时间不是用秒来衡量的。时间是用心跳来衡量的。你正在用它来阅读这篇文章,你不会要回这些时间。你拥有有限的时间,不会有更多,并且知道地在浪费别人的心跳是不道德的。
但我们都知道,时间就是金钱。如果时间就是金钱,那么金钱也可以用心跳来衡量。
必须有人用心跳换取金钱。他们花费了生命中的一些时间来赚钱,积蓄给家人,投资养老金,或留给孩子。
如果我们知道有更好的方法,却仍采取低效的方式,那么我们就是在知情浪费别人的心跳。
企业流程的荒谬性很容易被轻视,并变得麻木于等待两个星期来满足变更请求的乏味过程。但从根本上说,我们所做的很重要。
无论你是在浪费企业的金钱还是员工的时间,你都是在浪费人们的生命。
我个人无法参与这种行为,也无法袖手旁观假装这不是我的问题。
“这里就是这样的”和“其他人也这样做”不是可以接受的借口。
“这是人的问题”和“改变企业文化很困难” 也不是不采取行动的理由。
人确实是问题的关键。改变文化确实很难。现在是时候着手开始了。 | https://yylives.cc/2023/10/04/the-anthropic-sympathy-of-platforms/ |
平台团队:采纳七种提升开发者生产力的方法
“代码简洁”和“理解软件”的作者、领英公司的马克斯·卡纳特-亚历山大就平台工程团队常见的错误提出建议。
译自 Platform Teams: Adopt These 7 Developer Productivity Drivers 。
你想让你的开发者变得效率低下、心情不快乐吗?当然没有人想要这样的结果对吧? 事实上,更快乐的开发者会更有工作效率。The New Stack 采访了领英公司的 Max Kanat-Alexander,讨论了一些持续对开发者效率和快乐产生负面影响的常见反模式。我们总结了七个平台工程团队必须考虑的提升开发者效率的方法。
Kanat-Alexander 是领英的首席软件工程师,也是关于开发者生产力的畅销书《Code Simplicity》和《Understanding Software: The Fundamentals of Software》的作者。后者反映了他围绕软件设计原则和提高组织内开发者效率的自己观察和经验。他还担任过流行的开源缺陷跟踪项目Bugzilla的首席架构师,并且作为顾问处理过许多软件开发流程。在加入领英之前,他是谷歌代码优化小组的技术负责人,帮助塑造了工程师在代码审查和测试方面的实践。
他认为:“开发不仅仅是一个人单独编写代码,进入一个更大的范围时你可能需要知道一些事情。”他是知识系统团队的技术负责人,该团队构建度量和反馈系统以了解如何在领英范围内提高开发者效率和幸福感。
正如我们通过平台工程、知识扩散、文档和发现的研究所了解到的,知识传播是提高开发者效率的关键。
Kanat-Alexander 发现,尽管平台团队真正关心把事情做好,但“经常会有做错的地方可以做得更好”。
现在我们来反思最常出错的地方,并教你如何提高开发者幸福感。
随着平台工程逐渐成为主流,主要挑战不是技术方面,而是让内部开发者信任并采用你的平台及其创造的快捷通道。
“许多开发者效率工程团队陷入这样一种困境:他们觉得正在尽最大努力工作和交付成果,但没人对他们满意。” Kanat-Alexander说,这反过来使管理层在目前紧缩时期不愿为开发者效率团队提供资金。一个问题是平台工程师也是开发者,“你知道所有开发者需要和想要什么。因为你认为所有人的工作方式和你一样。所以,只要解决你自己的痛点,其他所有人就会开心。”
他当然善于讽刺,并认识到即使在同一公司,不同的软件开发团队也不完全相同。一个成功的平台工程和开发者效率策略依赖于持续的开发者反馈,并将平台视为一个产品。
从开发者调研开始。在小组织中,他说,进行一对一访谈。领英、谷歌和Spotify每季度进行大规模开发者调研。
“做好调研很难,” Kanat-Alexander承认,但“任何调研都比没有调研好,即便只发出一个问题‘嘿,评价你的开发体验吧’,然后是一个自由反馈的文本框‘告诉我你认为阻碍效率最多的最重要的事情’。”
任何调研行动都将帮助你与内部开发者建立更緊密的关系。
你的组织可能有几个不同的开发者群体等待倾听,从Java后端开发者和Python开发者,到前端、iOS和Android开发者,以及网站可靠性工程师。如果你只关注使这些群体中的一个更满意,其他人可能会更不满意。
“事实是,不同类型的开发者有不同的工作流程。除非你真正理解这些开发者的需求各不相同并分别服务,否则你仍会造成许多敌意,无法很好地服务开发者。” Kanat-Alexander说。
“需要考虑的是,优先级和要求需要根据工作流类型进行评估,而不仅仅是受影响开发者的数量。” 他解释说,移动团队通常比服务器团队小得多。起初,关注提高最多开发者的效率可能看起来有意义,但平台工程的重点是更快为终端用户交付价值——移动团队最有可能影响这一点。
“改善移动开发者的体验对业务影响可能实际上大于改善后端或Web开发者的影响。” Kanat-Alexander说。当然这取决于你组织目前的痛点和阻碍在哪里。例如,如果移动应用开发者无法在后端交付API更改,那么后端开发者的效率问题正阻碍着移动开发者。
平台团队必须根据你的工具广度在不同类型开发者之间进行优先级排序。如果某个团队有独特的工作流程,他说,DevOps的方式是该应用团队拥有工具链中其独有部分完全有意义的。
康威定律——系统反映沟通结构,在你的平台工程策略中同样至关重要。
如果你的平台团队(以及它所服务的工程部门)足够大,你可以根据角色将该团队分割开来,为每个组提供平台传道者。另一方面,Kanat-Alexander说,一个非常团结的平台团队拥有非常深厚的经验和专业知识可能更有利。
Puppet的2022年DevOps状态报告显示,这是平均公司拥有3到6个平台的原因之一——一刀切的策略很少奏效。
他说,将平台团队的重点分开,“可能会带来好处,因为你正在创建一个专注的产品来帮助那些人”,专注于他们的目的,并提供潜在的卓越的开发者体验。
但是,“如果你未能利用共性,人们就会做许多重复工作。或者,如果你创建了脆弱的工作流程,当你拥有多个平台时,它们无法融合在一起”,这会让开发者不得不从不同团队请求几乎相同的权限,通过人工流程减慢速度,或数据流之间不必要的障碍,又或者让开发者自己想方设法让CI系统与另一个部署系统互操作,因为它们现在拥有两个不同的工件需要协调。
“另一个让开发者效率低下和不快乐的好方法是,每次他们想要做任何事情时,确保他们在做任何事情之前都必须请求其他人的批准。” Kanat-Alexander说。那个人可能需要几天才能回复。更糟的是(变慢了),你可能会添加各种流程和不同的团队不得不相互交谈。一天的任务可能会拖两个月。
开发者沮丧是2022年安静离职趋势的原因之一,员工只付出最低努力。确实,改善开发者体验可以防止职业倦怠,这是大规模离职的主要原因。此外,研究表明,变更时间越长的组织,离职率越高。
Lesley Cordero在伦敦DevOpsDays上解释说,慢性问题是重复发生和/或持续存在的问题。这些问题往往很难解决,这就是为什么它们会变成慢性问题的原因,但解决这些问题很重要,因为慢性问题实际上反映了组织中更大的问题。
不必要的障碍和审批流程会形成Cordero所说的习得性无助感文化。“这些情况会让人们对你团队保持价值观的能力失去信任。” 无谓地向开发者体验添加阻力会进一步损害动机并增加离职率。
但是,Kanat-Alexander说,大多数人工流程都是对风险的反应。当然并非所有需要人工参与的流程都是不好的。他举了代码审查的例子,作为判断代码简洁性、可理解性和未来可维护性的手段。
另一方面,像“我是否被允许调用这个特别危险的API?”这样的流程不应该需要人工判断,因为计算机应该能通过静态分析为你提供答案。“至少,静态分析应该能拒绝几乎所有情况,然后对需要申请异常的特定情况有详细的解释和理解”,根据确立和编码的异常政策。仍可能需要一个人工关卡,但这应该是异常情况。
任何延长交付时间的事情都会损害动机和创新实验的欲望。
之前,作者曾认为平台团队应该远离创新沙盒,平台应该服务99%的开发者,以免扼杀或限制剩下1%的创新者。但事实证明,没有完善的平台实际上可能会阻碍创新的速度。
“当你有一个平台时,你需要考虑致力于某项事业的长期业主和仅仅想涉足一天或两天的人。” Kanat-Alexander说。“平台团队经常会忽视第二种情况。他们认为,如果一个人需要花一个月来学习执行某个特定任务没问题,因为一旦他们这样做,这可能就是他们未来三年的工作。这不是很好。”
想象一下,他说,一个高级技术负责人每天只有几个小时来编写代码,但随后不得不面对各种权限障碍和等待时间,每次想要完成工作都是如此。
很难预测什么时候某人会想尝试新事物。他称之为创新与承诺开发的问题。如果设置存储库和在生产环境中获取机器需要几周时间,这些人为障碍会阻碍创新。
相反,在特殊安全区域轻松设置机器,具有默认访问权限和无个人身份信息。Kanat-Alexander说,平台团队应在其框架内设置自动化机制和默认模板,以便应用团队可以直接获取基础设施——因为大多数时候这不是他们正在尝试创新的部分。
你不可能处理每一种用例,但最终你可以处理其中约80%的情况,Kanat-Alexander说。“你希望开发者有这样的体验:大多数技术决策已经为他们做出——所有与他们试图实现的业务逻辑无关的决定。”
你必须能够说不。
“这些铺平道路的人必须能够对开发者说不。如果他们不能说不,他们就会变成一个涵盖面广泛的一刀切的庞然大物,满足每个需求,但都不出色。”
但是,通过将平台分层为他称之为“平台原语”的层次——其中一些可以访问内部开发环境、CI系统或构建系统——你可以将请求那些边缘用例的团队指向平台组件,以便他们自己构建它。
这可能是像Airflow或Terraform这样的语言,他说通常不会想让普通开发团队接触,所以你会将它们隐藏在用户界面后面。但是,当UI无法处理那些边缘情况时,你可以给予该团队访问权限来编写自己的代码。
Kanat-Alexander说,错误的解决方案是总是默认容许边缘情况,但是,有时候,“如果这些小众用例对业务真的足够重要,业务应该愿意投资专门的人在该团队或领域从事这些非常小众但很重要的基础设施工作。”
警告:如果你完全不帮助这些边缘情况,你的工程师会自己开发解决方案,这会导致运维扩张,使他们偏离黄金路径。
平台工程团队通常会收到大量需求。做一些临时补丁或仅提供概念验证的诱惑可能很大。但是以“平台即产品”的心态,意味着你要完成已经开始的工作,并致力于提供用户真正想要使用的高质量产品。
平台的成功依赖于基于用户反馈的持续改进。我们已经提到了在平台任务清单中优先考虑开发者需求的必要性。这些调查必须持续进行,以检查您是否满足他们的需求。 将平台指标以及不可避免的后续需求都纳入您的平台策略。
永远不要忘记平台工程的目标之一是实现自助服务。这意味着交付的定义依赖于它是否得到记录,最好是以高度可搜索和自助的方式。交付还意味着始终进行监控和报警,并在事件不可避免发生时进行事后总结。
为了实现所有这些,除了构建新的平台功能之外,你还需要能够与业务利益相关者进行沟通。“向管理层表达做出伟大工程工作的重要性需要非常强大的技能。” Kanat-Alexander说。你可能需要谈判不仅开发闪亮的新功能,还要保护时间来完善旧的功能。“交付”在很大程度上意味着不需要人工参与,“这在实际中是不可能完全实现的,因为团队、需求、工具和环境都在不断变化。然而,在大多数项目中,你可以在实际意义上实现这一点;将所需的人工参与降低到很低的水平,通过花时间打磨平台或工具的粗糙边缘。
平台需要持续致力于质量——你的同事值得你这样做。如果你不致力于提供完整的开发者体验,他们也不会使用它。
平台团队可能会养成“我猜没完成这个东西也没关系,因为这只是一件小事,它有多重要呢?”的习惯。但是Kanat-Alexander继续说,“软件是一个巨大的、持久的对象,通常是由大量人协作构建的。如果没有人监督有多少事情被留未完成,那么最终你可能会陷入相当大的困境。” | https://yylives.cc/2023/10/06/platform-teams-adopt-these-7-developer-productivity-drivers/ |
不要以平台治理牺牲开发者体验
译自 Don’t Sacrifice Developer Experience for Platform Governance 。
我们正在创建新的基础设施即代码方法,以协调运维团队和开发者的基础设施即代码工具和工作流程。
基础设施即代码(IaC)工具,如 Terraform 和 Pulumi,无疑改变了我们管理云基础设施的方式。虽然这些工具非常有价值,但总有可能进一步增强和优化运维团队和开发者的工作流程。我来自于正在创造新的来自代码的基础设施(IfC)方法的团队之一。我们与 Nitric 和 IfC 的目标不是取代这些工具,而是与它们协调一致。
我们正在开发功能来简化整个部署过程,直接从应用程序代码本身推断出复杂的基础设施代码。我们没有重写 IaC 工具链,而是将其无缝集成到我们的流程中。这确保运维团队可以继续使用他们的首选 IaC 工具,而开发者可以从更直观的界面中受益。
当我们谈及 IaC 与开发者体验(DX)之间的脱节时,是指许多开发者从应用开发转向基础设施供应和管理时感受到的断层。传统的 IaC 工具虽然强大,但学习曲线往往很陡峭。它们要求开发者以云资源、配置和依赖的方式思考,这与他们的核心应用逻辑有很大差异。
这很容易让人陷入每个特定云提供商的细节难题中。无论是 AWS 的身份和访问管理(IAM)角色的复杂性,GCP 的网络规则还是 Azure 的存储配置,魔鬼总是藏在细节中。这种复杂性使我们的团队无法专注于提供核心业务价值。
让我们来探讨一下我们是如何通过基础设施即代码(IaC)模块制作一个平台工程工具的,它可以直接从代码中自动生成和实现资源规范。这里有一段代码,让用户可以从存储桶中获取下载 URL:
import { api, bucket } from "@nitric/sdk";
const photoApi = api('photos');
const photos = bucket('myPhotos').for('reading');
photoApi.get("/photo/:path", async (ctx) => {
const { path } = ctx.req.params;
ctx.res.body = await photos.file(path).getDownloadUrl();
});
Nitric CLI 检查这段代码,自动生成一个详细的规范,其中包含资源和全局属性的列表。这个列表包括 API、存储桶和执行单元等资源,以及在云端配置它们所需的必要信息。
该资源规范清楚地定义了应用程序的部署和运行需求,这使得我们可以生成与项目一同存在的资源图和文档。
更重要的是,它也帮助解决基础设施漂移的问题。每当我们变更应用程序代码时,无论是在部署还是本地运行时,资源规范都会自动更新,以添加/删除/修改资源,使其与应用程序的需求保持一致。
那么,我们已经自动生成了一个资源规范;下一个逻辑问题是“我们如何将这个规范转换成已部署的资源?”
这里,与 Pulumi 和 Terraform 等基础设施即代码工具的集成至关重要。它们充当完成预配请求的动力来源。我们的目标是消除每个项目团队需要与项目一起维护基础设施即代码代码版本的需求。相反,Nitric 框架会自动实现资源规范。
Nitric 的核心在于它的提供商系统。这些云提供商充当插件,分为两大类:
部署提供商:解释资源规范并将其转换为具体的云资源。例如设置 API 网关或存储桶。
-
运行时提供商:将抽象的 SDK 调用转换为特定的云 API 请求。例如发布主题或读/写存储桶。
-
使用 Pulumi 部署代码设置 S3 存储桶的代码可能如下所示。代码遍历资源规范,收集建立存储桶资源所需的必要细节。
for _, res := range request.Spec.Resources {
switch b := res.Config. (type) {
case *deploy.Resource_Bucket:
s3Bucket, err := s3.NewBucket(ctx, b.Bucket, &s3.BucketArgs{
Tags: pulumi.StringMap{
"x-nitric-project": pulumi.String(ctx.Project()),
"x-nitric-stack": pulumi.String(ctx.Stack()),
"x-nitric-name": pulumi.String(b.Bucket),
}
})
if err != nil {
return nil, errors.WithMessage(err, "s3 bucket "+name)
}
}
}
主要优势在于部署变得更加声明式和可重现。此外,它还鼓励模块和模板的重用,加快和标准化部署。这种模块化方法本质上具有未来适应性,允许在资源配置、预配工具选择甚至未来的云目标方面提供灵活性。
除了部署之外,Nitric 确保与云资源的运行时交互被抽象化。SDK 映射到适当的云 API。例如:
const images = bucket("images").for("writing");
bucket.file('cat.png').write(data);
write 命令映射到一个提供商实现,它按如下方式完成写请求:
// Write - 将对象写入存储桶
func (s *S3StorageService) Write(ctx context.Context, bucket string, key string, object []byte) error {
newErr := errors.ErrorsWithScope(
"S3StorageService.Write",
map[string]interface{}{
"bucket": bucket,
"key": key,
"object.len": len(object),
},
)
if b, err := s.getBucketName(ctx, bucket); err == nil {
contentType := http.DetectContentType(object)
if _, err := s.client.PutObject(ctx, &s3.PutObjectInput{
Bucket: b,
Body: bytes.NewReader(object),
ContentType: &contentType,
Key: aws.String(key),
}); err != nil {
return newErr(
codes.Internal,
"unable to put object",
err,
)
}
} else {
return newErr(
codes.NotFound,
"unable to locate bucket",
err,
)
}
return nil
}
注意:Nitric 框架是开源的,提供商用 Go 语言编写,使用为 AWS、GCP 和 Azure 打包的 Pulumi 自动化引擎,遵循最佳实践。使用 gRPC 向提供商实现发出请求,允许使用您喜欢的任何语言编写提供商。在我们 CTO Tim Holm 写的这篇博文中可以了解更多关于 gRPC 及我们如何使用它的信息。
Nitric 根据开发者编写的代码自动生成详细的资源规范。这个规范充当导管,使运维团队可以使用他们偏好的基础设施即代码工具来提供应用程序确切需要的资源。这是代码、规范和基础设施之间的协作互动,确保所有团队保持一致。
对运维团队来说,这种集成意味着在不需要深入了解应用程序细节的情况下进行监督和治理,同时使用他们喜欢的基础设施即代码工具不会影响规模和性能。
对开发人员来说,这意味着简化的部署流程,他们只需定义自己的需求,Nitric 与基础设施即代码工具一起使其成为现实。
Nitric 社区正在蓬勃发展,我们非常乐意与您取得联系。有多种方式可以表示您的支持。在我们的 Discord 渠道上可以了解更多关于 Nitric 的信息,并参与积极讨论。在 GitHub 上给我们点赞可以表示您对我们的使命的热情支持,加入我们一起重塑平台工程。 | https://yylives.cc/2023/10/08/dont-sacrifice-developer-experience-for-platform-governance/ |
平台工程:从 Kubernetes API 学习
不要左移而要下移。为开发者简化困难的事情。从 Kubernetes 的流行及其 API 学习。
译自 Platform Engineering: Learning From The K8s API 。本文所要表达的思想,其实已经在 crossplane 这些框架上已经体现了,Kubernetes 本身就是一个很好的平台工程的控制层面基础平台。
Richard Seroter 最近发表了一篇题为《The Modernization Imperative: Shifting left is for suckers. Shift down instead》的文章。这是一篇非常棒的文章,探讨了开发者在过去十年随着DevOps和云计算席卷科技界所经历的许多问题。开发者被要求掌握越来越多知识,提高了他们使用开发平台的认知复杂度。Heroku这样的平台深受开发者喜爱就不难理解了!它们通过简化部署做得非常出色。
随着Kubernetes(K8s)平台的兴起,团队终于有了一个绝佳的机会和工具,可以通过将服务所需的一切放在K8s API后面来降低开发者的认知复杂度。正如《Building a Successful SRE Team》一文中讨论的,专注于自助服务对扩展平台团队至关重要。如果不这样做,随着每个开发团队的增加,你最终不得不线性扩展人员,而不是让团队自主上线,从而支持大量更多的工程师。专注于自助服务还带来其他好处,它对使开发者满意和释放平台潜力也至关重要。为什么说K8s API模型是自助服务的关键所在?因为它提供了以下关键特性:
它是幂等的。提交相同的对象两次不会导致两个对象,只会导致一个对象。
-
它是声明式的。工程师不需要编写长长的命令式步骤来实现特定的结果,他们只需要描述想要什么,其他的问题就让编排器来处理。
-
它鼓励容错。这并不意味着在K8s上部署的每个应用本身就是容错的,任何试图部署切换应用的人都知道这不是真的。相反,K8s API和模型简单地要你失败后重试,直到操作成功。如果一个pod无法启动,kubelet不会停止尝试,而是会一直重试,直到成功,即使在不进行干预的情况下这种条件可能永远不会变为true。
-
它管理协调。我非常喜欢Terraform。我写过很多Terraform代码。我也写过许多关于Terraform的文章。Terraform的最大缺点是会漂移。使用Terraform管理漂移尤其是在无法锁定云环境中手动更改的情况下几乎是不可能的。在K8s世界中情况并非如此。如果有人手动删除了一个pod,K8s可能会将其重新创建。
-
它鼓励GitOps。在K8s中管理2-3个应用程序之后,你会看到GitOps的价值所在,特别是如果不止一个人帮助管理它们的时候。有人会忘记提交helm chart的values.yaml或deployment/service的修改,然后其他人随后编辑它,从而破坏你的资源,因为更改从未被提交或管理。与其手动进行更改,不如使用像ArgoCD或Flux这样的工具实现单一信息源来描述基础设施。
-
它允许构建operator。如果你只使用过K8s作为容器编排引擎,可能没有意识到operator模式的强大功能。它允许注册自定义资源、监视任何资源的更改以及通过内置的扇出队列对这些资源采取行动,实现的自定义程度远远超出任何人的想象。在K8s上管理Elasticsearch与在ECS或EC2上管理之间的不同程度和支持需要是如此之大,以至于这简直令人难以置信。在K8s上,你可以使用Elastic Operator,它处理管理ES约90%的所有痛点。如果在其他地方完成,你必须自己编写所有自动化、托管它们的位置、订阅事件等。
-
扩展所有这些优势使我们拥有了诸如Config Connector(面向GCP)和Crossplane(与云无关)之类的工具,以便我们甚至可以设置存在于K8s集群之外的所有其他服务基础设施部件。这些工具允许平台团队让开发人员使用单一API与服务所需的所有基础设施进行交互。服务需要一个数据库吗?使用CNRM建立一个Cloud SQL实例。团队需要将Pagerduty服务连接到他们的K8s服务吗?使用Crossplane的terraform provider。允许团队只通过单一API设置所有资源是非常强大的,并为开发者的成功奠定了基础。
但是好处并不止于此。从平台团队的角度来看,要求通过K8s API创建服务资源允许你构建一致的工具来管理创建和审批流程。
你是否希望应用策略以防止创建某些资源,要求某些元数据,限制可以创建资源的位置或要求特定的命名模式?使用一个准入控制器,如Kyverno或OPA Gatekeeper就可以实现。如果可以在K8s中使用CEL,则甚至可能不需要它。好处是你不必为K8s资源编写一个流水线,为Terraform/Cloud Formation/CDK编写另一个流水线。作为平台团队,你为一个API编写一致的工具集,这允许你为任何策略构建有效的RBAC和测试,限制更改的范围和影响,并利用K8s API的所有优势。
作为平台团队,你是否想编写抽象以确保服务团队创建的资源的一致性?你是否想提供明智的、固执己见的默认值?你是否想管理依赖关系的单一集合升级?然后选择你最喜欢的K8s包管理器(helm、jsonnet、kustomize)并大展身手!编写一组可组合的charts,让开发人员可以轻松启用和关闭服务所需的基础设施。他们可以从一开始就以安全的配置方式获得它,而要获取新功能,他们只需要升级chart版本,甚至还有自动化工具可以完成此操作!
这不仅仅是我在吹捧K8s的优点。我看到这在Mission Lane非常成功。我们拥有250多种使用Mission Lane服务Helm Chart的微服务。我们用一个非常小的基础设施团队支持200多名开发人员。该 Chart 允许你建立一个简单的部署、服务和虚拟服务。但是如果你需要一个数据库,它会使用CNRM在你的项目中创建一个Cloud SQL实例,启动一个Cloud SQL代理,配置IAM和GCP/K8s服务帐户,所有这些只需要三行yaml。当然,也有大量的自定义机会。开发人员可以覆盖几乎任何设置,但是大多数人不需要这样做。他们可以立即获得一个安全配置的数据库。GCS存储桶、Redis实例、使用Flagger的金丝雀发布、Istio配置、open telemetry边车等也是如此,所有这些都来自helm chart,并允许团队快速从POC转变为完全生产化的服务。
将开发者不需要交互的堆栈部分抽象出来,在服务所需的基础设施方面提供有益的固执己见,并采用单一API和开发者交互的心智模型,会使你的平台团队从仅仅高效,从良好跃升到卓越,从是一个有用的、有贡献的团队成长为是一个对组织的力量倍增器。
你甚至不必使用K8s API,可以使用Nomad或自制API。但你至少应该从K8s API所做的非常出色的工作中吸取教训,因为它的使用不仅仅是盲从,它提供了令人难以置信的自动化效果。 | https://yylives.cc/2023/10/17/platform-engineering-learning-from-the-k8s-api/ |
九步来到平台工程地狱
译自 9 Steps to Platform Engineering Hell 。这就是平台工程反模式。
平台工程若做得当,可大幅提升开发效率和工程速度;若做得不当,则可能让你陷入困境。
如果你从事DevOps和云原生工作,你可能已经听说平台工程是一门新学科,承诺能弥补DevOps在企业云原生环境下的不足。你可能也知道它专注于构建内部开发者平台(IDP),实现开发者自助服务,减轻运维团队压力。你的DevOps朋友告诉你这是最热的新事物,如果你把职称改为平台工程师,薪水可能会增加20%。
然而,平台工程若做得当,可极大提升开发效率和工程速度;但若做得不当,也可能让你陷入新的困境。令人惊讶的是,许多工程团队正在盲目全速冲向这种新的困境。以下就是踏进平台工程地狱的九个步骤。
市场营销终于说动了你的组织。管理层看到平台工程出现在Gartner的热门技术周期中,决定建立平台工程团队和IDP。热情还在,但不幸的是,团队组成没有太大变化,仍被大量任务和Slack信息淹没。他们没有时间构建精心设计的平台,而是仍然仅仅试图求生存。
平台团队仍保持DevOps思维,继续为各产品团队编写流水线和自动化。他们收到太多开发者请求,没有时间或资源退而制定长期策略,构建可扩展的IDP并将其交付给整个工程组织。
第三步:你的平台团队为运维构建平台,而非开发者所需
更多平台工程师终于加入团队,个个运维经验丰富,从业多年。他们聚在一起,认真思考职业生涯中遇到的最大运维难题。于是启动设计一个平台,来解决多年来困扰他们的种种烦人问题。但开发者永远不会使用这个平台,因为它没有解决开发者痛点,仅仅解决了运维问题。此时,平台工程项目已烧掉400万美元,采用率仍为零。
更多平台工程师加入团队,个个渴望利用CNCF新景观中的最新技术。他们想用GitHub Actions替换Jenkins,用Kubernetes替换所有虚拟机,引入Terraform,后来又用Crossplane取而代之。与此同时,成本持续上涨,生产力继续下滑。
因为每个团队和组织都有独特需求,自定义工作流无处不在。这反过来需要更多自定义集成。也就是说,一分钟前你还在为一家普通线上运动鞋店运行简单设置,下一分钟就部署到高度定制的自管理混合Kubernetes环境。
平台团队有人听说开发者自助服务和门户是最热门话题,所以决定在现有基础设施混乱上加搭一个门户网站,却从未询问过开发者。平台团队对“建立就会被使用”的老派思维已不再奏效感到惊讶。此时,已烧掉800万美元,采用率仍为零,生产力直线下降。
因为你是大型低效沟通的企业,中层管理启动多个平台工程项目但互不协调。高层不介入,工作量加倍,沟通变得更糟。结果,你为五个团队构建了五个平台,大多一个也不work。采用率?没错,仍为零。而且,现在已烧掉1500万美元。恭喜! 副总裁、业务领导和部门主管对大量沉没成本和无处可逃感到紧张。没有人敢说出真相:此时大部分平台需重新构建。它不可扩展,也不work。
公司落后竞争对手,但报表上一切看似仍好。这得益于管理者编造自己的指标来美化平台表现。此时,少数称职的平台工程师已离开公司。
那么最终将如何收场呢?不会好看,我们可以肯定。也许你被解雇,或者公司慢性衰亡直至死亡。或许会被竞争对手收购。谁知道呢?我们确知这些选项都不是好的结局。
遗憾的是,我们已经看到太多企业走上这条路。你甚至可能认出自己的团队正在危险地向哪一步迈进。好消息是,事情不必如此发展。永远从一个地狱跌入另一个地狱,不必是你的命运。
那么,如何避免这种情况呢?很简单。加入平台工程社区,从超过16000名从业者的错误和最佳实践中学习。将你的平台打造成产品,倾听开发者心声。遵循 Humanitec 的参考架构,在 AWS、GCP 或 Azure 上构建企业级 IDP。 | https://yylives.cc/2023/10/19/9-steps-to-platform-engineering-hell/ |
探索进化之路:基础设施即目录
概念框架注重精确定义基础设施组件,实现细节被分离并独立管理。
译自 Navigating the Evolution: Infrastructure as Catalog 。
从起步到现在,基础设施管理的演变过程是一次变革性的旅程。过去,基础设施管理有点像试图搭建一个复杂的多米诺骨牌。你必须在各种脚本和方法中左右周旋,目的是让所有部分恰如其分地组合在一起。这需要专业人员,他们精通自己的技术——云服务、组织架构和所有最新的开发工具。尽管你多擅长,这往往也只是短暂的胜利,因为技术进步随时会来改变游戏规则。
当DevOps登场时,它被视为救世主。技术社区对此欢欣鼓舞并接受了它,特别是因为它致力于三大核心领域:处理基于云的基础设施和数据库的确定流程,简化部署和交付流水线,以及获得顶级的运行时环境监控。这确实有所帮助,但像技术领域的任何事物一样,总有“下一个”。在这种情况下,那就是基础设施即代码(IaC)。
基础设施即代码(IaC)作为另一项革命性理念出现,它提供了一种结构化语言来编码基础设施需求。IaC 永远改变了传统基础设施管理的方式。尽管IaC有陡峭的学习曲线,还有细微失误或错误带来的严重后果,但它仍激起了热情。这有点像拥有一辆超级跑车,但我们必须小心不要将它开到极限,以免发生事故。由于固有风险,使IaC普及存在挑战,需要严格的防护措施才能实现任何形式的开发人员自助服务。
由于压力和焦虑,许多人对IaC的最初兴奋很快就消失了。这导致项目要么延迟,要么未完成,要么充斥着临时解决方案。这凸显了对准确抽象级别的需求,引出了基础设施即目录(InCa)的出现。这标志着基础设施管理演变中的又一个重要里程碑。
基础设施即目录(Infrastructure as a Catalog)
基础设施即目录(InCa)是一个概念框架,关注精确定义基础设施组件,而实现细节被分离并独立管理。网络、Kubernetes、服务和数据库等架构组件被建模为意图,每个意图都有特定的模式来定义其类型和结构。InCa 将吸收IaC的所有优点并使其更简单直观,更易于管理。
InCa 旨在增强架构的透明度和理解度。所有参与基础设施管理的人都可以通过目录理解架构。它可以轻松地在预设的防护措施内执行操作。平台工程师可以轻松修改实现,在不同的云服务和提供商之间进行选择。这种方法不仅可以解决 IaC 中固有的普及难题,还可以消除对额外工具的需求,从而减轻对更改目录的担忧。InCa 将确保所有更改都是可审计、可逆转和彻底记录在git中的。
那么,InCa 对我们 DevOps 的三大核心问题有何帮助? 使用 InCa,基础设施和数据库等组件以具有独特轮廓的“意图”方式捕获。这样,我们不仅记录我们需要什么,而且表达得很清晰。此外,将“什么”与“如何”分离,给予平台工程师根据需要在不同云服务之间切换的灵活性。这是关于使我们的技术环境尽可能适应变化。
不需要眯眼猜测。目录为我们列出了所有内容。这种透明度将确保在建立流水线时,不仅高效而且更易于管理。由于每个人都在同一页面上,开发人员可以协作调整配置,在部署过程中培养团队合作精神。
这是 InCa 真正发挥作用的地方。其设计使我们可以轻松集成监控工具,确保系统始终处于最佳状态。通过在“意图”中内置监控,我们不再需要最后一刻设置工具。这是一种更流畅、更贴合的方法,可以确保我们的运行环境受到持续监控,及时发现并解决问题,防止问题升级。
想象一个世界,来自全球各地的技术专家聚集分享和共同创建实现方案。使用 InCa,我们可以拥有一个巨大的存储库,其中这些“意图”被翻译成适应不同云提供商的版本。这不仅仅是解决问题,更是创新并推动可能性的边界。
基础设施管理的历程是持续演进的,从集成各种脚本的阶段,到IaC的出现,再到基础设施即目录(InCa)的概念化。InCa 旨在通过提供正确的抽象级别和目录表示来增强架构理解度而脱颖而出。这种创新模式将促进社区合作、快速创新和透明可审计的操作,许诺一个更高效、更可靠和更包容的基础设施管理未来。 | https://yylives.cc/2023/10/19/navigating-the-evolution-infrastructure-as-catalog/ |
决策指南:是否该采用平台工程?
在采用平台工程之前,公司应该考量它是否符合自己目前的软件开发阶段。
译自 Platform Engineering, Yes/No? A Guide to Making the Call 。
这是Facets Cloud的“走向平台工程”系列文章的第七篇。您可以在此找到之前的文章。
关于平台工程的吹捧之声愈发高涨,这也无可厚非,原因在于平台工程能帮助企业加快工作节奏,简化开发人员的任务流程,并保证不同团队之间的一致性。看起来它似乎是许多公司完美的技术解决方案。
然而,理解平台工程可能并不适合每个组织也非常重要。在采用平台工程之前,公司需要考量它是否符合自己当前的软件开发阶段。并非每个项目或公司都已经做好了从平台工程中受益的准备。因此,在贸然采用之前思考它是否合适非常关键。
在寻找产品市场适配的关键阶段,创业公司需要敏捷性,但不一定需要平台工程提供的那种敏捷性。当工作重点是快速原型设计和迭代时,精心设计的平台工程设置实际上可能成为累赘而不是帮助。在这个阶段,更简单、更经济实惠的应用交付解决方案,甚至无代码原型设计解决方案,通常就足够了。
企业通常同时使用遗留系统、成熟软件和定制解决方案。如果您的企业高度依赖第三方软件,如 ERP 系统,部署和管理的指南通常由供应商提供。在这种情况下引入平台工程,可能会引发不必要的复杂性和成本。
一些公司维护着极少升级的成熟产品。在这种情况下,额外的速度和敏捷性就像给马车安装赛车引擎——有趣但无用。维护成熟、极少更新的产品的公司可能会发现平台工程几乎没有价值。如果您的发布周期非常慢,产品也没有变化,额外的敏捷性没有好处。
仍坚持瀑布流程软件开发的公司。如果分阶段的非迭代方法一直行之有效,那么平台工程的敏捷迭代周期可能像将水油混合。如果您一直在使用瀑布流程运营成功,平台工程的优势可能不符合您的需求。
在消费品、游戏或 SaaS等行业,发布速度是竞争优势。率先推出具有突破性功能的产品可以显著提升一个公司的地位,吸引更多用户并增加收入。平台工程通过精简开发流程实现这一点,使部署新功能和服务的速度更快、更高效。在这些快速变化的行业中,速度是重要的竞争优势,可以决定成功或失败。平台工程不仅是一种奢侈,而是竞争的必要条件。
作为 SaaS 公司,服务成本(云)、安全合规也是重要的非功能需求。如果处理不当,不断增长的 SaaS 公司在跨区域、跨云或面向上游市场时的审计压力可能会压垮公司。平台工程通过部署定制环境和简化流程来满足上述需求,让客户更满意,收入也更高。简而言之,交付速度和运营效率是健康指标,平台工程能提供两者。
大型组织经常与各个技术团队的不一致做法纠结。大量产品和服务的组织往往必须培训不同的团队学习不同的方法,因为每个团队都是在自己的岗位工作,遵循不同的做法。一个集中的平台可以提供统一的指南和框架,确保所有团队遵循一致的开发实践,不受地点或侧重点的影响。
为许多公司招聘专业云架构师是艰巨的任务。但是,如果让现有开发人员能够端到端处理云工程呢?如果公司觉得吸引和留住这种人才很困难,可以授权现有的开发团队承担这些职责。平台工程通过标准化、简化复杂的云架构任务和自动化重复工作,可以轻松地让现有开发者处理云相关工作。这不仅缓解招聘压力,还可以打造更通用、敏捷和负责任的技术团队。
如果以前的云现代化往往陷入无限循环,因为过于复杂,平台工程可以提供所需的推力来实现突破。平台工程提供了标准化的工具和框架来部署和管理云资源。这种标准化消除了猜测,使团队可以专注于实现功能,而不必担心云基础设施的细节。它加速了向现代云平台迁移现有系统的过程。
新时代的开发人员不仅要编程;他们希望拥有工作的整个生命周期。平台工程通常涉及创建门户和控制台,允许开发人员自己部署、监控和管理应用程序。这种自主控制允许他们进行实时调整,不需要等待运维批准,从而增强独立性。平台工程推广使用松耦合架构和微服务。这使开发人员可以在不影响整体系统的前提下,对应用程序的离散、可管理部分进行工作,鼓励对所有权和控制的感觉。本质上,它将开发者转变为数字时代的全面授权工匠。
小规模的运维团队常使用有限的资源管理复杂的基础设施。平台工程可以成为催化剂,让这些团队发挥最大效能。它支持自助服务门户,开发者可以自主管理部署。平台工程减少对运维团队日常任务的依赖,腾出时间处理更多战略项目。平台工程的优势,例如自动化、标准化、自助服务等,可以让小团队表现强过实际规模。
在技术行业,采用新理念常常感觉是必须而不是可选的。平台工程尤其如此,它提供速度、效率和标准化的诱惑。但是不要仅因为别人都在用就急于跟风。智慧在判断,评估平台工程是否真是你组织所需的缺失拼图至关重要。并非每个公司都需要赛车发动机,有些只需要一套可靠的车轮。
采用时,调整至关重要。你公司的目标、现有技术栈和团队技能是否与平台工程的变革承诺一致?如果是,它会强力推动项目和目标实现加速度增长。但是,如果目前实施平台对公司毫无意义,你可能应更好地将资源投入到优化现有流程或提升团队技能上。关键是对独特需求和局限的清晰理解,这是做出明智的技术战略决策的基石。 | https://yylives.cc/2023/10/19/platform-engineering-yes-no-a-guide-to-making-the-call/ |
软件交付的是使能,而不是开发者的效率
关注个人开发者的效率指标。DevOps说我们应该关注软件团队的成功。以下是如何做到这一点。
译自 Software Delivery Enablement, Not Developer Productivity 。
Anna Daugherty 认为,我们不应该过分关注开发者的效率。这在上周的持续交付小型峰会上是一个大胆的观点。
“这是我在峰会上与几乎所有人讨论过的一个话题,”Opsera产品营销总监 Daugherty 向 The New Stack 表示。
“个人尽最大努力和责怪他们效率低下之间存在差异。但效率本身没有意义,”她继续说。“个人开发者的效率是否通过代码提交来确定?他们在 sprint 中完成了多少?团队中的个人并不能单独创造产品。”
Daugherty 认为,效率指标试图回答错误的问题,您真正应该关注的是:
您的客户和终端用户是否看到了加速交付的价值?
-
开发者是否对自己的工作更满意?他们感到自己的潜力得到了更好的发挥吗?
-
您是否创造了更多收入和投资机会?
-
Daugherty 认为,正如DevOps寻求加快软件团队交付软件的速度一样,您应该关注软件团队的实现能力,而不是个别开发者的效率。
最常见的DevOps指标并不是真正的指标。她说,DORA更像是一个框架,用于衡量速度——通过变更引导时间和部署频率——和稳定性——通过变更失败率和恢复服务时间。
Daugherty 解释说,“DORA允许您制定一些指标,您的团队可以努力达到这些指标,或者这些指标被认为代表高绩效的团队。”“但它并不是终极答案。它不是唯一的标准。它只是高绩效软件团队可以构成的指标示例。”
对于关键指标,您可以采用2021年的SPACE开发者效率框架,或者McKinsey最近的开发者效率研究,她说这“既包含了SPACE又包含了DORA,以及它们综合在一起的其他一些无关内容”。
但真正重要的是保持简单。对 Daugherty 来说,这归结为询问您为什么要开发软件,这归结为三个目标用户群:
用户。
-
开发它的人。
-
市场。
-
虽然DORA和SPACE可以指导方向,但她说,您应该衡量那些有助于衡量这三个软件开发原因满意度的结果。
这有助于回答您交付的软件是否可用并让客户满意,她解释说。这可以通过净推荐值(NPS)、G2和其他产品评论网站以及客户推荐来评估。
您需要定性数据,即与产品用户的紧密反馈循环,以及定量跟踪,如流失率。
关注回答: 您的开发人员是否喜欢开发和发布软件?您有高水平的开发者疲劳吗?这就是平台工程发挥作用的地方,它可以提高开发者的实现能力和减少发布的阻力。这可以通过平台采用率、定期开发者调查及其后续行动计划、Glassdoor评价以及他们公开的社交媒体情绪来衡量。
您交付的软件是否帮助获取期望的市场份额?它是否创造了投资和合作伙伴关系的机会?它是否真正推动了销售渠道,创造了可衡量的利润?Daugherty 解释说,业务指标通过衡量诸如销售渠道、投资和合作伙伴关系等指标来评估。
一些公司似乎只关注业务指标。但 Daugherty 强调,随着科技行业从“不惜一切代价追求增长”转向“注重投资回报”,如何提高开发者效率并不是应该问的正确问题。
部分原因是业务领导层和工程团队之间存在根本脱节。
“业务领导层总是衡量收入和渠道,但这并没有传达给工程团队,或者没有以他们可以理解的方式翻译给他们,”她说。“他们总是纠结收入、渠道、合作伙伴关系和投资,但这真的应该是整个业务的全面对话,工程应该是一个重要的考虑因素,因为他们也是关键受众。”
事实上,工程往往拥有最高的薪资,这使其成为一个重要的成本中心。平台工程的早期目标之一应该是促进一种共同语言,企业了解工程的价值,而工程师了解他们工作与创造商业价值之间的联系。
尽管如此,许多组织在这方面还存在不足。Daugherty 说,这种持续的鸿沟有时可以通过首席数字官或首席转型官的混合角色来弥合。
软件交付实现能力和2023年的平台工程趋势,不会仅通过关注人员和技术本身就能取得成功。在大多数公司,流程也需要从根本上改造。
一个团队“要么在一个领域工作,要么必须交付某项功能,”她说。“他们是否一起工作以交付这件事?如果不是,我们需要做些什么来改进呢?”
Daugherty 说,开发者实现能力应该集中在团队成果层面,这可以通过四个关键能力产生积极影响:
持续集成和持续交付(CI/CD)
-
自动化和基础设施即代码(IaC)
-
集成测试和安全性
-
即时反馈
-
Accelerate 这本关于DevOps和扩展高绩效团队的标志性、以指标为中心的指南发现,某些经验证的决策可以帮助团队加快交付。
一项决定是,当团队被授权选择使用哪些工具时,这已被证明可以提高绩效。当被问及这是否与平台工程及其建立最佳实践相抵触时,Daugherty 评论说,这种思维偏离了对实现能力的关注。
“平台工程与指导您使用哪些工具无关。这可能是在某些组织中被简化的,但这不是最有效的版本,”她说。“你就像复仇者联盟中的奇异博士,你看到更大的画面,看到事物如何汇聚和互相关联。”
平台团队不应该采取严格的、孤立的思维方式,即这个团队使用这个工具。
Daugherty 澄清,平台工程的目标是汇聚人员、产品和流程,以提高所有团队的效率和效果。“这是否意味着有时选择更好的工作流程或技术和架构?对您的业务来说,也许。但是如果这是您的整个平台策略,那么这就是一种过于狭隘的思考方式。”
尽管存在不同的工作角色,她强调DevOps和平台工程是一种工作方式,而不是您做或不做的事情。平台团队的目标是跟踪DevOps无限循环,以使交付途径更顺畅,Dev和Ops之间的交流更顺畅。
“很多人告诉我:‘我不喜欢你这样的人,因为你告诉我需要使用这个工具,我需要这样做’,”她说。毕竟,Opsera是一个针对任何规模工程团队的统一DevOps平台。
但她总是反驳,“我不是来告诉你任何事情的。我是来帮助你开展你想做的工作,因为你的工作很重要。并帮助您向那些想从您这里获得更多的业务领导解释您所创造的价值。他们会不断要求您做更多。”
Daugherty 说,她的角色是帮助团队——并通过扩展组成团队的个别开发者——找到如何交付更多而不增加开发者疲劳的方法。
DevOps关注促进正确类型的交流,以提高速度和协作——而不是在过程中制造更多需要人工参与的障碍。
Accelerate 引用的研究发现,“报告没有审批流程或使用同行评审的团队实现了更高的软件交付绩效。需要外部机构审批的团队实现了较低的绩效。”
这并不一定意味着零审批流程,而是更多关注在团队单元内做出决策。Accelerate 继续建议“使用轻量级的基于同行评审的变更审批流程,比如结对编程或团队内代码审查,然后结合部署流水线来检测和拒绝不好的变更。”
Daugherty 解释说,这可能是一个ops驱动的自动审批,如基础设施即代码中,或是一个集成测试,或者是人与人之间的知识共享机会。
“代码在通过同行评审后,团队成员都认同可以交付,然后它会自动部署到生产环境,而不是在某个门槛或瓶颈处等待。如果在整个流水线中都有集成测试和安全检查,那就可以实现自动部署。”
同行评审流程既可以确保代码的可读性和可维护性,也可以促进非正式的培训。Daugherty 回忆了爱立信的主设计师Andrew Fenner在持续交付小型峰会上关于开发者体验和生产力的小组讨论时所说的话。
“爱立信是一家较传统的公司,所以他们能实现轻量级的审批流程算是一个奇迹。” Daugherty 继续说,Fenner 谈到,有时他们最资深的开发者大部分时间都在帮助较初级的开发者,而不是自己提交代码。如果用传统的个人开发者生产力指标来衡量这些资深成员,他们的表现会很差。但实际上,他们虽然难以量化的影响力每天都在帮助提高爱立信初级开发者的能力。这也意味着知识不会仅掌握在一个团队成员手中,而是在整个团队中共享。
“我说的轻量级是指不期望你的开发者随时都知道所有答案,而是让他们有一些简单快速获取反馈的机制。并利用你团队中最有知识、最乐于助人的人快速提供反馈,” Daugherty 说。“这种轻量级的理念非常关注不阻碍人们。他们部署到生产的能力越强,根据速度和稳定性,他们的结果也越好。” | https://yylives.cc/2023/10/22/software-delivery-enablement-not-developer-productivity/ |
平台工程不能从零开始
平台工程很棒,并不适用于所有情况,看看你准备好了吗?译者的亲身经验也是如此,有一定的自动化基础,平台工程才能顺利进行。译自 Why You Can’t Go from Zero to Platform Engineering 。
要实现对基础设施的集中控制,基础设施管理必须无障碍且一致。
许多关于平台工程的讨论似乎都在宣称它是同时提升开发者体验和加速应用开发的灵丹妙药。尽管平台工程在这两个方面确实能带来显著优势,但这还不是全部。
为了在获得这些好处的同时实现对基础设施的集中控制,基础设施管理必须无障碍且一致,这需要相当高的自动化成熟度。那么,什么是自动化成熟度,为什么自动化对成功实施平台工程策略至关重要?
大多数大型组织以不同的自动化成熟度交付和管理基础设施。目标是使所有基础设施的交付和管理方式标准一致,减少差异性和基础设施类型的复杂度。我们可以将基础设施自动化分为三个成熟度等级:特殊情况自动化(ad-hoc)、部分自动化(automated)和无障碍自动化(frictionless)。
特殊情况自动化的组织使用手动、脚本和定制的基础设施方式混合使用。这种方式需要大量人工参与且容易出错。要实现成熟需要一致、简单、可测量和安全的基础设施自动化,无障碍自动化可以减少对高端专家的依赖,让他们更轻松地创建、管理和支持基础设施。
自动化需要简单易用,可以原生支持不同规模和复杂程度、分布在不同地点的完整基础设施堆栈。有效的自动化可以消除所有手工流程,减少复杂性和碎片化,确保基础设施受管控、安全且对业务负责。
大多数企业同时使用多种类型和成熟度的基础设施自动化,部分明确,部分隐藏在代码中。因此,即使企业同时使用基础设施即代码、云服务、虚拟化、容器和配置工具等,也不意味着一切尽在掌控或创造可衡量价值。使用自动化是必须的,但过多不同和碎片化的自动化会带来更多问题。包括管理困难、策略不一致、风险未知、技能要求增加,以及调试和支持自动化的难度。
太多自动化工具会造成自动化孤岛,每个基础设施交付方式独立存在。由于现代应用架构需要混合使用各种基础资源,常需要不同自动化过程相互触发来交付应用生命周期中的所需资源。尽管部分企业达到了可以考虑平台工程的部分自动化成熟度,但许多企业仍需提高才能实现相关业务价值。
最后,从部分自动化跃升到无障碍自动化需要基础设施不再是抽象概念,而成为活动不可分割的一部分。对使用集成开发平台的开发者来说,基础设施是一个无缝集成的功能。活动定义了所需要的基础设施资源。
实现无障碍自动化的关键是环境概念。环境是一个易于理解的模型,包含了支持某项活动所需的一切,如中间件、数据、工具、基础设施等。环境源自特定活动或任务,组织可以根据环境理解其目的、重要性和价值。然后,多个环境可以关联在一起,组织可以了解每个环境的使用方式、目的和使用者,不论其云提供商、基础设施类型或复杂性。这使企业可以根据每个活动创造的价值来规划、优先级设置和预算。
尽管小团队的复杂度通常较低,但大团队和组织的复杂度要高得多,需要更高的自动化级别。这意味着实现平台工程所需的自动化级别会因公司甚至不同团队的情况而异。
对于基础设施自动化匮乏或缺失的组织来说,平台工程毫无意义。相反,这些组织应该从结果出发,实施所需的工具和流程。例如,目标是提升开发者体验、加速开发、控制成本、加强治理等?根据这些,组织可以确定哪些工具和流程具有相关业务价值需要自动化。
自动化成熟度中等的组织正处于可以探索平台工程的良好位置。目标应该是标准化所有基础设施,了解组成完整环境的所有组件,执行安全和合规要求,将云成本与环境及其业务价值关联,最后按需通过自助服务立即提供基础设施。此外,全生命周期持续监测每个环境实例,以维持治理和控制成本。
平台工程作为一个新兴方法,承诺诸多运营优势。尽管提升开发者体验和开发者满意度为企业带来巨大价值,但企业应争取实现最大价值。通过确定预期结果并实施必要的自动化流程,平台工程可以更快为组织带来更好的结果,从而证明技术和组织投资的成本和努力是合理的。 | https://yylives.cc/2023/10/23/why-you-cant-go-from-zero-to-platform-engineering/ |
Netflix的开发者生产力工程
并非所有的团队都能达到Netflix的高度,但了解他们如何进行开发者生产力工程仍可能对你的团队有所帮助。
译自 Developer Productivity Engineering at Netflix 。
今年,技术行业对开发者生产力指标显得痴迷不已。但单独测量可能造成更大的伤害。通常,开发者不信任生产力工具,随着裁员消息持续出现,他们可能会为了保住工作而操纵系统。
而且,已经证实快乐的员工更有生产力。因此,任何削弱开发者快乐度的因素都会降低生产力。
比仅仅测量个人产出更好的是,有一股向软件交付实现转变的趋势,关注团队甚至部门和部门的效率和速度。这种基于团队的视角有助于组织心理安全感,并且可扩展性更强。随着这一受欢迎趋势的出现,开发者生产力工程团队兴起,他们关注开发者体验(DevEx)和实现超过测量。
“开发者生产力就是一个通用定义,关于我们如何使技术社区能够专注日常工作,而不必担心Netflix的所有不同之处,从启动到软件开发生命周期的每个阶段,” Netflix生产力工程总监Kathryn Koehler告诉The New Stack。
当然,工程是一门科学,这就是为什么Netflix、谷歌、领英、Spotify和Atlassian等高绩效组织都在测量他们的平台团队对开发者生产力的影响。不同之处在于,他们关注的测量并不是为了变革管理,而是为了持续改进他们自己的工艺。
现在,让我们来看看Koehler如何介绍Netflix组织和测量自己的平台工程和开发者生产力工程,以便你可以学习一些方法来帮助你自己的软件工程团队。
不出所料,Netflix 拥有一系列Team Topologies所说的使能型、复杂子系统和平台团队。(是的,这是复数形式。)
首先,有一个由150人组成的集中的平台团队,他们“开发工具、平台和基础设施,用来处理各种约束,这样我们的开发者社区——他们是我们的客户,我们公司内部的开发者社区——就可以专注于自己最擅长的领域,发挥最佳水平。” Koehler说。采用一种“枢纽与辐射”的模式,平台团队下面有两个团队。首先是Koehler领导的80人开发者生产力工程团队,负责内部开发循环——构建、测试、编码、持续集成,直到但不包括部署,以及端到端的开发者体验,包括源代码控制和依赖管理。
“我们正在打造一个端到端的开发者前门,一个命令中心或控制中心,让人们拥有和运营自己的软件。”她解释说。她的伙伴负责交付、监控和站点可靠性工程。
此外,更大的Netflix平台工程团队还包括云基础设施团队和数据平台团队。Koehler表示: “我们将生产力与云基础设施分离开来,这应该是关注点分离,你不需要了解计算、网络和存储这些底层细节。”
实际上,“这些底层东西应该只限于超级用户。”她继续说。“但如果你是一个应用程序开发者,或者正在开发一个服务,你只需要提供一些应用程序配置参数,不需要关心底层复杂的实现。”
注意组织设计只能持续大约18个月,Koehler指出,现在的大部分已经存在了大约3年,而集中式基础设施的部分要追溯到更早之前的几年。
总体而言,更大的Netflix生产力和平台部门旨在抽象出任何会打扰开发者专注的东西。
Netflix平台团队——包括产品管理和内部客户支持——为2500人的工程组织以及另外500人的数据团队提供支持。这是15%的使能角色,而大多数拥有成熟平台工程计划的组织接受The New Stack采访时表示使能角色不到10%。
一个集中的团队为平台团队处理一线和二线客户支持,Koehler解释说,“这有助于让我们的客户——工程人才——只需要专注处理那些非常复杂的支持问题。否则,我们在总体支持上的‘保持服务’时间会过于繁重。所以这是我们更好扩展的一种方式,也可以保持我们的工程规模较小。”
这是The New Stack采访的第一个将此类正式内部平台客户支持作为产品的平台组织。因此我们请Koehler进一步详细解释。Netflix有几位内部客户支持工程师,他们由领域专家进行培训,处理一线请求——即帮助开发人员找到并使用最佳工具完成工作——和二线请求——会更深入调试,帮助处理更复杂的问题。三线支持在需要对底层基础设施有更深入理解的特殊情况下启用。
Koehler说,这些人往往是非常喜欢帮助他人的技术人员。但是“找到这个团队需要多大与主题专家团队需要多大之间的平衡点非常复杂。”她反思到。“我们也有很多间接效应,他们可以更好地发现趋势。”
当然,不是每个组织都有Netflix这样的平台预算和规模,但这种策略对Netflix很重要,可以让其大多数10倍的工程师发挥得更好。
尽管Netflix会跟踪DORA和其他定量指标,但Koehler说很多补充的开发者生产力指标是定性的。这包括大量的用户调查,“弄清楚什么是你的苦差事”,她说,以及“完成你的工作有多难”。
Netflix使用2021 SPACE开发者生产力框架,该框架提出了25个社会技术因素,这些因素分为首字母缩写的五大类别:
满意度和福祉
-
绩效
-
活动
-
沟通和协作
-
效率和流程
-
Netflix开发者生产力工程团队对工具的看法也有一些非常具体的问题:
你觉得这个工具令人愉快吗?
-
如果你要离开Netflix, 离开这些工具你会难过吗?
-
你会推荐朋友因为工具太好而在Netflix工作吗?
-
由于你的工具,你觉得自己工作有多有效?
-
你可以部署的频率是多少,并对所部署的内容有信心吗?
-
你认为该工具有多buggy?
-
Netflix的平台团队记录他们收到多少内部支持电话。根据他们服务的团队和平台,也有具体的问题。例如,他们询问Java开发者:
应用程序生成的启动时间是多少?
-
构建时间是多少?
-
执行测试套件需要多长时间?
-
你对可观察性工具有多大信心?你可以一目了然地确定系统运行状况吗?你是否先于客户发现事情出错?
-
他们过去每年进行两次这些调查,但Koehler说,现在变成由工程领导根据情况决定最佳时间。
“我们让工程领导与我们的客户自由建立良好关系——因为他们都是内部的。”她说。平台团队还是大致每季度一次地联系各负责人,请求对他们刚开发的内容提供反馈。
Netflix计划很快会构建更多仪表盘, 整合定性反馈以及更多定量报告和仪表盘。Koehler说,后者的目的是“教会开发者自己查看系统运行情况和效率,比如: 机群(fleet)健康状况如何?是否使用最新版本库?”
她的团队也在推动开发者采取更主动、持续的沟通,而不是一年四次大规模调查,她说这可能“有点奇怪”,并易于解释。 “提出有见地的调查问题非常困难。也取决于谁在回答以及是否喝咖啡。”
Netflix的公司价值观包括公开、广泛和谨慎地共享信息,以及坦率和直接的沟通。毫不奇怪,没有一个开发者的回复是匿名的,这保证了一个更紧密的DevEx反馈循环。
“重要的是我们知道谁提供了此反馈,人们不会回避。”她说。这也使她的团队可以与内部开发者客户闭环: “嘿,你之前真的在抱怨这个,我们在这里做了这项工作,所以想再次联系你,看情况是否改善。”
Netflix将其平台称为“铺平的路径”。这条更平坦的道路包括一流的支持基础设施、语言和工具。还有一系列尚未铺平部分的功能请求。
过去两年,Netflix基础设施团队不得不将工作范围广泛扩展到工作室和流媒体之外。这意味着为游戏、广告和直播等全新业务和技术需求铺平道路。游戏需要快速让开发者上手,方便他们发挥创造力,而直播需要高可用性、低延迟和弹性。
“我们有各种不同的考量,需要铺设足够的跑道,让这些飞机能够起飞,这在很大程度上影响了基础设施这一方面。” Koehler说。
在不同的客户组织内,Netflix还有不同的平台团队,以构建特定平台产品组合,甚至为特定用户组从零开始构建。“如果我们立即为所有人做所有的事情,那将不太可扩展,”这就是为什么她说他们为不同群体(如消费者和内容)有其他托管的平台扩展。
当前,生产力团队负责数十种不同的工具和平台,这就是为什么他们正在努力汇集很多东西,创建一个集中的开发者门户,以提供一致的用户界面和开发者体验。但Koehler说,它不会囊括一切,因为并非所有内容都适合放入其中,但它正在朝着实现“更多重心”的方向发展。
文档是开发者最想要的,但他们发现很难养成为其做出贡献的习惯。Netflix也不例外。
“我们有非常强的自由和责任文化,我们的工程师有时在某些情况下会偏向自由而非责任,特别是在编写完整文档方面。” Koehler说。 再次呼应平台工程师可能有的自以为是的习惯,她说: “有时我们在从平台提供商而非客户角度编写文档方面存在挑战。”
平台团队现在正与Netflix教育团队合作,提高文档质量,致力于回答:
我们是否有正确的信息架构?
-
它是否可搜索?
-
它是否可发现?
-
它是否集成在一个工具中?
-
这一国际化文档策略致力于将所有内容集成到一个可索引、可搜索、规范和可用的工具中。
“我坚信发现应该真正成为工具的一部分。所以,如果我们让人们进入托管环境或这个门户,我们如何在他们需要时显示上下文文档和信息?” 和许多组织一样,Koehler说,他们正在研究如何利用AI,像90年代的Clippy,但更有用,并具有组织上下文,因为“当您管理这么多不同的产品时,可发现性是一个大问题。” 他们正在研究如何将文档集成到软件开发生命周期中。
她的部门也在研究如何使单个平台工程师对文档负责,方法是将文档和运行手册作为完工定义的一部分。
Netflix平台团队也经常遇到的另一个困难,就是平台工程策略中非常普遍的——沟通和营销保持在那条铺平道路上的好处。
“推动大家使用最新库、工具或框架具有挑战性。因为我们的客户有日常工作,在他们的时间表中找到预算进行迁移——这可能很复杂或困难——是很难的。” Koehler说,“我们需要加倍努力,便利大家进行迁移,使迁移尽可能无缝,因为我们总是在迁移。总会有我们自己正在构建的或者我们作为第三方工具使用的下一个版本,我们的客户应该采用它。”
应用和数据团队不能超过长期支持窗口非常重要,否则他们可能会引入风险,如安全漏洞。她说,健康的组织会定期重建和部署整个机群,这依赖于保持机群更新。这归结为技术债务的权衡。
“人们从未为技术债务分配足够的时间。” Koehler说,希望团队努力将他们的“保持服务”——缺陷修复、现代化等——控制在30%以下,这意味着努力降低技术债务。 “走出困境的唯一方法是开始填平它。”
但是有希望,不仅对Netflix,而且对整个行业都有好处,因为开发者生产力工程正在上升。这甚至是Koehler终于开始在简历上看到的东西。
“人们从高质量、令人愉快的体验角度思考这些工具,这在过去从未受到过那样的关注。” 她继续说,“创造令人愉快的工具,经过精心打磨的工具,坚实的工具,设计师致力于此——这很棒。 这应该是首要或最重要的事情。这是一个非常好的领域,因为我们的客户都是内部的。我们还能与我们服务的人更加接近吗?” | https://yylives.cc/2023/11/01/developer-productivity-engineering-at-netflix/ |
红帽推出Developer Hub,这是Backstage的企业版
红帽已经为 Backstage 开源项目贡献了5个新的插件,这标志着它正在准备发布自己的企业级 Backstage 版本——红帽Developer Hub。
译自 Red Hat Readies Developer Hub, a Backstage Enterprise Distribution 。
今年早些时候,红帽发布了 Spotify 的 Backstage 平台的预览版本,Backstage 是一个用于构建开发者门户的开放平台。一旦成为适合企业使用的产品,红帽Developer Hub将是红帽进入内部开发者平台新兴市场的首个产品。
这家开源公司已经开发并捐赠了5个新插件,允许平台用户将 Azure 容器注册中心、JFrog Artifactory(代码仓库)、Kiali(Istio 可观测性控制台)、Nexus(仓库管理器)和 3scale(API 管理)集成到他们的内部开发者平台流水线中。红帽本周在芝加哥举行的 KubeCon+CloudNativeCon 2023大会上发布了这些插件。
这些插件与红帽此前为 Backstage 开发的 Tekton、Quay、Keycloak、Open Cluster Manager 和 Kubernetes 应用拓扑插件一起贡献给社区。这些插件是由红帽社区中的 Janus 项目开发的,Janus 项目类似于 Fedora 之于 Red Hat Enterprise Linux 的地位。
“我们意识到人们正在寻求提高生产力和工程效率。”红帽开发者工具产品管理高级总监 Balaji Sivasubramanian 说。内部开发者平台为企业开发者提供了一个中心门户,这简化了开发者的工作,因为他们构建应用程序所需的所有工具都集中在一个目录中。这也为系统管理员和工程团队节省了时间,因为它减少了他们需要支持的工具数量。
“随着新技术的不断涌现,企业中的每个团队都在构建自己的技术栈,这显著降低了开发者的工作效率。” Sivasubramanian 说。
与从头开始构建内部开发者平台不同,红帽遵循了其一贯的做法,采用新的开源项目,投入资源为其添加企业所需的功能。
Backstage 于 2020 年 9 月被云原生计算基金会采纳,目前还处于孵化阶段。正如 Kubernetes 提供了编排容器的方式,Backstage 提供了帮助编排应用程序以便开发者轻松使用的方式。
“Backstage 的目的是将所有开发者汇集在一起,让每个人都了解工程团队在做什么。” Sivasubramanian 表示。
Spotify 是为自己的开发者而非构建面向公众的产品来构建 Backstage 的,所以要使其达到企业级还需要做很多工作。考虑到这一点,红帽去年加入了 Backstage 社区,旨在帮助建立社区并为核心软件做出贡献,同时提供企业版产品。
Sivasubramanian 没有透露红帽开发者中心的确切发布日期,但表示非常接近,可能在未来几个月内。发布后,红帽开发者中心将与 Humanitec 和 VMware 等公司的其他企业版 Backstage 竞争。 | https://yylives.cc/2023/11/08/red-hat-readies-developer-hub-a-backstage-enterprise-distribution/ |
度量开发者的快乐,而不是效率
开发者效率不仅难以衡量,还高度依赖于每个组织的文化和开发体验,Atlassian的敏捷和DevOps布道者团队负责人Andrew Boyagi表示。
“开发者比任何其他行业都热爱他们的工作。” - 这句话打动了我。译自 Measure Developer Joy, Not Productivity, Says Atlassian Lead 。
你正在错误地评估开发者效率,根据Atlassian敏捷和DevOps布道者团队负责人Andrew Boyagi的说法。
毫无疑问,过去一年随着团队和预算的收缩,重新聚焦提升开发者效率。的确,技术行业长期以来一直试图评估开发者效率,但组织经常在试图与其他组织建立基准时失误。
同样值得注意的是,2023年提升开发者效率的动力似乎缺乏前几年关注开发者倦怠和幸福的担忧。
这是错误的做法。10月发布的第9届年度DevOps状态报告中,Google的DevOps研究和评估团队(DORA)采访了近3000名技术从业者。今年的报告着眼于评估三个结果:
组织绩效: 为客户和社区创造价值。
-
团队绩效: 赋能团队进行创新和协作。
-
员工幸福: 减少疲惫,提高满意度和/或效率。
-
结果非常明确: 文化至关重要。具体来说,根据报告,一个培育积极组织文化(基于高度信任和信息流动)的高绩效组织,其绩效提升30%,效率和工作满意度大幅提高,同时疲惫减少。
开心的员工更有效率,这是经过长期验证的。因此Boyagi认为应关注开发体验(DevEx),而不是效率。下面解释这意味着什么,以及如何确定在你的组织中该如何做到这一点。
“我与其他公司的高管交谈时,他们非常关注衡量开发者效率,但鲜少有人谈及实际帮助开发者提升效率。” Boyagi 对The New Stack说。
工程本质上是一门科学,所以我们知道如果不进行评估就无法改进。但是我们评估的必须是重要的方面。
“开发者比任何其他行业都热爱他们的工作。”他说,这凸显了他们指导其他开发者、在YouTube、Discord和LinkedIn上分享持续学习的行为,以及仅去年一年就贡献了4.13亿开源代码的行为。
“而且他们也不是不想提高效率。”他补充说,“所以出现了这样的情况:他们热爱自己的工作,想提高效率,觉得自己效率不高,然后管理者还想评估效率。”
因此,如果开心的开发者更有效率,Boyagi认为,那么开发者效率就成为开发者快乐的副产品,组成部分是:
开发者体验: 工程师对工具和框架的感受。
-
工程文化: 他们完成工作的方式和领导的支持方式——组织独特的个性。
-
甚至 Atlassian CTO Rajeev Rajan也认为开发者快乐是释放开发者效率的关键。他在公司博客文章中写道,快乐可以通过三个方面来评估:
提供出色的工具。
-
赋能团队。
-
培育出色的工程文化。
-
鉴于这种独特性的重要性,Boyagi说,你可以购买与高绩效公司相同的工具。但是你不能“像他们那样去做,因为行不通。事实上,如果你试图照搬,情况可能会变得更糟。”
“你不会得到一套可以普遍适用于每个组织的指标,因为效率是开发者体验和工程文化的副产品。它们对一个组织来说是如此独特,不可能只采用一套标准指标并应用。”
—— Andrew Boyagi, Atlassian
那么,当高层管理面临展示其最大运营支出结果的压力时,科技公司该怎么办?
首先,Boyagi建议,改变你的问题。不要问“我该如何提高开发者效率?”或“我该如何评估开发者效率?”,而要问“我该如何让开发者更快乐?”和“我该如何帮助开发者更有效率?”
这些问题可以帮助对话朝更有用的方向发展: “我认为每个公司都必须踏上适合自己的旅程,在效率方面做合适的事。但我不认为评估是我们应讨论的事情。”
首先,因为知识工作者的效率一直是最难评估的。其次,他补充说,我们需要从其他公司获取灵感,而不是复制他们的做法。
Boyagi并不建议你试图复制Atlassian的做法。但可以随意从其DevEx策略以及谷歌、Netflix、领英和Spotify等其他高绩效组织中获取灵感和借鉴。
Atlassian为每个工程师提供每月一次5分钟的匿名调查,以及每周一次团队CheckOps。CheckOps类似回顾会——进展顺利的方面?可以改进的方面?我们该如何改进?—— 在Atlassian开发者体验平台Compass内进行。每个团队在Compass中查看自己的记分卡和统计数据,以反思本周情况。此外,每个团队达成内部共识,回答一个具体问题:本周团队感觉如何?
CheckOps供每个团队反思一周所发生的事情,而匿名工程师调查则为整个组织提供脉搏。
Atlassian还根据Boyagi的说法从DORA(失败率变化、失败部署恢复时间、部署频率和交付时间)和SPACE 指标(影响DevEx的社会技术因素)“获取灵感”。尽管存在普遍的误解,但它们都不是开发者效率指标,而是Atlassian在评估公司整体开发者体验时考虑的不同角度。
有趣的是,故事点数——完成一项工作所需的总体努力的估计值,在建议的SPACE指标中可以找到——是与Atlassian产品Jira最相关的软件开发指标之一,也许是最有争议和最容易被滥用的指标。
“故事点数也是一种估计。”Boyagi说,“在我看来,它们不是效率指标。但是,像任何事情一样,在某些场景下,故事点数是有效的估计工具。这取决于组织,取决于场景。没有指标我可以说每个人都应该采用,因为没有什么真正普遍适用。”
Atlassian发现一个特别有用的指标是开发者花在寻找文档上的时间。在大多数工程组织中,寻找信息是破坏开发者工作流的一个大挫折来源。
事实上,根据去年的Stack Overflow开发者调查,所有受访者中有62%的人表示他们每天花30分钟以上搜索问题或解决方案;25%的人花费超过1小时。在一个50人的团队中,这相当于每周“损失”的时间超过300小时。
“发生了向云的转变。开发者现在必须做的事情太多了。我们的看法是,开发者需要一个工具来浏览他们拥有的所有信息,并在技术栈中进行协作。”Boyagi说。“这不仅仅是一个技术问题。如果只是一个可以解决一切的工具,那么就很简单,但这也是一个协作问题。”
Atlassian首先建立Compass以收回这些“损失”的时间并减少认知负荷。通过一个URL,它帮助解决了组织中的常见困惑,比如谁负责哪个组件,它的作用是什么,上下游依赖关系是什么,需要什么文档等。
Compass现在在内部采用率达到90%;10月份,它对外正式发布。
“Compass中的所有信息都存储在标准化的位置。”Boyagi说,“这真正赋能开发者自主工作。它提高了他们的速度。”
世界500强企业中的75%和约125,000家科技公司使用Atlassian的开发者产品。尽管如此,Boyagi说,Atlassian并没有使用其工具来评估客户的开发者体验;“开发者体验对组织来说非常独特,不是其他人可以替你测量的。”
相反,Atlassian团队收集客户反馈,然后提供工具帮助其客户改善自己的开发者体验。
Atlassian的开发者体验平台Compass集成了开发者必备的GitHub、GitLab、Jira、Bitbucket、CircleCI、LaunchDarkly、Snyk和PagerDuty,以收集关于开发者将想法投入生产的指标,评估是否:
平台易于构建。
-
拉取请求(PR)周期时间短。
-
开放PR数量不高。
-
构建时间短可以快速进行开发迭代。
-
单元测试覆盖率高。
-
今年平台工程受欢迎的主要原因之一是开发者对可扩展性的需求。考虑到这一点,Compass也建立在开放的工具链和公共API之上,以便每个组织或工程团队可以根据自己独特的开发者体验对其进行定制。其他组织也在该平台上构建自己的应用程序。
“它消除了软件团队需要查看30多个其他工具以找到所需信息的需要。”Boyagi说。
他举了开发者需要使用监控或日志工具来检查应用程序运行状况的例子。
“仅此而已,开发者就必须拥有该工具的登录信息,知道如何使用该工具,知道它的工作原理,在工具中找到他们正在查找的软件组件,以浏览层级结构。”他说,“他们找到所需信息后,又切换到另一个屏幕:我一开始在查找什么来着?我为什么需要这些信息?”
相反,Compass允许组织将所有这些数据导入,开发者可以在其中直接查找软件组件,减少认知负载并提升开发者体验。
Atlassian鼓励其工程师将10%的时间用于解决使他们的工作变糟的问题并改进这些问题。这可以包括扩展内部Compass实例,从而也可以帮助其他团队更轻松工作。
对于博登(Boden)、Dropbox和肯德基(KFC)英国和爱尔兰等Compass客户来说,按需治理也是一个受欢迎的使用案例。目前,大多数组织通过会议进行治理,Boyagi说,工程团队必须证明自己已经满足了标准才能获得发布批准。
“它不能确保高质量的生产结果。”他说,“它很慢,对所有参与者来说都很令人沮丧。”
相反,Compass包含记分卡,治理团队可以使用它们来分发他们的要求,如服务准备情况。这意味着每个人一开始就非常清楚要求,要求会自动更新。
“最好的部分是,你实际上不必再开会了。”Boyagi说,“因为在那些会议上,向从未交付过软件的人解释你做了什么通常没有帮助。你可以说任何事,反正他们也不真正理解你在说什么,对吧?”
相反,Boyagi继续说,治理团队可以根据开发团队是否未能或即将未能满足要求来过滤记分卡。然后,他们可以联系该团队,帮助他们重回正轨。“这是一个非常不同的场景,”他说,“而不是‘来告诉我你做了什么’。”
通过帮助工程团队感觉每个人都希望他们成功,你就能提高开发者的乐趣并改善开发者体验。 | https://yylives.cc/2023/11/13/measure-developer-joy-not-developer-productivity-atlassian-says/ |
复杂性孕育了平台工程
KubeCon 在芝加哥举行,Release公司CEO Tommy McClung在会上谈到他们公司的工具致力于将复杂性简化。
译自 How Platform Engineering Comes from Complexity 。
芝加哥 - 平台工程源于复杂性。
在KubeCon + CloudNativeCon北美的这个星期,听到像Release CEO Tommy McClung这样的人讲话后,这似乎是个事实。
“我曾是一家上市公司的CTO,遇到了你刚才谈到的所有问题,”KubeCon这样的会议上,我们听到的有关复杂性程度的问题与任何其他问题一样多,因为如果你不了解Kubernetes及其作为自定义世界释放的作用的深层复杂性,你还能怎么做?吸引了10,000人参会。
Kubernetes永远不会完全完成。谷歌的Tim Hockin上周在KubeCon的主题演讲中引用了他的一位同事的话,意思就是这个效果。
但是平台工程有助于让客户更接近与Kubernetes“足够好”特性相符的所需状态。企业架构也从未真正完成。技术债务和定制系统与企业天然契合。平台工程让开发者的工作更轻松。平台工程减轻了已经面临认知过载的开发者的负担。
来看看Spotify面临的问题。它的开发人员代码编写速度惊人。但随后IPO来了,Ernst&Young的会计师说存在一些问题。
这家流媒体公司的代码库包含自定义脚本、各种API和通往生产环境的多种CI/CD路径。(感谢Corecursive: Coding Stories对Spotify创建的内部开发者平台Backstage起源所做的优秀播客节目。)
Spotify代表了组织面临的混乱状态。定制系统无处不在。引用Hockin的主题演讲:
对于复杂性,@thockin说:...其结果是操作和概念上的复杂性增加......这就是“复杂性预算”的想法。很简单的想法。在一定时间内,我们可以吸收到项目中的复杂性数量是有限的。#KubeCon
那么,Release如何适应Spotify所面临的这种情况呢?
“我们有遗留系统,”McClung说。“我们正在进行云迁移。我们引入了所有这些供应商。我们使用了一些云原生 Stuff。我们进行了容器迁移。这一切都很困难。
“所以我认为平台工程这一方面,如果你想走这条路,就是一个抽象化这种复杂性的努力。因此,开发人员不必处理它,这最终是无论你称之为环境即服务还是平台工程的目标。”
正是这种复杂性使开发人员难以获取资源。
“每个客户都有定制的性质,”McClung说。“如果你想做一些让开发人员轻松、一致地完成工作的事情,那么你就必须抽象化这种复杂性,这就是我们所做的事情的使命。
“我们希望开发人员可以访问那个定制生态系统,而不必担心其中的复杂性。在我们的世界里,这体现为环境。”
McClung说,Release提供预览开发人员环境。分期允许开发人员对他们构建的内容进行玩弄,并查看要交付的内容。
“我们的工作就是真的驾驭那种复杂性,”他说。“但这非常复杂。使非常复杂的事情变得简单是非常困难的。”
Release提供所谓的模板或蓝图。客户经常在踏上现代化之路后来找Release。他们已经制定了一些基础设施即代码做法。 Release消耗来自Helm Chart和Docker Compose文件等所有信息 - 不管小块是什么。
McClung说,这是一个标准模板,定义了应用程序、其基础设施和重新生成它所需的工作流程。
“我们称之为基础设施即代码之上的一种抽象,”他说。“就是这样。它采用您现有的所有部分,然后能够重新生成全部内容。”
这是一个短暂的环境,它分析现有的报告、代码、配置和其他定制组件。它生成一个蓝图,重现客户的环境,考虑到所有定制组件。
环境按需启动,无需手动组装所有部分。
没有复杂性就不会存在平台工程。这就是人们来KubeCon的原因。他们想要找到解决他们面临的复杂性的解决方案。现在,答案越来越多地体现在学习平台工程实践中。
“平台工程这一方面,如果你想走这条路,就是一个抽象这种复杂性的努力,”McClung说。“因此,开发人员不必处理它,这最终是无论你称之为环境即服务还是平台工程的目标。
“开发人员需要这些资源来完成工作。由于这种复杂性,让这些资源为他们服务是非常困难的。” | https://yylives.cc/2023/11/15/how-platform-engineering-comes-from-complexity/ |
通过平台工程实现开发者的赋能
开发团队最需要的是那些能够提高他们工作效率和自治性的工具。不仅要实现构建、测试和部署的低摩擦度,还要能够理解应用程序中的运行情况。
译自 Developer Empowerment Via Platform Engineering, Self-Service Tooling 。
随着平台工程在许多科技组织中越来越广泛地采用并不断发展,仍有大量工作有待开展。虽然它通常会导致技术和流程的变化——比如实现内部开发者平台或门户网站——但关键的变化在于文化和交流。许多团队在掌握这方面仍在挣扎,随之而来的是平台的采用正在降低。
平台工程依赖将平台视为产品的思维模式,并具有紧密的反馈循环,以激励内部开发者客户采用平台——而不是强迫他们做任何事情。
与传统演讲不同,当Adriana Villela和Ana Margarita Medina登上KubeCon + CloudNativeCon北美洲的舞台时,这两位来自ServiceNow Cloud Observability(原Lightstep)的Cloud Native Computing Foundation大使和开发者倡导者进行了角色扮演。他们展示了内部开发者和平台工程师之间这种复杂关系的动态,以期找到共同点并在这枚硬币的两面之间建立同理心。
从他们这里了解如何利用同理心找到技术和交流的途径,即使该技术不断变化,需求也在不断变化。
“我们确实知道软件一直在变化,但我们使用软件的方式也一直在不断变化,”Medina说。“事实上,这取决于您组织或客户的规模。”
这包括DevOps的发展用于协作,站点可靠性工程(SRE)用于保证正常运行时间,现在是平台工程用于提升开发者体验。但是,她继续说道,“我们也必须记住,平台工程不仅仅关乎开发者体验。它还包含安全考虑、可靠性和其他一些事情。”
平台工程确实是一个跨职能的社会技术项目。
随着平台工程的发展,她继续说道,存在这样的设置——平台工程部门包括SRE团队,或者一个更大的SRE团队,然后有一些工程师专注于平台工程。然后还有一些组织在他们的旅程中更进一步,比如Netflix的复杂开发者效率提升。
“这确实打破了信息孤岛。它允许人们聚集在一起真正进行协作,” Median说。“当然,我们试图做的大部分事情都是为了将事物编码以使其更可重复和可靠。”
但是,即使信息孤岛已经消除,即使我们正在讨论所有工程师,开发人员和平台工程师真的说同一种语言吗?
“作为开发人员,我们构建、测试和部署的方式变得更加复杂,”在扮演开发人员角色时,Medina说道,在公共云、无服务器工作负载和Kubernetes的时代,她感叹她的工作自治性的丧失。
“不幸的是,这意味着作为开发人员,如果我想在需要时访问我需要的东西,我就取决于其他团队为我建立这些东西。我要看平台工程团队的脸色,我恨等待别人为我做事,”她说。
的确,一个平台工程团队的待办事项永远不会少。但他们往往陷入执行运维角色的状态,以至于无法构建那些黄金路径和自动化。
“好的,作为平台工程师,我们掌控着所谓的云平台,但听着,不全是为了你。不全是为了提升开发体验。我们也必须维护可靠的系统。这太多工作了,我们压力非常大。我们正处于被Jira任务淹没的状态,”Villela回答道,扮演一个平台工程师的角色。“事态已经发展到我不再享受我的工作。我想做一些很酷的事情”,比如自动化流程和使系统更可靠。
这会导致数小时甚至数天的等待时间,让开发者感到非常沮丧。“我不得不向管理层解释我被另一个团队阻塞,并且我在不断等待,”Medina反驳道。“我希望我需要的基础设施准备好了,当我需要它的时候。你在这里真的在限制我的工作。”
而且,她继续说,这些稳定和安全的环境无论在哪里看起来应该都是一样的。“我不太关心底层基础设施在运行什么。我只需要让事情起作用。”
这种充满摩擦的动态对组织来说非常不健康。再加上来自业务端加快发布速度的新压力。当团队变小时。而这些瓶颈仍在持续。
“我猜我们正在对我们交付给您的内容进行编码,但我们没有对交付进行编码,”Villela承认,当她继续扮演平台工程师的角色时。
通过以交付即代码为目标,团队可以实现以下基础设施:
虽然一些组织确实从头开始构建,但已经有大量关注自助交付的内部开发者平台和门户工具,包括:
Crossplane
-
Backstage
-
Kratix
-
Port
-
Villela后来提到,这并不意味着非此即彼,而是这两种或多种工具可以协同工作以推动内部开发者体验——她后来演示了这一点。 Medina补充说,特别是当一切都以声明式代码完成时,价值才会出现,这增加了可重复性和可靠性。
Villela接着继续演示了典型的内部开发者平台或IDP提供,包括:
OpenTelemetry:生成、摄取和转换数据以进行分析的可观测性后端。
-
OpenTelemetry Collector:用于从基础设施和/或代码中摄取数据,然后使用处理器来转换数据以执行诸如屏蔽、批处理和创建样本数据之类的操作。然后它使用exporter导出到可观测性后端。
-
OpenTelemetry Operator for Kubernetes:在Kubernetes上管理和部署OTel collector。
-
随着角色扮演的继续,开发人员Medina说上面列出的所有东西都不是她的团队正在寻找的任何工具。因为Villela没有把她当作客户对待。我们知道,与其列出平台中使用的产品,不如使用“平台即产品”方法来展示内部开发人员痛点背景下的好处。并保持迭代小巧,闭环开发者反馈。
应用开发团队最常需要的工具是那些能够提高他们的速度和自治性的工具。不仅要以较少的摩擦来构建、测试和部署,而且要能够了解他们的应用中发生的事情,然后更容易进行调试。
Villela的内部销售演说——包括可视化工作流程——在这一点上转为谈论她的平台团队如何使用Kratix(一个开源平台编排器)在平台后面打包所有上述云原生工具,她解释说,它通过Kubernetes YAML文件以“Promise”交付功能。
这个Promise实际上是一个封装的功能,允许开发者请求利用某种功能或Promise的资源。Kratix不仅交付功能,还将其捆绑为Kubernetes原生API即服务。请记住,开发者希望访问内部开发者平台的首选方式是通过API的可扩展性。
平台团队拥有安装了Kratix的控制集群,然后不同的开发团队各自与他们的特定基础设施进行交互,在本例中,每个团队都提供了一个额外的Kubernetes集群。平台团队也拥有这些工作集群的所有权,因此Kratix可以为开发团队安装能力。
在现场演示中,开发人员需要提交一个简化的YAML文档作为API请求,并收到他们真正想要的——一个已经配置为在Jaeger用户界面中查看可观测性数据的Go应用程序示例——作为服务。在背后,KubeCon观众看到,平台通过在平台集群上管理cert-manager Promise和Otel operator Promise来提供这个简单的接口,然后将必要的组件安装到相关的工作集群上。
对于某些组织来说,让应用开发人员编写Kubernetes YAML本身就是在考虑开发人员体验时的一个反模式。这就是为什么使用Kratix在Kubernetes API之上构建用户友好的开发者平台API开始带来回报的原因。就像任何API一样,平台API使消费者能够为他们使用合适的接口,无论是内部开发者门户(如Port或Backstage)、CLI或脚本语言,甚至是聊天机器人。
这对专家提供了一些进一步的见解,关于如何在工程组织内培养“平台即产品”的心态:
不要只是将DevOps团队改名为平台团队,然后不改变流程和沟通。
-
请记住,正如Atlassian的开发者体验所提醒我们的,每个组织都有不同的需求和不同的体验。
-
平台的成功取决于开发和平台团队之间的双向沟通和协作。
-
尽可能对许多事项进行编码。
-
“我们可以看到,在这种情况下,团队——像SRE、开发人员、平台工程师——都可以聚集在一起共事,使用自助服务工具使事情更令人愉快、更可靠,并具有更多的协作性。“Medina总结道。”老实说,我们越少使用Jira越好。“ | https://yylives.cc/2023/11/16/developer-empowerment-via-platform-engineering-self-service-tooling/ |
通过Kratix掌握平台工程
DevOps向平台工程的演变,是当前技术领域一个有趣的转型。平台工程包括创建创新工程解决方案,帮助开发者减少基础设施部署等非开发活动的时间投入,使他们可以专注于应用程序开发和交付。
译自 Mastering Platform Engineering with Kratix。作者 Nitin Naidu 。
各种工程解决方案的采用,例如内部开发平台(IDP)- 比如Backstage,都支持平台工程的采用。这些工具中一些致力于为开发者创建一个中心控制台,而一些则帮助平台工程师构建平台即服务,这可能与通过运行单个命令来帮助设置开发环境一样简单。
本文我们将探索Kratix,这是一个使您能够构建和交付平台即服务的工具。
Kratix是一个开源框架,为平台工程师提供将平台交付为产品的功能。Kratix通过利用Kubernetes和GitOps的力量来提升平台构建能力,同时提供在服务中也包含业务逻辑的方式。
与其他框架和工具不同,其他工具专注于应用程序开发人员的体验,Kratix则专注于使平台工程师能够构建更好的平台。随着团队采用平台工程技术,如果您的平台团队正在寻找将日常平台任务交付为开发人员的自助服务,那么Kratix可能会成为平台团队的帮助,因为它可以省去满足开发人员各种要求的时间。当然,Kratix是一个灵活的工具,也可以与其他工具一起使用,支持广泛的使用场景。
要直观理解Kratix的使用,可以考虑这样一种情况:您的QA团队希望在特定环境中测试一个应用程序。这个环境可能需要数据库和Kubernetes集群等资源。可能需要特定版本来部署数据库和Kubernetes。
在典型业务环境下,这需要提出一个工单,然后指派给平台团队,由平台团队接手任务并交付。平台工程师需要抓紧时间组装环境,运行脚本等完成部署,以赶上交付的最后期限。
使用Kratix,可以创建一个Promise,它包含满足类似环境创建请求所需的配置。这个Promise可以满足开发人员对环境创建的任何请求。通过开发人员提供的几项输入,Promise可以在Kubernetes集群中运行并创建环境。在后台,Promise可以使用Terraform CRD(自定义资源定义)、流水线等来交付任务。我们在下面会进一步讨论它的工作方式。
虽然这只是一个简单的使用场景,但可以利用这个工具交付一个全面的平台即服务产品,包括合规性、业务逻辑等。
Promise是平台团队和应用团队之间达成的透明协议,通过定义和实现明确的抽象概念来形成,这些概念在YAML文档中定义,由平台团队创建。Promise安装在Kubernetes集群上以满足开发人员或任何利益相关者的要求。
Promise包含什么?
API
-
应用程序开发人员用来请求Kratix Promise资源的API(在Kubernetes中,是CRD),它定义用户在请求Promise时可以配置的选项。
依赖项
-
依赖项是任何地方创建资源所需的先决条件,必须预先在任何地方安装。例如Jenkins CRD(自定义资源定义)和用于部署Jenkins的operator。
工作流
-
工作流允许定义在资源创建、维护或更新时要运行的流水线。流水线可以包含将用户输入转换为operator预期格式等步骤。还可以帮助执行Kubernetes集群外的任务,如部署失败时发送Slack警报。
可以查看用于部署PostgreSQL资源的YAML配置中的Promise,以了解API、依赖项和工作流程是如何组合形成Promise的。
复合Promise是Promise中的Promise依赖项,可以用来从应用到数据库部署整个堆栈,打包为一个。考虑业务环境,复合Promise不仅可以部署单个资源。
它可以在主集群中安装Promise,在工作集群中安装依赖项如CRD,创建黄金路径等。它可以包含诸如设置环境时处理安全、网络、存储、合规性、部署等任务的Promise。
Kratix市场是一个可以找到社区和Kratix团队创建的Promise的地方。这意味着可能不需要从零开始创建Promise,可以重用现有的Promise。如果现有的不完全符合要求,可以基于它进行自定义。这里可以找到用于部署监控堆栈(Prometheus和Grafana)、设置RabbitMQ或Kafka等的多个预构建Promise。
Kratix 与 Backstage、Kubernetes operator 和 Terraform 等其他工具互补。例如,使用 Kratix 您可以创建一个 Promise,它可以部署 Backstage 视图。这将是将视图作为 Kratix 中的配置进行编码。您可以根据需要部署这些视图,可以部署任意次数。
Kratix 可以与 Terraform operator 一起使用。可以通过 Promise 来部署云资源。开发人员只需通过请求资源来请求创建虚拟机,Promise 将通过利用 Terraform CRD 在云上创建资源来提供服务。
Kratix 建立在 Kubernetes 之上。如前所述,Kratix 的工作原理围绕 Promise 进行。包含服务请求所需资源的 Promise 将在 Kubernetes 集群上服务任何请求。Kratix 允许在单集群或多集群架构中实现。在单集群中,满足资源创建请求的 Promise 将部署在任何传入的资源创建请求也发生的同一集群中。而在多集群中,您可以拥有一个平台集群,其中 Promise 将被部署,任何传入的资源创建请求都将由 Promise 在单独的工作集群中创建。Kratix 运行的简单可视化如下图所示。
为了理解如何实现 Kratix,我们将安装一个满足 PostgreSQL 资源创建请求的 Promise。Promise 将部署在名为平台集群的单个 kind 集群上。在此示例中,您可以将工作集群和平台集群视为一个。此 Promise 由 Kratix 提供的基本 Promise 组成。此 Promise 接受用户的某些输入,并根据输入创建 PostgreSQL 资源。基本 Promise 已更新为接受一个新字段“deployedBy”,用户在请求时也可以输入此字段。此字段将作为标签添加到将创建的 PostgreSQL 资源中。
请求者可以传递的基本输入参数包括数据库名称、部署资源的超级用户名称、部署的命名空间以及标签“deployedBy”。
PostgreSQL 的 Promise 预先配置了 PostgreSQL pod 的 CPU 和内存限制等值。平台工程师可以更进一步,还可以配置细粒度的访问级别(读取器、写入器和所有者)、节点亲和性等根据其业务需求的具体配置。这有助于平台工程师摆脱每次 PostgreSQL 部署中的干预。同时,开发人员只需运行一个带有基本输入的命令即可启动并运行 PostgreSQL,而无需担心开发人员不需要决定的其他与数据库相关的配置。所有这些都可以由平台工程师在 Promise 中预先配置。
以下是执行所述用例的步骤:
应安装 Docker
-
应安装 Kind(了解如何安装 Kind)
-
Kratix 安装
-
您可以按照官方文档作为单集群设置安装 Kratix。
获取 PostgreSQL Promise。
-
克隆来自 Kratix 的基本 Promise 的 PostgreSQL Promise,已更新为具有新的输入参数 - 'deployed by:'。查看 promise.yaml 和 resource-request.yaml。promise.yaml 包含通常由平台团队设置的 Promise 配置。resource-request.yaml 是用户通过在文件中添加所需输入来请求 PostgreSQL 资源创建的文件。
$ git clone https://github.com/infracloudio/promise-postgresql.git
创建流水线镜像。
-
我们用例中的 Kratix Promise 中的流水线会根据用户输入的任何时间用户请求资源来创建清单文件。Postgres Operator 需要清单来创建 Postgres 实例。该流水线由获取输入和输出 minimal-postgres-manifest.yaml 的 bash 脚本组成,我们将使用 Dockerfile 将其转换为 Docker 镜像,在后续步骤中我们将使用该镜像。这种方法的基本原理是一旦将流水线转换为镜像,就可以重复使用流水线。一旦以 Docker 镜像的形式封装,流水线就可以轻松地在不同的 Promise 之间重复使用。
$ cd promise-postgresql/internal/configure-pipeline
$ docker build . --tag kratix-workshop/postgres-configure-pipeline:dev
[+] Building 0.2s (10/10) FINISHED
docker:default
=> [internal] load build definition from Dockerfile
=> => transferring dockerfile: 399B
=> [internal] load .dockerignore
=> => transferring context: 2B
=> [internal] load metadata for docker.io/library/alpine:latest
=> [1/5] FROM docker.io/library/alpine
=> [internal] load build context
=> => transferring context: 127B
=> CACHED [2/5] RUN [ "mkdir", "/tmp/transfer" ]
=> CACHED [3/5] RUN apk update && apk add --no-cache yq
=> CACHED [4/5] ADD resources/* /tmp/transfer/
=> CACHED [5/5] ADD execute-pipeline execute-pipeline
=> exporting to image
=> => exporting layers
=> => writing image sha256:XX
=> => naming to docker.io/kratix-workshop/postgres-configure-pipeline:dev
将您的流水线镜像提供给 kind 集群 - 'platform'。
-
$ kind load docker-image kratix-workshop/postgres-configure-pipeline:dev --name platform
Image: "kratix-workshop/postgres-configure-pipeline:dev" with ID "sha256:XXXXX"
在平台集群上安装 Postgres Promise 并进行验证。
-
运行以下命令时,请确保您位于 promise-postgresql 文件夹中。
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl apply
--filename Promise.yaml
Promise.platform.kratix.io/postgresql created
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl get crds
NAME CREATED AT
bucketstatestores.platform.kratix.io 2023-10-17T12:48:08Z
certificaterequests.cert-manager.io 2023-10-17T12:47:14Z
certificates.cert-manager.io 2023-10-17T12:47:14Z
challenges.acme.cert-manager.io 2023-10-17T12:47:14Z
clusterissuers.cert-manager.io 2023-10-17T12:47:14Z
destinations.platform.kratix.io 2023-10-17T12:48:08Z
gitstatestores.platform.kratix.io 2023-10-17T12:48:08Z
issuers.cert-manager.io 2023-10-17T12:47:14Z
orders.acme.cert-manager.io 2023-10-17T12:47:14Z
postgresqls.marketplace.kratix.io 2023-10-17T12:50:31Z
Promises.platform.kratix.io 2023-10-17T12:48:08Z
workplacements.platform.kratix.io 2023-10-17T12:48:08Z
works.platform.kratix.io 2023-10-17T12:48:08Z
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl --namespace default get pods
NAME READY STATUS RESTARTS AGE
minio-create-bucket-pzjsr 0/1 Completed 0 22m
postgres-operator-64cbcd6fdf-2dpkk 1/1 Running 0 14m
验证您的 Kratix Promise 是否可以实现。
-
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl apply
--filename resource-request.yaml
postgresql.marketplace.kratix.io/example created
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl get pods
NAME READY STATUS RESTARTS AGE
acid-example-postgresql-0 1/1 Running 0 29m
configure-pipeline-postgresql-8b724-nx2ct 0/1 Completed 0 30m
minio-create-bucket-pzjsr 0/1 Completed 0 53m
postgres-operator-64cbcd6fdf-2dpkk 1/1 Running 0 45m
nitin@NITIN-NAIDU:~/kratix/Promise-postgresql$ kubectl get pods --selector deployedBy=InfraCloud
NAME READY STATUS RESTARTS AGE
acid-example-postgresql-0 1/1 Running 0 30m
瞧!我们刚刚部署了一个定制的 Kratix Promise,它帮助满足了在 Kubernetes 集群中安装带有标签 deployedBy 和用户在创建过程中提供的其他输入的 PostgreSQL 的请求。我们作为开发人员/用户运行了一个命令来请求资源,该资源已成功提供服务。
接下来,您可以按照官方文档创建自己的 Kratix Promise,其中包含特定于业务的要求。
随着平台工程的发展,利用像 Kratix 这样的工具会有利于以服务的形式呈现您的平台,从而减轻平台工程师和开发人员的负载。
Kratix 市场是一个很好的地方,您可以直接使用社区开发的 Promise。虽然一些 Promise 可能立即满足您的需求,但其他 Promise 可能需要定制以更好地满足您的特定需求。
简而言之,Kratix 是一个 Kubernetes 原生的灵活工具,可用于为开发人员创建非开发活动的抽象,并作为平台工程师的便利工具来创建平台工程任务的抽象。
欢迎随时联系我们的平台工程咨询团队,采用像 Kratix 这样的工具,并支持您的组织采用平台工程。您可以在LinkedIn上联系我,就本博文开始讨论。 | https://yylives.cc/2023/11/18/mastering-platform-engineering-with-kratix/ |
平台工程减轻认知负荷,提升开发者生产力
平台工程是通过设计并构建工具链和工作流程,提供自助服务能力,以降低软件开发的复杂性。
译自 Platform Engineering Reduces Cognitive Load and Raises Developer Productivity。作者Michel Murabito是Mia-Platform的开发者倡导者,拥有18年以上的软件开发经验。我喜欢分享自己的知识,因此在2021年至2022年期间,我以演讲者的身份在许多意大利和国际活动中发言。我管理一个YouTube频道和一个拥有700多名成员的社区,我主要在那里讨论开发者职业。
毫不意外,过去几十年来,开发者创造了无数搞笑图片,描述加入和理解公司代码库的困难。除了努力明智地选择工具、框架和方法,还要遵守DevOps“你写的代码,你运行它”的箴言,这些都导致软件开发者的认知负荷急剧增加,需要付出巨大努力和资源才能理解、创建和维护日益复杂的软件。
为了缓解过高的认知负荷挑战,采用平台工程这种结构化的方法,通过简化流程、提供标准工具和自动化重复任务,来减轻软件开发生命周期的压力。
本文介绍了以下内容:
认知负荷对开发者生产力的影响。
-
平台工程如何减轻认知负荷,提高生产力并促进软件开发。
-
认知负荷这个词是John Sweller在1988年的论文《解决问题期间的认知负荷:对学习的影响》中首次提出的,它指执行一个任务所需的精力或信息处理量。就软件开发而言,认知负荷是处理软件工件所涉及的思考努力,这取决于任务和个人。
Robert Martin在他的书《代码整洁之道》中指出,“开发者花在阅读和理解代码上的时间是编写代码时间的10倍以上。” 不仅如此,如果认知负荷过高会变得普遍并加剧,这会限制人们有效处理和记忆信息的能力,导致任务完成延迟、错误和次优解,并增加压力,可能导致职业消耗并降低工作满意度。
平台工程是为自助服务能力设计和构建工具链和工作流程的实践,以降低云原生时代软件开发的复杂性和不确定性。内部开发者平台(IDP)非常重要,它可以可靠地管理应用程序配置,必要时构建新的完全配置的环境,提供持续交付或部署的流水线,更重要的是保护开发项目的安全。
例如,在传统环境中,启动一个新项目需要花费几个小时手动配置开发环境。
现在,想象您有一个图形界面或命令行界面来编排复杂的软件开发流程。如果您使用 IDP,只需通过该界面或命令行界面执行一个命令指定您的偏好,IDP 将自动管理所有配置来启动环境。
此外,平台工程等变革性方法可以自动化重复任务,减少软件工程师的精力消耗,消除人为错误。
近几十年来,技术的出现简化和加速了软件开发过程。最重要的是革命性的DevOps理念,它通过促进协作、自动化、持续集成和交付催生了平台工程。令人印象深刻的是,DevOps可以:
通过CI/CD流水线等任务的自动化来弥合开发和运维之间的鸿沟,实现更快更可靠的软件发布。
-
通过自动化代码集成和部署来减少认知负荷,使开发者可以专注于解决问题和创新。
-
根据Puppet的报告,在组织内实施良好的平台工程实践,有37%的受访者对他们的产品交付流程的有效性“非常满意”。这种鼓舞人心的认可证明,增强的开发者体验无疑可以提高生产力。
具体来说,平台工程具有两个重要功能:
通过一致的工具和框架,简化开发项目的启动。
-
通过内部开发者平台为开发者提供测试和部署代码所需的一切,最大限度地减少开发生命周期中的等待时间。这些内部平台到处都是自动化构建、测试和部署应用程序的工作流程。
-
一个更实际的例子可以说明这是如何工作的。想象一下您的开发团队在同一个项目的不同分支上工作。当某人提交更改并推送代码时,IDP 运行所有的流水线,检查兼容性,将代码转换为工件,并在所有选择的服务器和环境上运行它。在传统环境下,开发人员需要跟踪和监督整个过程,手动启动每个阶段。而在平台工程中,这些重复任务都是由 IDP 提供的自动化来执行,开发人员不需要采取进一步操作。
通过规定开发者负责编写、部署和维护生产环境中的代码,DevOps 的“你写的代码,你运行它”原则无意中增加了技术专业人员的认知负荷。平台工程通过提供以下优势来解决这个问题:
降低复杂性:平台工程找到并建议正确的抽象程度,使开发者可以绕过复杂的基础设施配置。
-
强大的协作和知识共享:平台工程通过使用相同的工具、实践和方法,促进不同团队之间的紧密协作,因此团队可以轻松相互学习,开发阶段之间几乎没有差距。
-
一致性和可靠性:通过标准化的工具、流程和基础设施,平台工程通过最大限度地减少测试、部署和维护中的配置错误,确保开发流水线的一致性和可靠性。
-
更短的上市时间:平台工程对开发流程、可重用组件的自动化以及跨职能协作的推广,缩短了产品交付时间。
-
平台工程是DevOps的自然演进:在DevOps核心理念的基础上,平台工程为整个流程建立了端到端的自助服务设置。Puppet的《2023年DevOps状态报告》中对这种方法的认可表明,相关调查的93%的受访者认为采用平台工程是其团队朝着正确方向迈出的一步。
-
黄金路径意味着一种与可行平台和标准化云环境协调一致的、具有引导性且支持充分的软件开发技术,用于简化流程。专门的内部团队策划并维护这些平台背后的技术栈、基础设施和云空间,使这些平台可以发挥加速器的作用,消除软件工程师在每个项目中都要从零开始的需要。
Itrevolution的报告《2022年DevOps企业论坛指南》指出,76%的被调查组织都同意,学习他们的软件架构所需的认知负载非常重,这给开发人员带来了焦虑和生产力低下。
为了战胜认知超载,开发人员应采用以下策略和技术:
简化:确保代码易于理解、维护和调试,遵循良好的编码实践,即注重清晰而不是小聪明,采用描述性的命名、添加注释和编写文档。避免嵌套循环和条件判断,不必要的复杂度,过度设计和复杂逻辑。
-
抽象和模块化:通过提高可用性来抽象代码。此外,通过将代码拆分成小的、独立的模块进行模块化,这些模块可以重用并重新组合以构建不同的应用程序。这样,开发人员可以生成易于理解、维护和扩展的解决方案。
-
向他人学习:精通编程需要终身学习。加入开源项目和社区,研究有经验的开发人员解决问题的方案,并简化流程和程序。此外,通过参与代码审查、与同行合作项目以及寻求反馈,学习编程风格和最佳实践。
-
休息:不间断的长时间高强度编程会导致认知超载。通过计划和休息,你可以放松身心,重新获得专注力和动力,然后更好地应对过载。可以考虑采用番茄工作法,即工作一段时间后休息一会儿以保持专注和防止耗尽。
-
转向Mia-Platform:利用Mia-Platform及其框架的功能。熟练掌握相关工具及其功能可以显著减少所需的自定义代码量。
-
随着技术的发展,开发人员在构建、测试和部署应用程序时所承受的认知负荷不可避免地越来越重,使得生产力降低,代码质量也越来越差,更不用说压力加大,甚至导致职业倦怠。
平台工程提供包含标准化工具、框架和工作流程的自助服务平台,抽象了许多底层复杂性并简化了软件开发和交付。这样,开发人员可以专注于设计创新解决方案,而不是处理管理部署和基础设施等琐碎任务。
同时,开发周期变得更加敏捷,因为开发人员可以快速迭代、测试和发布软件,更快地交付新功能和增强功能。此外,由此产生的更健康、更可持续的工作环境不仅可以防止职业倦怠,还可以让开发人员在满足不断发展的技术环境需求的同时发挥最佳状态。
要了解为何以及如何向平台公司转型,请阅读Mia-Platform提供的这份白皮书。
为什么平台工程是一个重大趋势?
因为平台工程可以优化开发者体验、加速软件交付过程,同时保持质量标准。
平台工程是如何工作的?
通过为开发团队提供构建、测试和部署应用程序的工具,这些工具带有简化交互的明确定义的API和服务,平台工程为加快应用程序开发建立了基础工具包、服务和框架。
为什么平台工程很重要?
平台工程旨在增强DevOps的价值,并为组织保持领先地位提供优势。通过平台工程,您可以:
提高软件质量和可靠性:平台工程通过结合最佳实践、自动化测试和持续集成,建立一个强大的、标准化的高质量和可靠软件开发框架。其结果是用户满意度更高,对产品或服务更信任。
-
提升开发速度和敏捷性:通过其标准化环境,平台工程缩短了启动新生态系统所需时间。
-
降低复杂性:通过平台工程,可以抽象系统的复杂性,使软件工程师能够专注于应用程序开发,而不是底层基础设施。
-
改善开发者体验:平台工程减少了开发者大部分认知负载和精神压力,同时消除了职业倦怠风险。
-
平台工程师需要哪些技能?
为了成功执行设计、实现和维护支持应用程序和设备基础设施的主要任务,平台工程师需要以下技能:
软件开发:熟练掌握编程语言:Python、Java、C++。
-
DevOps:熟悉部署、监控和自动化工具。
-
云计算:了解用于构建可扩展和可靠平台的云平台和服务,以及在云上部署、监控和管理应用程序和服务。
-
安全:深入的安全实践专业知识,以保护平台及其支持的应用程序。
-
API设计:熟练设计、创建和记录API,以实现平台服务之间无缝交互。
-
主要的认知负载类型有哪些?
内在认知负载:学习材料本身的固有难度。难度越大,负载越重。
-
外在认知负载:劣质学习材料造成的,例如冗长难懂的术语、结构混乱的材料和不必要的干扰。
-
真正认知负载:为了长期掌握知识并将新信息整合到现有知识中,你必须承担的负荷。
-
脚手架是否可以减少认知负载?
是的。
脚手架是通过预构建的框架快速构建应用程序的一种结构或骨架。由于它处理了初始设置,你可以直接进入需要特殊关注和自定义的部分,因此脚手架对于复杂的技术或大型项目特别有帮助。 | https://yylives.cc/2023/11/18/platform-engineering-reduces-cognitive-load-and-raises-developer-productivity/ |
内部开发者门户网站的产品化方法
用产品经理的思维创建开发者喜爱的门户网站。
译自 A Portal as a Product Approach for Internal Developer Portals。作者 Zohar Einy 是 Port 的 CEO,这是他与 Yonatan Boguslavski 共同创立的用于内部开发者门户网站的无代码平台。Zohar 的职业生涯始于以色列国防军的 8200 部队,担任平台工程师,在那里他和 Yonatan 开始了合作......
对于许多企业来说,建立一个内部开发者门户网站是实现平台化、减轻开发者负担、达到标准化和提高工作效率的关键所在。但是,创建内部开发者门户网站并不意味着它就能自动成功,开发者必须真正地从中受益,才会积极地使用它。为此,在定义门户网站内容时,企业需要关注产品管理实践,而不仅仅是工程实现。
要创建一个成功的开发者门户网站,企业必须将其视为一个产品,从构思到上线都贯彻产品化思维,包括用户调研、优先级确定和持续的反馈循环。毕竟,没有验证过用户需求就上线产品,后果可能会很惨痛。
本文探讨了如何通过产品化的方法来搭建内部开发者门户网站,更重要的是,如何让门户网站真正帮助开发者提升工作效率。
内部开发者门户网站的主要目标是简化开发者的工作并让他们专注于核心开发工作。这包括降低认知负荷、集中和优化工作流程以及最小化花在搜索答案或解决方案上的时间。从本质上说,开发者门户网站应该释放开发者的时间和认知资源,允许他们编写代码而不是在尝试使用DevOps基础设施和工具时迷失方向。
对于开发负责人和高管来说,门户网站充当设置标准、缩短入职培训和提高整体团队效率的一种手段。为了实现对开发者或经理的收益,组织必须仔细考虑在建立内部开发者门户网站时应优先考虑什么。此时,将门户网站视为产品的想法就出现了。我将一步步拆解这一点。
关于如何构建开发者门户网站以及开发者应该将其用于什么的决策,要具有战略性。不要仅仅关注门户网站的单个元素(陷入细节中),而要考虑想要提供的端到端开发者体验。这与是否拥有软件目录或评分卡无关。这与门户网站如何改变开发者的日常工作流程有关。
与开发产品一样,从覆盖一两个用例的最小可行产品(MVP)开始。建立MVP后,随着时间的推移逐步为开发者和管理者增加新的门户网站功能,以丰富门户网站。每个门户网站开发阶段都应涉及培训、交流和软启动,以推动采用。请务必定义成功指标并对其进行衡量,以跟踪门户网站的影响。那么该如何开始呢?
“要完成的工作”框架是理解开发者需求以及他们希望通过内部开发门户网站完成的任务的关键工具。与其对要添加的功能做出假设,不如鼓励组织确定开发者希望门户网站支持的特定任务,比如快速部署服务或有效管理权限。
以下示例句子可以帮助你深入了解开发者需要门户网站支持的任务:
开发者使用门户网站获取_________,而不是_________。
-
当_________时,开发者将转到门户网站查看_________,而不是________。
-
开发者可以查看目录和使用操作,而不是_________。
-
开发者可以_________,而不必花_________来___________。
-
服务在_________检查之前不会进入生产环境。
-
通过_________避免_____________来推动所有开发者执行___________。
-
全面了解_____________。
-
确定人们希望如何使用门户网站
-
一旦你完成这些句子,你就会得到可以在各种用例中演示的用户故事,这些用例可在开发者的日常工作中为他们提供服务。以下是一些可以促进开发者日常工作流程和任务的高层用例:
通过提供指南和最佳实践来遵守内部开发标准。
-
加快将新功能推向生产的过程。
-
促进基础设施即代码(IaC)的采用。
-
优化事故和值班管理。
-
简化与Kubernetes的交互。
-
管理应用程序安全态势。
-
处理功能标志。
-
监控服务运行状况。
-
理解内部API。
-
开发经理和团队负责人也可以从内部开发者门户网站中受益,例如:
掌握成本: 在细粒度级别跟踪和优化成本以改善资源分配
-
新开发者的入职培训: 通过提供精简的导向性体验来缩短入职培训时间
-
推动工程质量: 发起和监督项目以提高生产准备状况、代码质量和开发的其他方面
-
推动安全性和合规性: 在开发和生产过程中内置安全性以管理应用程序安全性(AppSec)和漏洞
-
跟踪生产运行状况: 快速洞察整体生产运行状况、团队表现和服务状态
-
理解DORA指标: 通过理解和跟踪关键的DevOps研究与评估(DORA)指标来提高开发者生产力和速度
-
内部开发者门户网站将为三个主要用户组提供服务,每个组具有不同的需求和职责:
开发者: 主要是初级和高级开发者,他们主要负责编码和业务逻辑。他们利用门户网站高效完成特定任务。
-
团队负责人和组经理: 他们负责监督开发者。他们需要全面了解所有项目状态和组织背景。
-
开发经理: 该组负责更高层次的管理活动,包括产品质量、成本跟踪、安全性、合规性和生产力。他们需要快速访问项目和产品信息。
-
我已经解释了内部开发者门户网站如何帮助开发者,最有效的推出方法,开发者和管理者的用例示例,以及谁将使用它。现在是时候讨论如何鼓励门户网站的采用了。
内部开发者门户网站的成功采用涉及理解组织的团队结构并根据团队目标定制推出策略。最好避免一步到位的方法,而是逐步开始。如何做到这一点?
映射组织的团队结构: 识别工作流程的相互依赖性,相应地调整采用策略。了解哪些团队更有可能成为早期采用者,以及哪些团队能立即从门户网站中受益。
-
定制推出策略: 首先通过访谈和调查开发者,选择一个重点用例,选择采用指标并监控使用数据以识别障碍。
-
试点门户网站: 利用成功的初始团队作为冠军来鼓励采用,并根据需求扩展门户网站。
-
要将内部开发者门户网站转变为对开发者和管理者有力的工具,需要产品管理思维方式。关注渐进式采用和让实施顺利的用例,留出连续反馈循环和迭代的余地。将门户网站视为产品的思维方式可以为你奠定真正为用户服务的工具的基础。
欲了解更多信息,请查看 Port 的演示。 | https://yylives.cc/2023/11/19/a-portal-as-a-product-approach-for-internal-developer-portals/ |
搭建高效平台工程团队指南
平台工程团队面临的主要挑战及应对策略概览。
译自 How to Be an Effective Platform Engineering Team,作者 Nočnica Mellifera 在转入开发者关系之前是一个开发者七年。她专门从事容器化工作负载、无服务器和公共云工程。Nočnica 长期以来一直是开放标准的倡导者,并就此举办了演讲和研讨会......
平台工程是一门专注于为开发者打造可扩展、可靠和高效的基础平台的专业学科。它与更关注应用程序部署和运维的 DevOps 不同,平台工程关注的是构建开发者所依赖的基础设施和工具。平台工程师不关注产品的改进和交付,而是像希腊神话中为众神制造武器的火神赫菲斯托斯一样,为其他人制造最佳的工具。
本文不会深入探讨为什么需要一个平台工程团队,或者一个开发者平台的益处,而是想概述他人平台工程实践过程中的一些经验教训、一个平台工程团队将面临的主要挑战以及处理这些挑战的一些策略。这些挑战包括:
平台工程团队面临的一大紧迫挑战是在打造一个全面、功能齐全的平台与尽快让用户采用之间找到适当的平衡。一个过于基础的平台可能无法满足开发者的需求,而一个功能过于复杂的平台则需要太长时间才能打造,这将成为早期采用的障碍。关键是优先提供最大用户价值的功能,并以一种鼓励平台早期且积极的使用方式来推出这些功能。
与其一开始就追求一个功能齐全的平台,不如关注为用户不断提供增量价值。确定平台可以解决的最迫切用例,并重点打造解决这些特定问题的功能。这种方法不仅可以加速开发周期,还可以促进早期采用。即使平台还不够成熟完整,用户也更愿意使用一个能解决他们当下需求的平台。
与其一开始就定位为一个功能全面的平台,不如先集中精力为用户提供增量价值。确定平台最迫切能解决的用例,并构建专门解决这些特定问题的功能。这种方法不仅可以加快开发周期,还可以鼓励早期采用。即使功能还不完整,用户也更有可能使用解决他们当前需求的平台。
这里的关键挑战是首先倾听开发者,解决他们最迫切的需求。几年前,我与一个团队合作,由于一些集群 DNS 的问题,你需要手动复制粘贴三个不同的本地 IP 地址来运行调试器。这很麻烦,也没有简单的脚本化解决方案。我们在那一年晚些时候工作的开发者平台完全解决了这个问题,调试器可以在 IDE 中通过一个按钮激活。这个痛点如此之大,以至于每个人都立即采用了该工具。即使其他组件比较简陋,一个可以解决团队面临的前两三个问题的基本平台也会被所有人采用。
平台可能同时被需要大量指导的新手开发者和需要高级功能及定制能力的专家开发者使用。这种多样性要求平台设计要灵活、适应性强,以满足不同技能水平的需求,而又不会过于简单或过于复杂。
我和其他那些完全通过终端工具编写代码的人会感到非常舒服,如果我们的开发工具是以一个复杂的命令行界面(CLI)的形式出现的。我们习惯于翻阅命令历史记录,将输出管道到其他工具,并从终端扫描日志。其他开发者可能只会使用命令行启动服务,通过 git 提交,其他很少涉及。我们想要给所有工程师提供强大的工具,而不会让其中一些人感到被排除在外。
挑战在于创建一个对初学者来说直观易用,但仍然为有经验的开发者提供预期的深度和灵活性的平台。
为了适应不同的用户基础,可以考虑实现双层 API 设计。基础层应提供复杂用例所需的原始功能,为有经验的开发者提供他们所寻求的灵活性。在上面的 CLI 示例中,对于诸如直接部署等最基本的任务,构建一个 Web GUI 可能是有意义的,同时通过命令行启用更完整的配置。你的预算可能不允许采用这种完整的双层方法,所以可以考虑为不太熟悉运维工具的工程师设置默认配置值并分发完整的脚本。
平台工程团队通常依赖第三方服务来提供某些功能,例如包管理、源代码控制自动化和用户帐户控制。虽然这些服务可以加速开发,但也带来供应商锁定的风险。这种依赖关系会使得切换供应商或采用新技术变得困难,限制了平台的未来适应能力。更糟糕的是,如果您使用专有 SaaS 工具构建开发者平台,那么如果该供应商想提高您的费率,您合理地担心您将无能为力。
无可否认,供应商锁定是一个重大问题,特别是当现有工具可以通过您提供很少的工程工作来解决大多数问题时。注意上述关注采用的重点,现在可用的好解决方案要比六个月后推出的绝佳解决方案要好得多。两种可能的解决方案:
抽象: 为了减轻供应商锁定的风险,你可以对第三方服务使用抽象层或包装器。这使您可以在对平台或其用户的影响最小化的情况下切换供应商。例如,如果您使用特定云提供商的存储服务,可以创建一个与该服务交互的内部 API。如果您有必要切换供应商,您只需要更新这个内部 API,而不是在整个代码库中进行更改。
-
开源: 开发者平台 Backstage 以一种如此完整的方式解决了这么多问题,以至于一旦您的团队采用它,您将很难脱离该平台。好消息是 Backstage 是开源的,所以您不会发现您的平台 SaaS 账单每季度神秘地上涨 20%,直到它超过您的基础设施成本。采用开源工具作为您的开发者平台有助于确保用于采用的时间是值得的投资。
-
确定平台的成功并不简单。很难从单个冲刺或季度中普遍化开发者速度;毕竟,在那个时间窗口面临的挑战可能异常困难或异常容易,这就解释了性能的变化。平台改进的效果甚至更难衡量:考虑到采用新平台和培训团队所需的时间,通常没有明确的信号显示“在我们采用此平台后,一切是如何改变的”。
正常时间和延迟等传统指标虽然重要,但并不能提供整体情况。挑战在于确定正确的 KPI 集合并用其来指导平台的持续改进。
虽然正常时间或延迟不会显示平台工程的有效性,当然也不会立即显示任何信号,但谷歌云团队建议更好的指标来衡量开发者编写、测试和交付代码的便利性。DORA 指标自身需要实现要求,但如果您需要可衡量的结果,那么这是值得做的工作。有关详细信息,请参阅下一节关于衡量成功的内容。
虽然我最近发表了一整篇关于这个主题的文章,但关于如何使用 Dora 指标的简要总结是回答有关您的工程团队的四个问题:
你部署新代码的频率是多少?
-
从“通过单元测试”到“在生产环境上部署”需要多长时间?
-
一旦代码被部署,回滚的可能性有多大?
-
如果有错误的部署、故障或其他问题,解决事故需要多长时间?
-
对于如何测量这些值有一些具体的建议,这些指标目前可能无法从您的源代码控制或可观察性工具获取,但我认为通过查看这四个问题很容易看出它们如何让您了解我们在何种程度上支持开发人员完成他们的工作并交付生产功能,同时保持可靠性。
在这篇中型文章中,Stefan Krawczyk 描述了他的团队如何在不需要数据科学家“移交”模型的情况下为数据科学家创建一个平台。这种关注提高开发者体验的团队的哲学转变是基础性的,改变了他们的整个方法。
在高层次上,平台团队没有产品经理运营,必须提出平台功能才能推动数据科学家向前发展,而数据科学家反过来推动 Stitch Fix 业务向前发展。
Stefan 的文稿中有许多我在本文中使用的教训,包括在决定何时以及如何向团队发布工具时那个绝妙的“关注采用,而不是完整性”。
在 2021 年的一篇文章中,Gergerly Orosz 写道,Uber 创建了一个与现有团队截然不同的平台工程团队,主要原因在于它不是以项目为基础工作的,而是处理有关技术债务和开发者启用功能的持续问题。这项工作在进行商业论证方面提出了真正的挑战,毕竟,这些工程师明确不负责交付功能。但通过仔细观察,益处是明显的:
平台团队提高了组织效率。它们减少了工作重复并有助于方法的标准化,当标准化对组织有利时。例如,建立一个后端安全平台团队可以帮助标准化公司范围内的安全漏洞检查。
平台团队在 Uber 面临特定挑战。我发现有趣的是高级人员过度饱和:由于他们很少需要处理紧迫的最后期限或业务利益相关者,因此高级工程师倾向于平台工程,从而失衡了组织。整篇文章是令人着迷的阅读材料,并讨论了 Uber 如何从纯创业文化转变为需要保护其巨大的技术和业务成就的文化。
Netflix 的开发者生产力经理 Mike McGarr 在 QCon 上发表了演讲,讲述该公司如何通过创建开发者平台实现多语言开发。通过容器化,Netflix 的团队能够从 Java 商店转向在工程师现有基础上满足他们的需求,并允许团队使用最适合其挑战的语言开发。Mike 从平台工程的最初阶段开始就有一些见解。这里有一个很棒的教训清单:
Netflix 发现:
多语言支持会增加开销
-
容器可以很好地分发工具
-
构建平台,而不仅仅是工具
-
提供本地(或类本地)解决方案
-
降低认知负荷
-
结果是一个作为这么多其他大型工程组织的模型的团队,一个几年前面临和克服了平台工程挑战的团队。
有效的平台工程通常被称为“工程领域的创业公司”,随着我们研究成功案例,这一观察仍然正确。成功的 PE 团队在其更大的组织中发现了未满足的需求,用一种非常出色地完成一项工作的产品解决了这些问题,并且具有足够的吸引力以实现广泛采用。成功的平台工程的结果是一个更加密切的团队,在试图使其工作面市时遭受的压力更小。
工程师得到了更好的支持,可以做更多最好的工作,而无需通过平台工具解决的任意繁重工作。
随着您追求平台工程,供应商工具锁定和记录好处等挑战都在您的未来。如果您想加入一个致力于支持开发者的志同道合的工程师社区,请查看 Signadot Slack 以继续交流。 | https://yylives.cc/2023/11/24/how-to-be-an-effective-platform-engineering-team/ |
平台工程策略效果测量
了解用户参与度对于长期维护和改进你的开发平台体验至关重要。
译自 Measuring the Impact of Your Platform Engineering Strategy,作者 David Williams 是Quali的产品战略高级副总裁,他带来了25年以上的经验,在创业公司管理小型专注团队,并在大型复杂产品组合软件公司增加收入。 大卫此前曾担任高级角色......
平台工程的一个关键原则是将平台视为产品,将使用平台的同事视为客户。
任何管理过产品的人都会告诉你,你需要参与度指标来指导你的产品战略。同样的话也适用于平台工程。就像面向客户的产品一样,你的平台需要提供价值来赢得用户,胜过他们信任的替代方案。
在我们与客户合作的过程中,我们发现许多平台团队需要一种实用的机制来实际测量用户参与度,这将指导支持平台的产品战略。
以下是我们告诉这些客户的内容。
重要的是要考虑到你的平台可能会遇到的阻力和几个替代建议。
在许多情况下,你设计平台去支持的团队已经花了多年的时间使用替代工具和平台来执行他们的日常工作。无论是依赖基础设施即代码(IaC)工作的DevOps团队,依靠CI/CD平台的开发团队,还是使用原生AWS控制台的IT团队,你都需要考虑你的平台是否为现状提供了优势。
我们建议监控通过平台提供的资源的日常活动。
作为应用基础架构的编排层,我们的Torque平台与内部开发者平台(IDPs)集成,以自动化部署支持开发生命周期的云资源和环境。
每次开发者通过IDP部署一个应用环境时,我们的平台都会协调和启动支持该环境的云资源。基于这一操作,我们的用户可以看到哪些应用资源被部署,由谁(按用户和团队)部署,以及为何目的(通过在启动时应用于云资源的标签)。
因此,如果例如你支持的某个团队中的活动降低或落后于他们的同事,你可以在趋势出现时立即进行调查。
查看Git中的资源配置的可见性允许你验证这些资源是否已正确地为工作负载编排。同时,了解可以访问这些资源的用户的信息,将告诉你谁可以提供反馈以改进体验。
这是识别任何可能阻碍开发者体验的摩擦点并从受影响最大的用户那里收集反馈的起点。
有了这些数据,你可以开始理解依赖你的平台的团队如何利用应用程序资源。
以下是一些可以帮助改善采用情况的问题:
什么样的集成可以改进用户体验? 在许多情况下,IDP增强了IaC、CI/CD、IT服务管理(ITSM)或你的同事更喜欢的其他运营工具。如果你发现体验存在缺陷,扩展对现有工具和工作流程的支持可能是一个起点。
-
基础设施的可用性和弹性是否会破坏平台体验? 与面向客户的产品类似,你的平台最重要的功能是可用性。收集关于故障或其他可能减弱对你的平台信任的性能问题的反馈,并探索平台提供的资源以确定原因。
-
用户是否可以访问应用程序资源的文档? 对于习惯于使用传统工具和方法工作的团队来说,导航新的平台可能会使他们感到不知所措。确保所有应用程序资源都包括文档,以便你的团队可以验证这是否是适合其工作负载的基础设施。
-
还要记住——就像产品一样,平台从未完成。平台体验随时间的维护和改进,参与度的可见性至关重要。 | https://yylives.cc/2023/12/01/measuring-the-impact-of-your-platform-engineering-strategy/ |
快速建立企业级开发者平台
Humanitec推出了面向AWS和GCP平台的、专门定制的开源参考架构实现代码。
译自 A Shortcut to Building an Enterprise-Grade Developer Platform,作者 Luca Galante。
设计一个有效的内部开发者平台(IDP)是一个非常耗时的过程。这不仅涉及确定所需的基本组件,还包括在不断扩大和复杂的工具环境中选择最合适的技术。为了加快这个过程,Humanitec 公开了基于亚马逊网络服务(AWS)和谷歌云平台(GCP)平台的参考架构实现代码。
这一最新进展可以加快整个设计过程,并在一个小时内而不是几个月内轻松构建一个最小可行产品(MVP)。为了提供更多支持,我们推出了一个学习路径,介绍如何掌握 IDP 并使用 Backstage、Humanitec 平台编排器、Score 和您选择的云提供商设置引用架构。该学习路径将引导您完成开发人员和平台工程师的日常任务,在动手实践中运行应用程序和修改设置。
在我们深入探讨什么和如何之前,让我们看一下为什么需要构建企业级 IDP。
当实施有效时,内部开发者平台有助于显着简化软件交付过程。正如我们的 CEO Kaspar von Grünberg 所强调的那样,“内部开发者平台(IDP)是平台工程团队绑定在一起的所有技术和工具的总和,为开发者铺平黄金路径。IDP 在整个工程组织中降低了认知负载,实现了开发者的自助服务,而没有从开发者那里抽象出上下文,也没有使基础技术变得不可访问。”
使用 IDP 的组织可以在应用程序和基础架构配置中实现标准化。这赋能开发者在整个应用生命周期中进行自助服务,消除了等待运维支持的需要,从而提高了生产力。减少运维瓶颈有助于更高效的工作流程。此外,IDP 通过允许开发者在保持基础技术可访问的同时选择抽象来减轻开发者的认知负担。
从业务角度来看,这些好处转化为有形的优势。当开发者可以更多地关注编码时,组织可以将上市时间缩短 30%,实现四倍更高的部署频率,并缩短 30% 的前置时间。这些改进对于培育收入增长并使企业具备快速响应竞争对手、不断变化的客户需求和市场动态的敏捷性至关重要。
当涉及到设计和构建 IDP 时,每个平台看起来都不同。直到最近,平台团队还没有标准的、经过验证的、可扩展的或可重复的模式可供遵循。您的 IDP 最终会有什么样取决于您已经在使用的技术、您想要摆脱和保留的技术,以及您想要设计的黄金路径。您组织的规模、首选的开发人员工作流程以及法规等外部因素也会影响 IDP 的结果。因此,不同公司采用非常不同的方法来构建其 IDP 是很自然的。
在 2023 年的 PlatformCon 上,McKinsey 的 Stephan Schneider 和 Mike Gatto 展示了他们基于亚马逊网络服务(AWS)的最新的 IDP 参考架构,结合从许多现实世界的平台设置中获得的见解和共性。他们的演讲题为“平台即代码:使用参考架构简化开发者平台设计”,启发我们为基于 AWS、Azure 和 GCP 的设置开发自己的 IDP 参考架构。这些资源旨在帮助组织快速设计、构建和部署企业级 IDP。
参考架构中规定了五个主要的平面,组成平台的不同领域。尽管参考架构的目标是为您提供一个起点,但应考虑每个组织上下文中的现有资产,以结合已有的组件:
这个平面是平台用户的主要配置层和交互点。它包含以下组件:
一个版本控制系统。GitHub 是典型的例子,但这可以是包含两种类型存储库的任何系统:
应用源代码
-
平台源代码,例如使用 Terraform
-
-
工作负载规范。参考架构使用 Score。
-
供开发人员交互的门户。它可以是 Humanitec 门户,您也可以使用 Backstage 或市场上的任何其他门户。
-
这个平面是关于构建和存储镜像,从开发人员提供的抽象中创建应用程序和基础架构配置,以及部署最终状态。这是开发人员和平台工程师领域的交汇点。
这个平面通常包含四种不同的工具:
CI 流水线。它可以是 GitHub Actions 或市场上的任何 CI 工具。
-
保存您的容器镜像的镜像 registry。同样,这可以是市场上的任何 registry。
-
编排器,在我们的示例中,是 Humanitec 平台编排器。
-
CD 系统,可以是平台编排器的部署流水线功能 - 由编排器使用 Webhook 触发的外部系统,或与 GitOps 操作员(如 Argo CD)配合使用的设置。
-
监控和日志记录系统的集成因系统而异。然而,参考架构并未关注这个平面。
参考架构的安全平面专注于机密管理系统。机密管理器存储诸如数据库密码、API 密钥或 TLS 证书等配置信息,应用程序在运行时需要这些信息。它允许平台编排器引用机密并将其动态注入到工作负载中。
参考体系结构的示例实现使用 Humanitec SaaS 系统附带的机密存储。
这一平面是实际基础设施所在的位置,包括集群、数据库、存储或 DNS 服务。资源的配置由平台编排器管理,它使用每个部署动态创建应用程序和基础架构配置,并根据需要创建、更新或删除依赖的资源。
当涉及到这些平面的组装时,某些层的集成更直观。例如,平台团队负责将各个平面组件彼此连接起来,以及将一个平面绑定到另一个平面上。端到端流也必须进行测试和优化,以确保无缝集成和最佳的开发人员体验。
所以,我们知道企业级 IDP 可以带来的好处。 我们已经确定了组成 IDP 的组件。 并且我们已经建立了使用开源实现代码快速实现 MVP 的潜力。 但是它是如何协同工作的呢?
通过使用我们的开源工作负载规范 Score,开发人员描述他们的应用程序是如何组合在一起的,并定义它们所依赖的资源。 Humanitec 平台编排器根据平台团队建立的基线配置调整这些请求。 通过每次 git 提交,平台编排器会解释工作负载操作所需的配置和资源,根据平台团队预定义的规则生成应用程序和基础架构配置。 然后,它将按照“读取” - “匹配” - “创建” - “部署”的模式执行它们:
读取:解释工作负载规范和上下文。
-
匹配:确定正确的配置基线以创建应用程序配置,并根据匹配的上下文确定要解析或创建的资源。
-
创建:创建应用程序配置;如果必要,创建(基础架构)资源,获取凭据并将凭据注入为机密。
-
部署:将工作负载部署到针对其依赖项连接的目标环境。
-
就是这样。 您的组织现在有了一种以最快速度构建有效的企业级 IDP 的方法。 用于 AWS 和 GCP 设置的新开源实现代码是平台工程社区的一个令人兴奋的新发展,它将为您节省设计过程中的数小时时间。
准备更进一步接近有效IDP的MVP? 如下所示:
创建您的 Humanitec 帐户。
-
要快速搭建 IDP,请查看我们的参考架构:
-
扩展您的平台知识,探索我们的学习路径。
-
祝您搭建开发者喜爱的 IDP 的过程充满乐趣! | https://yylives.cc/2023/12/04/a-shortcut-to-building-an-enterprise-grade-developer-platform/ |
大型企业的云迁移与平台工程
了解平台工程策略中哪些部分是相同的,无论组织规模如何,以及大型组织需要关注哪些方面。
译自 Cloud Migration and Platform Engineering at Large Organizations,作者 Jennifer Riggins。
随着大型组织向云计算转型,平台工程作为一种促进迁移的有趣方式脱颖而出,并希望能够提前预测和解决迁移过程中通常带来的认知负担。
在 All Day DevOps 的主题演讲中,Google Cloud 的客户工程师 Yonit Gruber-Hazani 分享了她对公共部门经验的思考,以及平台即产品理念如何帮助组织实现迁移。在本文中,我们将总结她观察到的平台工程的一些模式和反模式,并探讨它们在不同规模公司中的相同点和不同点。
Gruber-Hazani 以一个场景作为开场:“想象一下,一个新开发人员加入您的团队。您递给她一台新笔记本电脑,并说:‘这是一台全新的空笔记本电脑,请自行找到并安装所需的操作系统,执行安全强化,设置网络,安装防病毒软件和 IDE [内部开发人员环境],并将自己添加到公司的 Active Directory 或任何用户管理系统中。然后,您就可以开始开发了。’”
当然,现实中我们不会这样做。IT 部门会提前准备好安装了所有必要软件并可以正常运行的笔记本电脑,为开发人员铺平道路。
“我们为他们提供所有他们需要的东西,让他们能够专注于自己的工作,并作为公司的开发人员开始他们的旅程,”她说。
Gruber-Hazani 提到了一个经常触发平台工程的反模式。我们永远不会让员工自己设置薪资和人力资源流程,那么为什么在 Syntasso 的 Abby Bangser 所谓的“非差异但并非不重要”的工作上,我们却要为他们提供如此多的选择呢?平台团队的目标是通过软件开发人员使能来解决这个问题,从入职到发布,为他们铺设一条“黄金之路”。开发团队仍然可以自主地为最终用户创造价值,但他们不需要了解云计算、运维、安全等方面的所有知识。
Gruber-Hazani 说,这种开箱即用的设置方式也适用于新应用程序、新开发人员和新应用程序团队的入职,目的是在他们开始在我们的生产系统中开发应用程序时,为他们提供最佳的开发体验。
这就是为什么大型组织不应该向开发人员或团队展示整个 Google Cloud 平台,尤其不应该展示庞大的开源云原生图景,让他们随意选择使用什么。
她说:“我们不想这样做,因为这样会形成一片混乱的局面,因为 DevOps 团队将不得不管理他们选择的每件事,我们需要支持它,我们需要维护它,并需要进行监控。而且,我们不想给开发人员带来这么多额外的负担。他们只想专注于应用程序及其背后的业务逻辑。”
那么,为什么需要平台工程?答案是:减少开发人员的认知负担,让他们能够达到一种流畅的状态,专注于构建他们的应用程序。
Gruber-Hazani 将开发人员体验(DevEx)定义为:“是让我们每天早上都来上班的原因。是让我们一年又一年地继续工作的原因。它定义了我们在工作生活中的幸福感、成就感,以及在一天结束时对他人的帮助感。它是我们成为人并能够工作的原因。”
DevEx 反过来会影响以下因素:
绩效
-
生产力
-
工作中的幸福感
-
质量
-
留任率
-
她解释了三个用于衡量生产力的DevEx指标:
流畅状态: 即“进入状态”,是指开发人员完全投入并享受工作的状态。平均需要23分钟才能进入这种状态,而等待其他人完成某项任务等因素可能会迅速中断这种状态。
-
反馈循环: 对开发人员的操作作出响应的时间和方式。Gruber-Hazani提到了等待代码重新编译或等待访问另一个虚拟机的例子。代码审查是关闭重要反馈循环的一部分。事实上,今年的DevOps状况报告2023(也称为DORA报告)发现,进行更快的代码审查的团队软件交付性能提高了50%。
-
认知负荷: “执行任务所需的心理处理”,她解释说。“这可能阻止开发人员创造并提供价值。” 不良的文档和手动、不稳定的步骤会增加这种负面开发体验和工作倦怠。而今年的DORA报告发现,高质量的文档可提高25%的性能。
-
去年的StackOverflow调查发现,62%的受访者每天花费超过30分钟搜索答案或解决问题,而25%的人每天花费超过一小时。这种可避免的挫折既会打破流畅状态,又会增加认知负荷,使文档成为各大小公司平台战略的重要组成部分。
如果每个组织的平台本质上都不同,那么是什么共同模式将平台工程的社会技术学科联系在一起呢?Gruber-Hazani列举了以下几点:
可重复的工具和模型,比如基础设施即代码和可重用的CI/CD流程。
-
通过API的自助服务。
-
一对多的“服务自动贩卖机”,特别是在需要为50到100个开发团队提供服务的大型组织中。
-
在警戒线内的平坦道路。
-
组织特定的工作流程。
-
在过去的几年里,Gruber-Hazani在与Google Cloud在公共领域的客户合作中发现,大多数应用都需要相同的警戒线:
监控
-
日志记录
-
调试
-
安全性、身份验证和授权
-
与后端系统的连接(如结构化数据库)
-
优雅降级和故障切换
-
负载分流和限制
-
共享的通用库
-
测试基础设施
-
发布基础设施
-
所有这些通常可以在一个平台或一组平台中解决,以帮助平台团队实现更好地为开发人员提供服务的目标:
驯服技术复杂性
-
降低成本
-
提高开发速度
-
强制执行安全和安全警戒线
-
降低认知负荷、疲劳和倦怠
-
这是通过为生产铺平黄金之路,采用最佳实践和安全警戒线来实现的。这通常包装在服务目录中,或通常是针对不同开发者组的一系列服务目录,这些目录抽象在内部开发者门户后面,比如Backstage或Spinnaker。
“我们希望开发人员更安全、更好、更快地工作。” — Yonit Gruber-Hazani, Google
平台工程与以前的自上而下平台的区别之一是平台即产品思维,Gruber-Hazani表示,这使得每个平台工程师至少是兼职产品经理。这要求每个平台团队平衡:
业务目标
-
内部客户需求
-
产品和团队能力
-
通过这种方式,开发团队能够理解如何更快地交付价值,而业务部门则能够深入了解工程部门通常的大量成本中心。
平台工程中的一个常见反模式是平台工程师也是工程师。这意味着他们可能认为自己最懂,但平台作为产品的思维依赖于与内部用户的交流。实际上,今年的DORA报告发现,专注于用户的团队性能提高了40% —— 无论这些用户是外部付费用户还是内部同事客户。
当你将平台视为产品时,你必须逐步构建,不断向内部开发人员征求反馈。Gruber-Hazani表示,这包括询问开发人员喜欢使用哪些产品、工具和语言,以及他们想使用哪些 —— 这反过来不仅有助于开发体验,还支持招聘和留任。询问你的开发人员是否想转移到容器上,或者他们希望在黄金之路中看到什么样的监控。这条黄金之路必须通过与开发者客户的持续对话来铺设,其中包括:
文档
-
支持
-
用户群
-
使用报告
-
缺陷报告
-
监控
-
站点可靠性工程(SRE)
-
新功能
-
评审
-
但这些都是大多数平台策略中常见的模式。在大型组织中有什么不同?
您的组织越复杂,您的云成本就越复杂。这就是 FinOps 成为云迁移必不可少的工具,以便跟踪和优化谁在云中花费了什么。这种复杂性在大型组织中,尤其是公共部门中会增加,这涉及到复杂的采购流程,包括硬件、服务器和许可。大规模 FinOps 需要预算和警报。这也导致了不同的决策。Gruber-Hazani 以迁移到虚拟机作为降低成本的一种方式为例,或者团队如何使用现货机器来完成无状态工作。
“通常来自数据中心时期的的大型组织仍然保留这些做法,”她解释说,因此要尽早开始 FinOps,但要满足财务部门的现状。
她发现的另一个反模式是从最复杂的系统开始您的黄金路径工作。
“从更新依赖性较少的简单系统开始,将比从具有最多依赖性的最复杂系统开始获得更好的结果,”Gruber-Hazani 说。它还允许早期取得成功,从而培养内部平台倡导者。
这正是团队拓扑学中“最薄可行平台”概念的应用之处,您可以在更小的增量中构建,并通过紧密的反馈循环确保您正在构建和维护您的用户真正想要的东西,而不会太快创建过于复杂的东西,这只会增加技术债务。
在构建黄金路径时,逐步推进也很重要,因为她发现大型组织通常会在平台没有足够的弹性和信心时过早采用高价值服务。
然后,随着平台成熟度提高并进入第 2 天,Gruber-Hazani 说,会出现新的平台团队需求:
SRE 值班轮换和事后调查
-
事件管理
-
更好的 CI/CD 管道
-
基础设施即代码
-
DevSecOps
-
为平台维护人员和用户提供更多培训
-
跨组织架构标准
-
预算策略
-
FinOps 计划和预测
-
贯穿始终的安全
-
最后,Gruber-Hazani 强调,知识可以减少恐惧,因此请花大量时间培养心理安全,始终让您的用户了解您的平台策略方向及其如何帮助他们实现目标。
“我们不是在取代人,”她说,强调自动化,尤其是在大型组织中,会引发对失业的恐惧。这条通往云的新黄金路径必须伴随着新技能的培训。
无论您的组织规模如何,都要不断收集有关内部客户对您的想法的反馈。 | https://yylives.cc/2023/12/04/cloud-migration-and-platform-engineering-at-large-organizations-2/ |
不再是短期热潮,平台工程将长久存在
最新报告显示,平台工程师薪酬水平持续上升,越来越多公司采用了平台工程最佳实践,同时 AI 在平台工程中的应用潜力逐渐显现。
译自 The Hype Train Is Over. Platform Engineering Is Here to Stay,作者 Carrie Tang。
官方消息,平台工程的热潮已经过去,平台工程已经成为新的常态。我们怎么知道这一点的呢?
其实,Humanitec的《平台工程报告》第一卷发表已经整整一年了。这清楚表明了一件事......
与平台工程社区团结一致,我们热切地迎来了《平台工程报告》第二卷的发布。激动吗?你应该会很激动才对。这篇论文不仅透露了社区的最新见解,比如平台工程师的薪资水平,还探讨了组织在多大程度上遵循了平台工程最佳实践以及为什么你需要一个参考架构等相关话题。
这篇报告还深入探讨了一些关键问题和更宏观的思考,比如现在就是开始考虑 AI 在平台工程中的未来作用的时候了。所有这些都支持了平台工程确实已经到来并会持续发展的观点。
准备好了解它具体是如何实现的了吗?让我们深入探讨一下。
在过去的12个月里,平台工程见证了惊人的增长。距离第一次 PlatformCon 2022举办仅一年,它就吸引了超过6,000名与会者。而PlatformCon 2023则吸引了超过22,000名与会者,获得了27个赞助商的支持,并举办了横跨5个新讨论轨道的169场演讲。如今,Platform Engineering YouTube 频道已经拥有近16,000的订阅者,其 Slack 频道的订阅者数量也差不多。
这种前所未有的增长伴随着业界认可度的不断提高。8月份,平台工程进入了 Gartner 软件工程炒作周期的“夸张期待峰值”。这意味着它被视为一项创新,显示出产品使用量的增加,但仍有更多的宣传而不是实际证明了它能提供价值。
从工具的角度来看,Thoughtworks 技术雷达第 29 卷最近将平台编排识别为一种技术和新一代工具,它超越了传统的平台即服务(PaaS)模型。根据 Thoughtworks 的说法,像 Humanitec 平台编排器这样的工具在允许开发者通过配置实现自助服务访问变体的同时,也执行了组织的标准。
就平台工程的增长而言,这只是一个开始。平台工程社区驱动的研讨会、聚会和活动也在增加。我们很高兴看到越来越多的内部开发者平台(IDP)被用来帮助企业加速创新周期,打破上市时间等关键业务指标。
Syntasso 在 2023 年 4 月制定的第一个平台成熟度模型启发了平台工程社区,以进一步了解组织遵循平台工程最佳实践的程度。因此,2023 年平台工程调查由社区创建和针对社区,收集了 296 人的反馈。结果显示,许多组织仍然难以运用平台工程最佳实践。
例如,大多数(64%)的受访者没有变更管理流程。只有 38.1% 拥有经费充足的平台团队,并在自身与开发组织之间有明确的职责划分。仅有不到三分之一(32.3%)的受访者遵循“平台即产品”的方法。
尽管展示工程组织需要改进的地方和方式很重要,但随着平台工程的发展,同样重要的是我们要了解平台工程师这个实际角色的样子。为此,平台工程社区再次求助于社区。
2023年平台工程调查主要在美国和欧洲展开,以收集尽可能多的数据。该报告为我们提供了有价值的见解,揭示了平台工程师的收入、工作生活的样子以及谁实际上是平台工程师。
调查的一个关键发现是,美国的平台工程师平均比 DevOps 工程师多赚 42.5%(65,439 美元)。在欧洲,工资差距较小但仍很常见,平台工程师的平均薪资比他们的 DevOps 同事高 18.64%(15,871 美元)。这种差异可能反映了担任平台工程师所需的更宽广或更专业的技能组合。
注:汇总的数据基于受访者“工作内容”的描述。平台工程是平台工程和开发者体验的汇总。DevOps 是基础设施、DevOps 设置和运维的汇总。
这份报告不仅揭示了平台工程师这个角色的样子,还探讨了团队当今面临的最大和最耗时的挑战之一。在设计 IDP 时,如何从众多可用工具中选择?如何以有意义的方式将它们组合在一起,以确保它们定制适合您组织的需求?
虽然 IDP 的实现各不相同,但常见模式确实存在。受 McKinsey 在 2023 年 PlatformCon 大会上的演讲启发,我在 Humanitec 的团队根据基于 AWS、Azure 和 GCP 设置创建了 IDP 参考架构,其中汇聚了数百个真实设置中的模式。最近,参考架构(基于 AWS 和 GCP)的实现代码已经开源,这使团队能够加快 IDP 设计流程,并在短短 1 小时内而不是几个月内轻松构建最小可行产品(MVP)。 此外,还开发了新的学习路径,以帮助组织掌握其 IDP:
那么,平台工程的前景是什么?根据该报告,我们应该关注大型语言模型(LLM)如何使平台团队能够构建更有效的 IDP。LLM 的用例已经很明显,展示了组织如何以标准化的方式自动化重复任务。这就是为什么现在是开始考虑 AI 和 LLM 对您意味着什么的时候了。这种技术对您有多大用处?它将如何影响您的角色?虽然该技术还有很长的路要走,但是否存在 LLM 完全接手您的工作的可能性?或者人为因素始终是必要的。无论如何,这需要您的重视。
为了抢占先机,该报告包含了下表,其中阐述了一些潜在的 LLM 平台工程用例。哪些适用于您?哪些易于实现,哪些难以实现?
其中一些用例是低悬果实,可以独立部署或与第三方合作轻松部署。至少 95% 的情况下,它们在几周内就可靠运行。其他用例的实现更加困难,需要专业的 LLM 技能,并且需要更长的时间才能变得可靠。
LLM 即将改变我们所知的技术,AI 已经出现在每个 Gartner 炒作周期图的每个象限中。潜在的平台工程影响就是数十篇文章的主题。但它是否已经被积极使用了呢?根据最新的 2023 年平台工程调查,AI 的炒作声尚未被平台工程师在日常工作中充分实现。
可以肯定地说,平台工程已经过了炒作阶段。作为一门学科,它有望持续下去,其目标是设计和交付有效的企业级 IDP。这门学科有望解决当今软件工程组织面临的一些最大挑战,例如阻碍开发者生产力和增加认知负载的复杂云原生环境。通过在设计中确保标准化、实现真正的开发者自助服务和消除工单运维,IDP 可以改造软件交付。通过《平台工程现状》等报告,我们可以继续就关键平台工程主题提供指导和宝贵见解。点此下载完整报告以了解更多信息。 | https://yylives.cc/2023/12/05/the-hype-train-is-over-platform-engineering-is-here-to-stay/ |
像开发者一样思考,助力开发团队更快交付项目
为了加速开发流程,构建内部开发者平台的团队需要深入了解开发过程的内部运作。
译自 Think Like a Developer to Help Dev Teams Ship Faster,作者 Thor Sigurdsson 是 Garden 的工程副总裁兼联合创始人,该公司提供开源 Kubernetes 开发和测试平台。他本质上是一位程序员和架构师,拥有超过 10 年的全栈经验。与他的联合创始人们一起,他致力于...
我于2011年开始专业编程。可以说,在那个时候,大多数公司并未感到有必要构建内部开发工具。
大多数应用程序都是单体应用,你选择的编程语言通常带有一个充满活力的生态系统,其中包括框架、库和工具,为你提供了实时重载、测试自动化、调试器以及编写和发布软件所需的一切。
而现在,你的生产系统包括部署到 Kubernetes 的30个服务,并使用多个托管云服务。使用社区标准工具编写、调试和测试这些系统不再那么直截了当。
创建开发环境,实时重载它们,运行API测试,流式传输日志 —— 所有这些自动化必须通过CI流水线和各种供应商构建的工具拼凑在一起。这导致了很多复杂性、挫折和缓慢的反馈周期。最终结果是,开发人员在开发现代应用程序时很难保持高效。
正因为如此,并为了在整个组织中保持合规性和一致性,越来越多的公司意识到需要一个内部开发平台(IDP)。
虽然如果你的IDP帮助你在开发过程中集中管理合规性和安全性方面的问题,那是很好的。但不要止步于此。你的主要目标应该是开发人员的生产力和幸福感。这是你的公司能够更快地交付高质量软件的方式。
简而言之,将你的内部开发平台(IDP)的重点放在提供开发工作流上,使开发人员能够更快、更顺畅、更轻松地进行迭代、测试和部署。理想情况下,它为开发服务系统提供了与使用语言特定工具开发单一服务时相同水平的凝聚力和质量(尽管这很难实现,但却是一个值得追求的目标)。
了解系统在生产环境中的部署和运行,并不等同于了解它是如何开发的。
正确完成所有这些工作的难点在于,负责构建内部开发平台(IDP)的工程师通常是站点可靠性工程师(SREs)和其他专业工程师,他们的专业知识主要涉及系统在生产环境中的部署,而不是系统的开发过程。
与开发过程相关的工具、工作流、摩擦点以及其他设计约束(例如,代码库的哪些部分难以或容易进行工作)最终会强烈影响系统在实践中的开发、调试和测试方式。而这些实际约束会随着系统的增长和变化而不断地变化和重新对齐。
很多时候,这些知识被嵌入在个别开发团队和开发人员的部落传说以及个体人类大脑的思维模式中。
为了加速开发过程,平台团队需要从内部了解它。从最基本的层面来说,这可以归结为两个原则。
定位公司开发工作流中的瓶颈应该从与开发人员密切合作开始。从他们的视角了解开发和测试过程,而不仅仅是从生产操作和CI/CD系统的视角,是确保他们能够从你的内部开发平台(IDP)中受益并热爱使用它的最佳途径。
这个过程应该始于绘制不同类型开发人员首选工具和工作流的地图。
例如,前端Web开发人员可能更喜欢针对类似生产的开发环境的API进行本地(非容器化)开发。相反,后端开发人员在处理多个服务时可能希望使用Docker Compose,但在处理单个服务时切换到非容器化的本地工作流。这也可能因团队、以及用于各种服务的编程语言或工具而有很大的差异。
随着与来自不同团队的更多开发人员的交流,你将看到主要的开发人员类型和工具偏好的主要集群逐渐浮现。你选择包含在IDP中的工具和产品应该源自与开发人员互动时发现的工作流程和过程。术语“开发者体验”将其中许多工具标记为“Nice to have”,尽管它们对团队快速交付高质量软件的能力有着显著的影响。
每个开发人员都梦想着以思维的速度工作。你越接近这个理想,他们就会越快乐 — 同样,管理层也会如此!
这不仅仅是关于推出功能和达到季度目标 — 开发人员还希望编程感觉神奇而令人振奋。
任何过程的吞吐量都受到其瓶颈的限制。这对化学反应、工厂装配线以及软件交付同样成立。提高吞吐量的最佳途径是解决整个软件交付生命周期中最严重的瓶颈。
如果最严重的瓶颈发生在开发和测试期间,那么不支持实时重载或调试的自助暂存环境在解决为何API测试在你的分支上失败的问题时并没有太大帮助。
由于开发和生产环境之间的差异或缺乏工具,软件系统的某些区域往往很难调试。当一个功能涉及到这些区域时,缓慢和挫折就会产生。
识别(并修复)架构和自动化中的触发点,这些触发点迫使开发人员从快速迭代降级为反复触发缓慢流水线或与不熟悉的操作细节搏斗以重现他们正在编写(或调试)的行为,是创建出色内部开发平台(IDP)过程的关键部分。
深入挖掘指标:你的开发人员在哪里花费了时间?常见的开发和测试工作流中某些关键步骤需要多长时间?它们随时间的推移趋势如何?
一旦你对公司的开发和测试工作流有了足够清晰的了解,你就可以通过数据和仪表板来追踪开发自动化的健康状况。
无论你选择什么工具和方法,都要紧密关注解决开发过程中最严重瓶颈的焦点,重新评估并重复,这将帮助开发人员更快、更轻松地交付。
与开发人员的交流将为你提供洞见:
当一切顺利时,他们喜欢使用什么样的工具和工作流,例如:
前端开发人员使用本地Web开发工具,结合共享API。
-
后端开发人员使用Docker Compose。
-
本地运行单元测试、调试器和其他高效的开发工具。
-
-
触发开发人员使用更慢、更令人沮丧的工作流的触发点,例如:
不能轻松地同时部署他们正在处理的所有服务,而不让Docker Compose资源耗尽。
-
不能轻松地创建具有实时重载的开发环境,以重现刚刚在CI中出现的错误。
-
不能验证他们对破碎的集成或API测试的修复是否有效,而不是反复运行CI流水线。
-
-
在可能的情况下,你的IDP应该尽量通过自动化和功能增强开发人员已经喜欢使用的工具,使他们能够保持在快车道上。
创建一个在所有这些方面都做得很好的IDP可能看起来像是一项艰巨的任务。但是与开发人员合作,找到你当前设置中的触发点,将会缩小你的选择范围并提供一个清晰的前进路径。
在 Garden,我们构建了一个工具,它是使用 Kubernetes 和其他云原生技术构建内部开发平台(IDP)的理想基础。Garden 架起了你的基础设施和开发工具之间的桥梁,在加速、可移植的流水线中编排你的 Dockerfiles、Helm charts 和 Terraform 配置,实现在任何地方运行。快来试试吧! | https://yylives.cc/2023/12/07/think-like-a-developer-to-help-dev-teams-ship-faster/ |
GitHub每日300亿消息处理量的开发者生产力
GitHub以其独特的全球影响力,对开发者体验有重大作用。那么,GitHub是如何衡量开发者效率的呢?我们与GitHub高级工程总监Akshaya Aradhya进行了交谈,以了解她的团队如何提高整个科技公司的开发效率。
译自 GitHub Developer Productivity at 30 Billion Messages per Day,作者 Jennifer Riggins 是一位讲述技术文化故事的记者、作家,以及活动和播客的主持人,帮助分享文化和技术碰撞的故事,并解释我们正在构建的技术的影响。她一直在......
如果 GitHub 被 85% 的软件工程师使用,那么 GitHub 的开发者体验就成为了开发者生产力的套娃。作为全球最大的存储库,仅 Copilot 这个六个月大的 AI 结对编程员就有 1.42 亿 GitHub 用户,这赋予了它独特的能力来全球性地影响开发者体验。
这种规模也使事情复杂化。GitHub 具有 99.9% 的服务级协议,为近 4 亿个存储库中的用户提供服务。这使得全球最大的软件开发平台每天支持难以置信的 400 亿条消息——是的,确实是百亿。
在我们持续不断释放开发者生产力的过程中,The New Stack 采访了 GitHub 的高级工程总监 Akshaya Aradhya,以了解她的团队如何增加 GitHub 整个公司的生产力——这反过来应该可以增加绝大多数技术组织的生产力。
她的团队是 GitHub 基础设施和平台工程组织的一部分——横向支持着整个公司,包括:
应用团队
-
代码搜索
-
GitHub Actions
-
Copilot
-
GitHub Next R&D 团队
-
与 Azure 云的未来合作
-
平台团队由近 300 名 GitHub 员工组成,Aradhya 领导其中约三分之一。平台团队还在他们所做的一切中与另一个主要的横向实体——安全团队有着紧密合作。
她的组织过去被称为数据服务,负责她所说的与数据相关的传统问题,包括数据管道、运营的数据方面以及消息队列。
“我们有 Hydra 和 Aqueduct,它们每天处理数十亿条消息——大约 300 亿条消息,”她解释道,“如果包括上层的开发者生态系统,这个数字会更高。”
她约 120 人的团队还解决 GitHub 内部和外部的所有数据存储问题——对象存储、冷存储、blob 存储——以及数据模式、新一代扩展性问题、生产力问题等。Aradhya 告诉 The New Stack,她的团队关注的是:“我们如何真正倾听开发者的声音,然后与我们自己的应用程序交谈,用我们自己的数据进行测试,学习,然后提出产品?”
然后,他们当然要对一切进行测量以实现持续改进。
“如何提高开发者的效率和生产力,同时确保无缝部署,最大限度地使人们易于解释代码,并自动化人们所喜爱的东西,特别是当你在不同时区运营分布式团队时?” 这一切都让 Aradhya 的团队着迷于使他们高度全球化的开发者团队能够克服最令人沮丧的瓶颈。 “为什么我需要一直等到德国和阿姆斯特丹的人醒来?我被卡住了。”
由于 GitHub 在大流行之前就已经是一家远程优先的公司,其成千上万的工程师成为了很好的首批客户和持续的反馈来源,比如在新人培训上。
“当你进入软件行业时,会被告知‘哦,XYZ 是一名团队负责人’或者‘这是一名高级工程师,如果你不明白代码就询问他们。’然后就是找到那个人的等待时间,为了知识转移而向你解释代码,以及如果你想再次提问却忘记了内容时会产生的尴尬。” Aradhya 说,这对任何人来说都很尴尬,特别是新手,但对许多人来说这简直就是不包容。
“有很多神经多样性社区会说‘这是我的执行功能技能的问题。我希望不会因此而被评判。’”
凭借这种反馈——以及可能来自 GitHub 员工中 30% 自我认定为神经多样性的员工的亲身经历——该团队构建了一个功能,当你选择一段代码时,Copilot 的聊天功能(想象 Clippy 但更强大)将解释代码的工作原理。
“适用于任何 ID。无论你在工作什么。你的 Copilot 会建议方法,并告诉你代码的工作原理。”她解释道,比如确保你没有从不同的类中写错误的方法名。这有助于增强开发者的信心,同时也提高了编写代码的速度,同时减少了引入 bug 的可能性。
这种针对内部开发者反馈的创新就是 Copilot 采用率超过所有预期的部分原因,自去年 6 月首次公开发布以来,美国的 GitHub 用户已有约 92% 的使用率。
这也是 GitHub 全面实践一切的结果,充当第一批客户和测试人员。
“在我们将任何东西推向 GA 之前——甚至是任何东西的 alpha、beta 版本——我们都希望确保它是开发者就绪的。”她说。这体现在 GitHub 的价值观中,其全部围绕促进协作和归属感,这是由持续的反馈驱动的。
“当我们协作时,我们总是会问与生产力相关的问题,比如:你认为 AI 对你的开发者体验有什么影响?我们使用这些信息将其与企业会怎么想联系起来。我们如何帮助企业公司——无论是苹果、沃尔玛、特斯拉还是谷歌——理解和支持工程团队?”
与我们谈过开发者生产力的许多其他组织一样,大量此类反馈都是通过开发者调查收集的。
“当我们谈论开发者体验时,人们往往倾向于将其传统上联系到产品或体验,比如 UI。但它远不止于此。” Aradhya 解释道。“从数学上讲,它是开发者生产力加上开发者产生的影响再加上开发者满意度。如果你把这些全部加起来再乘上一个指数,那么开发者体验就是所有这些的总和,还要更多。”
GitHub 的研究团队随后发布内部博客,并且在早期,他们的 DevEx 见解就参与了产品市场拟合性讨论和高管会议。
GitHub 研究一致认定的早期痛点之一是等待测试完成或构建结束——Aradhya 将其称为死于等待协作:“你如何与人交谈或了解每个人在做什么?你如何自动化代码审查?你如何加快构建速度?你如何处理 bug?”
这就是 AI 发挥作用的地方。实际上,虽然许多人正在夸耀个别开发者生产力的早期收益、更快的事故响应和错误减少,但 2023 GitHub Octoverse 报告(该报告每年调查所有拥有 GitHub 账号的人)的最令人惊讶的结果之一发现,81% 的受访者预计 AI 将增加基于团队的协作。
内部调查也呼应了这一点,GitHub 的开发者要求更多地衡量他们的协作——因为你无法改进你无法衡量的东西。但是如何衡量人与人之间的互动呢?Aradhya 说,这远远超出了 Slack、Jira、拉取请求和文档等基本要求。在开发者生产力领域,这种对协作改进因素的检查考虑了同步和异步通信的广度。他们可以从这些工具和消息队列中获得重要的定量指标。她的团队还关注可发现性的平台工程目标:
你如何知道如何发现某些事物?
-
你如何衡量两个人或团队之间的信息流?
-
你正在处理正确的问题吗?
-
你参加了正确的会议吗?
-
你能保护你的时间以达到开发者流状态吗?
-
在这家远程优先的公司,个人有很大的责任去理解他们的最佳工作方式,并能够自我组织他们的重点时间块。GitHub 会有更高比例的神经多样性队友并不奇怪,因为这是一种非常包容的工作方式。GitHub 还为所有员工提供无意识偏见、特权和盟友训练。
GitHub 的协作指标有意包括了多样性、公平性、包容性和归属感。和大多数技术公司一样,Aradhya 提到,他们在指导妇女和其他技术领域代表性不足的人口方面存在问题。
“我们在指导赞助[和]导师-学员关系方面存在挑战。”她说。不仅在建立正式指导计划方面,而且“我们也存在这样的问题:人们以为他们是别人的导师,但他们为学员创造的价值不够,或者学员并不认可他们可以指导自己。”这种负面经历不成比例地影响那些来自代表性不足群体的人。
为了响应这些反馈,他们建立了更正式的指导过程和培训。
庞大的 Octoverse 报告只是众多内部和外部数据来源中的一项年度调查。虽然团队能够获得定性指标,如著名的 DORA 核心四大指标,但在任何开发者生产力工程旅程中,通常都有定量和定性调查的组合,包括 SPACE 框架和 DevEx 指标。
Aradhya 说,GitHub 研发部门每周快速测试概念验证,几乎是即时反馈。平台和基础设施团队每几周到每季度运行不同的开发者体验调查。她向我保证,决不会是没人愿意回答的三页调查,而是采用更高回复率的较短调查的组合。
“并非一切都需要调查。”她继续说道。例如,产品团队正在不断从客户对话中采取行动,并在活动期间进行快速评级系统反馈。
“我甚至还记得在一个工程领导会议上,我正在午餐休息时间排队等餐车,然后有人看到我的 GitHub 夹克,他们就说,‘你是做什么的?’我说我们支持 XYZ 和 Copilot。我一说完,他们就开始对我提出功能请求,”她回忆道,“等到餐车队伍结束的时候,我已经收到了 18 个不同的意见,我们可以增强或改进的不同产品”,她立即将其反馈给各自的产品团队。
GitHub 是一家以反馈为驱动的公司。Aradhya 说,开发者生产力和开发者体验的度量是高管会议的一个持续话题。
在 GitHub,这些生产力指标包括:
获得用户反馈需要多长时间?
-
异步通信是什么样子的?
-
你能在多长时间内不间断地开展工作,没有会议或中断?
-
你花费多少时间建立新问题的解决方案?
-
你花费多少时间编写代码或修复错误?
-
你多久遇到一次安全或漏洞问题?
-
在新产品发布或更新期间,你花费多少时间用于自我提升?花在他人指导和提升上的时间有多少?
-
你花费多少时间编写自动化测试?
-
你多久切换一次上下文?
-
你觉得自己的生产力如何?
-
她解释说,许多这些更小的内部指标与更大的指标相关联。例如,当 Aradhya 还是一名工程师时,她意识到短期内自己运行一个生产测试会更快,但从长远来看,不编写可重复的自动化测试就是浪费时间。将重复性工作自动化出去是开发者生产力工程的一个重要目标。
她说,和她的团队负责人一起,“我会盘点某些事物涉及的人工接触点数量。”同样重要的是要衡量开发者可以花费在解决独特问题上的创新时间,她说这对留存至关重要。“这是在设计新颖指标——新颖的交流、新的 API、用于所有最新问题。基本上,你是否具有 10 倍的心态,你是否理解客户的问题以及你想用什么方法来解决它?”
这些是 Aradhya 称之为她的团队努力寻找解决方案的“非常规开发者生产力”东西。GitHub 利用这些指标来培养 10 倍开发者的心态,她将其定义为“一位开发者,他拥有远见和技术能力,可以预见他们在长期和短期可能遇到的问题,并且从扩展用户群体的角度来思考问题,超越产品定义的边界或工程领导定义的边界。”
对规模的考虑对 Copilot 的成功至关重要,因为他们预计它一开始可能有 1500 万用户,但很快就明确约 1.15 亿将是一个更接近的估计值——到那时考虑可用性、可靠性和安全性就为时已晚。
GitHub 推出的任何东西都必须具有扩展性。
“一位 10 倍开发者可以预见这一点,然后提供备份,提供 B 部分,帮助技术战略,以便我们可以了解未知的未知。然后根据消费者需求找到一种扩展方法,而不会让代码质量下降。” Aradhya 说。
总的来说,在拥有 GitHub 的微软公司,她说任何人都有机会成为 10 倍开发者,无论层级如何,都可以带来非凡的思维,以及对公司文化和协作的重视。她举了这样的例子:“你是如何扩大周围团队的规模的?你对他们有何影响?你是否以积极的方式改变了团队或公司文化?”
GitHub 关注的另一个开发者生产力指标领域当然是工具,比如寻找回答以下问题:
拥有完全配置的环境意味着什么?
-
在该平台环境之上构建有多容易?
-
GitHub 还收集了大量自动反馈,一直在寻找收紧反馈循环的方法,从验证和合规性检查到帮助开发者了解自己最没有生产力的地方,尤其是将客户反馈传达给开发者,确保他们结合功能请求。
所有这些都是通过持续不断的匿名和认证调查、问题、拉取请求等方式衡量的。
“如果你用调查淹没人们,他们就会停止回答,所以我们在这里要有创造力,”她说,“而且我们还查看内部运行的自己的分析和渠道。”
所有这些结果都与组织的其他成员进行沟通,解释:
“你花在 X 上的时间百分比是多少。我们用 Y 改进了它。然后再次请求反馈。”她解释说,任何人都可以在内部看到这些信息,全世界所有的工程师都可以。 | https://yylives.cc/2023/12/11/github-developer-productivity-at-30-billion-messages-per-day/ |
官方确认:平台工程师的收入更高
平台工程不仅是一项重要的技术趋势,而且在这个角色中的人在IT人才中享有显著的薪资优势。
译自 It’s Official: Platform Engineers Earn More Than You,作者 Carrie Tang 是Humanitec的内容撰写人员。拥有15年的技术背景,她是一个自诩语法怪胎的人,痴迷于叙述故事和将复杂的事情表述简单。在Humanitec,她负责保持人们的兴趣,创作有影响力的文字...
在技术飞速发展的世界中,招聘策略在保持竞争力方面至关重要,尤其是在不断升级的人才争夺战中。因此,我们对我们的重大揭示感到非常兴奋。
在工程薪资领域,一位新的冠军已经崭露头角:平台工程师。根据Humanitec最新发布的《平台工程报告第二卷》的研究结果,这个相对较新的参与者已经掀起了轩然大波,在收入方面超过了其DevOps同行。这一发现不仅突显了平台工程的不断增长的价值,还为深入探讨其在科技行业中日益突出的地位奠定了基础。
最近被Gartner评选为2023年和2024年的顶级战略技术趋势,平台工程位居Gartner的炒作周期之巅。对许多组织而言,它已经从新兴趋势过渡为新的标准。这一认可不仅来自Gartner,还来自CNCF、Google、Microsoft等许多其他机构。这强调了平台工程在塑造未来技术方向中的关键重要性和日益扩大的影响力。
平台工程的崛起主要是由其方法塑造的。它是软件开发、运维、产品管理(以平台为产品)和基础设施的完美融合。但这个多层次的学科不仅仅关乎技术知识;它关乎推动标准化和自动化,以提高软件交付过程的整体生产力和效率。随着平台工程的势头不断增强,公司正在重新思考其软件开发和运维的方法。
主要针对美国和欧洲的Platform Engineering 2023调查,聚焦当前的技术薪资差距。在美国,平台工程师享有惊人的42.5%薪资优势,平均比其DevOps同行多赚65,439美元。欧洲也出现了类似的趋势(程度较小),平台工程师的收入高出18.64%。这相当于每年额外增加15,871美元。
数据来源:Humanitec
注:聚合的数据基于受访者所说的工作描述。平台工程从平台工程和开发者体验中聚合。DevOps从基础设施、DevOps设置和运维中聚合。
这一显著的薪资差异可能源于平台工程的高要求性质。与传统的运维和DevOps角色不同,平台工程需要更广泛且通常更专业的技能组合。这些专业人员不仅仅是在软件开发和运维之间架起桥梁。他们也不仅仅是解决团队或个体问题。远不止于此,他们的工作影响整个组织,通过创新和塑造平台,如果构建得当,将通过解除开发者和运维的瓶颈,缩短上市时间。
对这一薪资差距的认识对科技行业有深远的影响。首先,它可能影响有抱负的工程师的职业轨迹,将他们引导到专攻平台工程的领域。它还可能促使公司思考需要重新评估其招聘策略和薪资结构,以吸引和留住最优秀的人才。
这一趋势还暗示着科技行业就业动态可能发生转变。随着对平台工程专业知识的需求增长,角色可能重新调整,更加关注涵盖更广泛技术广度和深度的技能。
我们的报告结果突显了平台工程师角色日益增长的重要性。他们在收入方面处于领先地位的事实是每个工程组织都应该引起关注和重视的趋势。这不仅反映了他们对整个业务产生影响并缩短上市时间的潜力,而且对一些组织来说,这也表明有必要认真重新思考招聘策略,确保拥有具备正确技能的合适人才,以保持领先地位。
欲深入了解平台工程现状,请查阅Humanitec的完整报告。 | https://yylives.cc/2023/12/18/its-official-platform-engineers-earn-more-than-you/ |
考虑开源的内部开发者门户
专有解决方案很难满足开放解决方案自然提供的功能和支持范围。而基于社区的软件通常在演进速度上很难被单一供应商超越。
译自 Thinking about an Internal Developer Portal? Think Open Source,作者 Helen Greul 是一位工程领导者、演讲者,也是一个致力于打造能够使团队茁壮成长的开发者生态系统的坚定倡导者。她的经历使她从亲自编码逐渐过渡到引导工程和平台团队,为她提供了一种全面的视角...
作为现代软件架构变得愈发复杂,平台工程已经成为一种有价值的实践,以支持软件开发人员的需求并提供他们管理不断发展的基础设施所需的工具。
平台工程团队将技术复杂性防患于未然,释放潜力,并充当粘合剂,为团队之间创建清晰的接口和契约。
与此同时,内部开发者门户(IDPs)也逐渐崭露头角,作为服务于平台工程的前台的工具之一。
IDPs是集中式系统,为开发人员提供构建、部署和管理软件的工具和资源。它们通常充当组织中所有元数据和每个软件项目的项目所有权的真实信息的单一来源,有助于发现并实现团队间无缝协作。
IDPs还可以通过标准化开发工作流程和简化团队以不损害自主性的方式发布高质量代码的能力,为重复性任务提供自动化解决方案。
如今,随着公司规模的扩大和处理不断增加的不同基础设施组件和分散的资源,开发者门户已经成为一项至关重要的策略,使公司能够保持产品开发的速度。
组织在启动其开发者门户时有两个主要选择 — 他们可以自行组装和配置,利用云原生开源领域提供的构建模块(在需要时添加更多价值和功能的潜力),或者他们可以使用专有解决方案。
与任何决策一样,都有利弊,所以让我们深入了解一下为什么我们在 Spotify 认为在启动团队内部开发者门户计划时,采用开源基础是最佳选择。以下是您可能需要考虑的一些因素:
当公司开始增长和扩展时,它们借助内部开发者门户(IDPs)来帮助规范组织中软件的构建方式。预先构建的IDP软件似乎是一个简单的选择,因为它为他们迅速解决不断增加的复杂性提供了一个即时的解决方案。
但是采用这些解决方案可能会在长远内带来挑战,因为它们提供有限的定制性和可扩展性。专有软件依赖于一个供应商来构建和推进其背后的技术,并对您可以推动解决方案的程度设置了限制。
另一方面,开源模型避免了供应商锁定,并且可以在不超出仅解决眼前需求的解决方案的情况下持续扩展。虽然现成的模型可能提供更多的初始指导,但开源模型提供了一个基础框架,具有公司和团队需要进行扩展的灵活性。
此外,利用开源的内部开发者门户(IDP)模板,能为平台工程团队提供丰富的插件组合 — 这些插件是可以集成到开放平台中的独立软件功能,以满足公司在基础设施和软件开发方面的各种需求。由充满热情的工程专家构建和维护,插件允许在组织演进时进行无与伦比的定制和功能扩展。
最好的利用这种灵活性的方式是首先确定你的团队面临的最大问题或拖慢速度的障碍。
一旦确定了最初的挑战,围绕解决方案构建你的IDP就变得更加容易,将其扩展以适应相关和连续的问题的路线图变得更为清晰。这还提供了更清晰的投资回报率(ROI)洞察,并确保你的团队能够有效地推出它。
当你采用开源解决方案时,你不仅可以利用内部开发团队的贡献,还能够访问整个开源生态系统的贡献。这意味着你可以获取到公司之外存在的广泛专业知识和经验。
与开源技术互动使你能够深入了解你所依赖的技术如何运作以及如何为其改进做出贡献。
例如,Backstage,Spotify于2020年捐赠给云原生计算基金会的IDP,拥有全球超过1,200位贡献者。这些贡献者定期提交错误,添加新功能,并构建有价值的插件,使每个采用者受益。
专有解决方案很难与开源解决方案自然提供的功能和支持范围相媲美。而基于社区的软件的演进速度通常难以被单一供应商超越。
开源贡献者投入他们的时间来构建和维护许多组织所依赖的技术,因此向开源社区回馈也同样重要。培养一个支持和维护开源项目的环境,确保开源社区的资源和健康能够持续繁荣。这不仅有助于更好的产品,而且促进了多样性。每位新的贡献者都为改进开发者体验和效能所面临的挑战带来了独特的观点和经验。
在一天结束时,所有的内部开发者门户(IDPs)都需要文化转变来实现技术对齐,因此重要的是你以同理心的态度与开发者合作,共同创造对他们有意义的解决方案。开源门户鼓励这一点,因为它们允许灵活地构建和调整平台以适应开发者的需求,而不是相反。 | https://yylives.cc/2023/12/18/thinking-about-an-internal-developer-portal-think-open-source/ |
产品经理是否伤害了平台工程?
你的平台工程团队需要产品管理,但这并不意味着它需要一个产品经理。
译自 Is Your Product Manager Hurting Platform Engineering?,作者 Steve Fenton 是 Octopus Deploy 的八爪鱼员工,是 DORA 社区的指南,也是一位有二十多年软件交付经验的六次 Microsoft MVP。他撰写了关于 TypeScript(Apress,InfoQ)、Octopus Deploy 和 Web 运营的书籍...
几乎所有的平台工程师都同意,你应该把平台看作是一个产品,把开发者视为客户。优秀的平台将是那些能够优雅地解决现实世界问题的平台,而不仅仅是满足平台工程师的需求。
随着这一认识的共识,普遍的建议是应该设立一个产品经理。然而,在云原生计算基金会(CNCF)社区的最近一次讨论中,对于平台团队的产品管理,挑战了这种千篇一律的指导。
当人们说你需要一个产品经理时,他们指的是你的团队必须具备一定的技能,必须完成产品管理任务。例如,你需要让平台专注于其用户,并能够评估功能是否带来了预期的好处。你需要将平台引入组织中的团队,并向他们展示它如何帮助他们。
你不需要一个产品经理来实现产品的关注;在某些情况下,添加一个产品经理可能是适得其反的。
创业公司通常是由一小群对解决特定问题深感兴趣的人组成的。许多技术创业公司是在开发人员发现某个令人沮丧的问题并开发工具来解决这个问题时创建的。
当这些开发人员能够将他们特定的第一手经验推广到与形状相似的其他人有着独特问题的人群中时,一个优秀的产品就会诞生。他们不仅仅解决自己的具体用例;他们可以解决整个一类用例。
这些工程师具有产品思维。他们能够结合直接的从业者知识和他人的信息,找到创新的方式来改进许多人的工作。
这就是 Octopus Deploy 的诞生方式。2010年,Paul Stovell 感到很沮丧,因为在许多其他软件交付任务已经实现自动化的情况下,部署仍然如此痛苦。为什么构建和测试自动化是一个解决的问题,而部署却是一团糟呢?
将个人的沮丧转化为商业成功的关键是产品思维。
Paul说:“客户的反馈就像氧气一样。它为产品开发过程中的创新提供动力。你发布一些东西,听取反馈,然后发布其他东西,因为你已经建立了对用户未满足需求的更深刻理解。如果让开发人员与这个至关重要的反馈之间有所阻碍,就会扼杀创新。”
从第一天开始就有一个产品经理可能会降低你的平台团队的氧气水平。反馈可能会被过滤、延迟或误解,大大降低其价值,使良好的结果变得不太可能。
平台工程师应该沉浸在反馈的充分、精确的细节中,并利用它来丰富对客户试图完成的任务的理解 — 以及在完成这些任务时客户服务不足的地方。这有助于平台团队创建创新解决方案,可能解决多个未满足的需求。
在这里,你不必使用“需要完成的工作”(Jobs To Be Done,JTBD)框架。关键细节在于,通过沉浸自己在客户需求中,你可以提出解决许多痛点的想法,而不是陷入解决问题之后的特性工厂陷阱。
你需要理解广泛的问题集,以制定一个适当抽象的解决方案。
这是推迟甚至避免添加产品经理的一个引人注目的理由。
虽然很容易想象当你的平台达到全面采用、被分拆为子公司组织并以其命名的会议时会发生什么,但值得理解的是规模并不是你添加产品经理的原因。
平台团队的目标应该是在规模上解决有价值的问题,同时以次线性的方式扩展自己。这意味着让更多的开发人员对采用黄金路径感兴趣,而不是试图为每种可想象的情况创建路径。
当团队基于想要你的平台提供的支持而做出选择时,你就可以在不必包含新技术堆栈的情况下进行扩展。这比通过支持神秘的团队选择来获得进一步采用更可取。
如果客户团队扩展,你的平台团队不应该受到影响。
在整个行业中存在一个问题,即软件管理者认为他们的工作是阻止程序员分心,以便他们能够花更多时间敲代码。结果,越来越多的软件开发人员从未与用户或客户交流。这导致了脱节的路线图,对正在开发的产品没有增值。
如果你需要扩展你的平台团队,保持平台工程师与平台用户之间的直接沟通至关重要。你可能会发现,重新组织成基于路径的团队可以帮助你在不失去与客户联系的情况下实现增长。
当一个软件团队变得繁忙时,非编码任务逐渐消失。结果可能是误导性的生产力倡议,也可能只是对不同活动的不同庆祝。例如,当团队完成一个功能时,会有蛋糕;但当有人从客户那里获得有价值的见解时,却是沉默。
当团队陷入“提交近视”时,他们开始制作没有人想要的功能。当组织庆祝增加功能的速度时,即使这些功能没有价值,问题就会变得更为严重。个体贡献者对组织重视的工作类型非常敏感,并将进行相应的优化。
对于平台团队来说,非编码贡献必须像新功能一样受到高度赞扬。
如果问题是工作没有得到重视,产品经理就像一块创可贴。
2023年《加速 DevOps 现状报告》确认,以用户为中心的团队胜过以功能驱动的团队。这是直接融入你的平台工程工具集的基石。能够与内部开发者平台的用户保持高带宽反馈的团队将花更多时间致力于有价值的功能。
在某些情况下,添加一个产品经理是正确的选择,但有时这会削弱团队的力量并破坏成果。
产品管理是必需的。但并不总是需要一个产品经理。 | https://yylives.cc/2023/12/23/is-your-product-manager-hurting-platform-engineering/ |
三位一体:云原生、DevOps和平台工程
云原生、DevOps和平台工程都是十分繁杂的概念,其边界不断延伸,有许多重合的部分。三者的出发点却并不相同,却可以形成有机的整体。
云原生基金会关于云原生的定义如下:
云原生技术有利于各组织在公有云、私有云和混合云等新型动态环境中,构建和运行可弹性扩展的应用。云原生的代表技术包括容器、服务网格、微服务、不可变基础设施和声明式API。
这些技术能够构建容错性好、易于管理和便于观察的松耦合系统。结合可靠的自动化手段,云原生技术使工程师能够轻松地对系统作出频繁和可预测的重大变更。
可以看到云原生的目的是“够构建容错性好、易于管理和便于观察的松耦合系统”,而采用的方法包括“容器、服务网格、微服务、不可变基础设施和声明式API”,而这一些还有个前提,需要是在“在公有云、私有云和混合云等新型动态环境中”。
这不像一个定义,倒是像一个“万能”盒子,似乎可以容纳任何“正确的”方法。不过这个定义与实际情况匹配,开发与运维面对的问题很多,并没有单一方法来解决。人们在实践中可能发现某个工具很好用,然后渐渐发现其背后的思想是成功的关键,于是这个思想被挖掘出来成为一种方法论,然后衍生出更多的工具。一个很棒的例子就是 Kubernetes 的声明式 API,以及其实现方式 Operator,许许多多的工具,都借用了这个思想,实现了自己的 Operator,共同组成了了一个松耦合的复杂的系统。这些方法最后成为了云原生的一个方法。
可以看出来,“云原生”只是告诉你这有一套方法很好。工具提供者可以用这个方法开发工具,最终用户应该用云原生的工具。但是基于这个思想的工具太多了,该如何选择组合成了一个大问题,所以云原生基金会给大家展示了这样一个图景:
可怕,所以做好云原生的一个关键问题是如何选好工具,这就要求 CTO 和架构师需要持续关注云原生解决方案,需要更多的同行沟通,这也是为什么我们的公众号“云云众生s”为什么要一直给大家介绍一些工具。
不过,任何事情想做好,都不仅仅是技术的问题,许多云原生践行者,尤其是在传统企业实践的同僚一定对此深有体会。云原生聚焦于技术,并没有太多的意识形态因素,但不知不觉中技术改变了人的协作关系,由此引发的问题需要有别的方法来解决。
与云原生相比,DevOps 有着众多存在差异的定义,先看看 Atlassian 的定义:
DevOps 是一套实践、工具和文化理念,可以实现软件开发团队和 IT 团队之间的流程自动化和集成。它强调团队赋能、跨团队沟通和协作以及技术自动化。
DevOps 运动始于 2007 年左右,当时软件开发和 IT 运营社区开始担忧传统的软件开发模式。在此模式下,编写代码的开发人员与部署和支持代码的运营人员会独立工作。DevOps 这一术语由“开发”和“运营”两个词构成,它反映了将这些领域整合为一个持续流程的过程。
可以看到,相对于云原生比较关注方法和工具,DevOps 包含了“实践、工具和文化理念”三个方面,但是其突出的价值观是什么,可以从其起源追溯。Atlassian 在 DevOps 历史中写到:
尽管敏捷开发方法已兴起,但多年来,开发团队和运营团队仍然处于孤立状态。DevOps 是协作工具和实践的进一步发展,以更快速地发布更优质的软件。
关于 DevOps 的起源,马丁·福勒的 Bliki 中有以下描述:
Agile software development has broken down some of the silos between requirements analysis, testing and development. Deployment, operations and maintenance are other activities which have suffered a similar separation from the rest of the software development process. The DevOps movement is aimed at removing these silos and encouraging collaboration between development and operations. 按照此文的说法,DevOps 解决的问题是“敏捷开发”的不同角色的竖井问题,而不仅仅是运维和开发两个组织的沟通协调问题。此外,”敏捷开发“这个词也隐含的说明 DevOps 的前提是敏捷开发,即使不是,也可能如 ThoughtWorks 网站上所提到的需要考量这些因素:
而且,DevOps 并不是打从一开始就适合每个组织——组织可能必须要做出一些改变。应时刻将康威定律铭记于心——这是一句格言,指出组织所设计的系统反映了组织自身的沟通结构。 这意味着,如果您使用一个大型单体应用程序来运行绝大多数业务关键应用程序,那么 DevOps 可能不适合您的组织。DevOps 最适合那些能够将工作分解成一个团队可以拥有的若干离散小块的组织。
确实如此,并不是每个组织都能开展 DevOps。一个组织的部门墙越高,越难以实施 DevOps。
尽管不同的组织对于 DevOps 的定义有许多差异,但从前面的描述中,我们也能发现 DevOps 是敏捷开发的延伸。较早采用 DevOps 的组织本身的部门墙不高,开发人员的眼界和能力都比较好,所以能够快速的吸收运维方面先进的最佳实践,DevOps 实践也能实现比较好的效果。
但是对于大多数组织来说,未必有着这样高能的开发人员,由”Dev“人员推动的”Ops“可能并不专业,再加上高高的部门墙,推动 DevOps 阻力非常大。
面对 DevOps 在传统企业的这种不适,许多厂商也推出了改良版的 DevOps 理念。或者打着 DevOps 的旗号推出了许多 DevOps 产品,这些产品回避了 DevOps 中”麻烦“的部分,聚焦于工具,或多或少发挥了一些作用,尤其是在开发团队中,但是往往没有把能力延伸到运维阶段。
还有许多组织,成立了一个专门的 ”DevOps 团队“,负责DevOps工具和实践的开展。这样可以,但是这与开发团队把控自己运维的原则有一些背离。
面对企业级研发的现状,需要有一个新的指导方法来解决 DevOps 的问题。
DevOps 运动已经有了 15 年的历史了,但对于大多数企业来说,并没有实现全面的 DevOps,也没有享受到其好处。这种自治的 DevOps 团队不仅没有改善组织的交付水平,反而带来了许多安全问题。
另一方面,随着云原生技术的发展,创建”平台“不再是一件难事。一个围绕平台的社会技术管理实践应运而生,这就是平台工程。
分布式计算中的平台是为多种用途提供通用支持能力和服务的层。平台为获取、使用和管理这些功能和服务提供一致的用户体验,包括 Web 门户和页面、特定于场景的代码模板、可自动化的 API 和命令行工具。
可能用一张图更清楚:
这里说的平台,大家公认的是内部开发者平台(Internal Developer Platform, IDP)。
这个平台成为平台团队与应用团队新的分工界面之所在。团队之间的协作会调整为以下结构:
运维团队的专家会变成赋能团队,主要职责是将能力集成到平台。原来许多手工的运维工作,已经在平台上实现,而相关的人则可能要进入平台研发团队,负责将运维工作抽想到平台。当然,可能也需要一个平台产品经理把控平台的方向,这可能是原来运维经理的角色。
平台隐藏了包括 Kubernetes 的基础设施的复杂性,也将最佳实践封装,因而研发团队可以更轻松的按照业务需求构建自己的基础设施环境,又不必担心违反了安全规定,或者是没有遵守最佳实践。研发团队可以通过平台提供自助服务完成自己的大部分任务,可以为自己的应用”负责“,这与 DevOps 的原则相符。
那平台工程中的”平台“与之前的平台的区别是什么?我觉得有几个方面。
平台的用户不同。传统的平台的用户可能是运维团队,而内部开发者平台的用户是开发者,也就是应用团队。
-
两个平台的建设者不同。传统的平台往往是单独的研发团队研发,这个团队最强的能力的是开发。这个模式的一个原因是之前的工具比较原始,需要较高的抽象才能运行,对研发的要求更高。这个模式的一个问题是运维知识与平台的分离,作为平台的使用者,他们的知识并不能很好的集成到平台上。而内部开发者平台的则是偏向运维的平台团队建设,各类运维专家更加清楚日常有哪些任务,可以更好的结合运维专业知识。
-
平台的建设思路不同。传统的平台往往是专注于能力封装,也就是将以前各种运维任务简化。而内部开发者平台则更注重实际的研发流程,关注如何帮助开发者快速的实现自己的目标。
-
如果说 DevOps 是从敏捷开发向运维的延伸,那么平台工程则是来自管理层对于 DevOps 的回应。就像以前的 ITIL 一样,现在可以从组织架构的角度开始设计,而不必像 DevOps 那样倒推改革。
现在我们再来看一下为什么是三位一体:
云原生技术为构建平台提供了能力。对于大多数组织来说,在没有云原生相关的技术之前,构建自己平台的难度是非常大的,但现在云原生给许多组织近似的能力。
-
DevOps 为协作提供了文化基础。越来越多的案例证明,传统的开发运维分工不利于高效的交付产品。鼓励交流协作的 DevOps 文化已经成为了现代应用交付的基石,即使有了平台,也需要不同的团队保持相近的文化。
-
平台工程则在组织层面给出了指导方针。平台工程概念的推出,让许多有相似想法的人有了共同的术语,可以为这个目标一起协作,从而实现整个行业的改变。
-
如前面所述,这三个概念有着许许多多不同的演绎,但是在本文我希望大家抓住各自的重点,能够体会到三者对我们这个行业的意义。
平台工程是我们期望的一种状态,云原生是我们达到这个状态的工具,而要实现这个状态,需要我们每个参与者永远保持 DevOps 的协作精神,这就是三位一体。
关于“云云众生s”公众号,我写下的简介是“云原生践行者”,而在相关博客( https://yylives.cc/ )中,写的是“献给云时代的小人物们” ,当时的我感觉要为云原生时代的 IT 人做点什么,但是并没有很明确说出来。通过梳理这个文章,我发现可以做的事情包括:
介绍各种解决方案
-
给大家一个共同讨论的平台
-
汇聚大家的声音改变这个行业
-
第一个正在做,但是目前看来,最需要平台工程的组织还没有接触到足够多的信息,还需要努力。后两个要怎么做还没有那么清楚,可以先从加我的微信(rocksun21)开始。
业内也有很多人和组织也在做类似的事情,例如信通院搞的”平台工程标准“,还有蚂蚁等企业牵头的”平台工程“组织,大家可以共同推动。 | https://yylives.cc/2023/12/25/cloud-native-and-devops-and-platform-engineering/ |
以人为本构建运营弹性
把弹性工作交给IT部门的一个小团队来"处理",这种做法看似容易,但缺乏整体参与。弹性本质上是企业的适应力,需要全员买进,并在各部门积极推动。只有这样,企业才能真正培养面对变化的敏捷与抗风险的韧性。
译自 Why People Should Be at the Heart of Operational Resilience,作者 Richard Gall 是英格兰东北部的一位作家和研究人员。他目前是爱丁堡大学的研究生,正在学习数字社会学,并且是“我们谈论何时......”的共同主持人。
在2019年的混沌工程会议上,谷歌工程师 David Rensin 认为 “我们的软件和硬件系统并不是我们日常生活中最复杂的分布式系统。我们的公司才是。”
Rensin 继续指出,这意味着“大多数...大型分布式系统的复杂性不在软件或硬件中,而在人类中。”
他继续讨论了一个有趣的想法,那就是将混沌工程原则带入“人际系统”——比如,在一个特别困难的系统问题的那一天,让一个团队成员缺席。
Rensin 的想法未被广泛接受,真是可惜。虽然在后疫情时代,弹性这个词似乎被更广泛地使用,但仍然存在一种观念,那就是它终究是一个技术问题。
没错,运营弹性可能业务至关重要,甚至是生死攸关。但是对于软件团队之外或边缘的人来说,很容易认为弹性和可靠性问题简单地会由对的人解决。
当然,这绝对不是事实。如果弹性是关于适应和响应变化的能力,那么它必然是一个人的问题。
“人类是软件中适应的机制,因为按照设计,我们的程序和机器本身不能自我适应。” Fastly 的高级首席 Kelly Shortridge 在与 The New Stack 的谈话中指出,她也是“安全混沌工程”的作者之一。
换句话说,简单地试图分离弹性的人性和技术成分是没有意义的——它们必然是紧密关联的。
对于 Jeli 的 CTO Will Gallego 来说,弹性需要被理解为不同于鲁棒性。鲁棒性是软件的一个品质,而弹性是关于人与软件工件的互动如何响应变化的方式。
他在给 The New Stack 的电子邮件中表示:“鲁棒性是技术系统如何构建,以抵御预期情况。弹性是工程师即时运用专业知识来诊断故障模式,并查看可能缓解压力的模式。”
诚然,注意到人类和技术是紧密交织在一起没有什么新颖之处。“社会技术”这个词是在 20 世纪中期由科学家 Eric Trist、Fred Emory 和 Ken Bamforth 创造的,具体描述了技术工件、组织结构和人类如何相互作用和塑造彼此。
然而,由于一些原因,它在今天具有特殊的紧迫性。
第一个原因是软件系统日益复杂。基于云的系统和服务,特别是那些使用微服务以及与这种方法相关的日益扩大的工具和平台生态系统的模块化和组合服务,这意味着这个领域的从业者通常在处理互联的服务和应用程序困境,而且通常只能部分理解。
第二个原因是数字化转型的推进在近年来由于 COVID-19 大流行的影响而加速,这意味着这些系统被深深嵌入并交织在人们的日常生活中。换句话说,世界对这些产品和服务的要求更高,并期待它们始终可用。
与此同时,当然还有一个事实,那就是软件现在以不同的方式构建。特别是 DevOps 改变了关于谁负责什么的期望。
根据 Blameless CEO Jim Gochee 的说法,随着“服务的所有权转移到构建该服务的开发人员身上”,我们现在有了一“新品种的响应者”,他们承担着过去可能由支持工程师或更近期的站点可靠性工程师(SRE)完成的工作。
接受“你建设,你运行”的精神并不一定是坏事,但将其变成一种爱好可能很容易导致我们进入一个地方,那里故障和缺陷成为个人的责任。这对任何人来说都不是好事,无论是人类还是技术。
Shortridge 说:“如果一个系统的弹性依赖于人类永远不犯错误,那么这个系统实际上是脆弱的。” “人类的成功在于我们的创造力和适应能力;我们成功不是因为我们擅长每次都以相同的方式做同样的事情,或者可以记住清单上的 50 件事而永远不会忘记。”
虽然 DevOps 本意是试图打破壁垒,但它可能促成了对失败的更广泛的组织不适——一种控制和最小化风险的愿望。Shortridge 声称:“许多组织在存在感上挣扎,希望防止任何坏事发生。”
她补充说,这最终“是一个不可能实现的目标......这是一个恶性循环,害怕出错的恐惧导致方法变得缓慢和笨重,这反过来实际上增加了出错的可能性,并阻碍了从故障中快速恢复的能力。”
Gallego 甚至更直接地陈述了这个问题:“人们会说‘安全是我们的首要任务’。但是保持完全安全的唯一方法是关闭系统并回家。安全受到环境约束和业务需求的挑战。”
鉴于当前全球经济形势对组织造成的压力,组织对失败感到焦虑并不令人惊讶。事实上,围绕开发人员生产力的近期辩论与运维弹性息息相关;认为只要开发者做正确的事情(编写代码),组织就能成功的想法,以及我们需要消除开发者面临的障碍的想法,最后都过于强调个人的用处,而没有考虑到整个系统的健康。
这对许多组织来说可能具有挑战性,Shortridge说:“接受失败会发生,我们需要快速变化的能力,人为错误代表着更好的设计机会——这对组织来说通常是一个哲学上的飞跃。”
鉴于改变围绕人在弹性中角色的文化思维模式的挑战性,扩大其范围似乎有点奇怪。然而,思考工程团队(开发或运维)如何嵌入到更广泛的组织结构中,可以帮助我们广泛思考弹性。
事实上,它甚至可以帮助我们更多地强调运维弹性的社会技术性质。
Gallego 认为运维弹性“贯穿整个组织。你可能不会让你的销售团队跳进一个事件中来启动服务器,但知道你将要进行营销活动会影响网站承受更重负载的能力。所以提前进行沟通可以让人们评估系统的部分来进行压力测试,就潜在的故障模式与流量模式分享专业知识。”
他对 The New Stack 表示,这在某种程度上是 DevOps 的一个关键教训,行业应该更深入地考虑。“一旦你开始消除这些团队之间的壁垒,你会问自己:‘我们为什么不多与支持聊天?与我们的数据科学团队或我们的公关团队?’”
同样,Gochee 指出弹性需要其他团队的参与,从支持到销售。“假设这是季度末,有许多公司在试用,网站在试用期间宕机。现在这些公司就会‘嗯,我不知道,如果你有可靠的服务,我可能会退出并决定不买。’”
他说,其影响可能很大:“你刚刚影响了销售团队,这将影响奖金、佣金、工资单、生计。” 最终,这会通过层级结构上升。“它升级到首席执行官,谁通常会说,‘好的,我们有一个巨大的问题,像,这是怎么回事?为什么它没有得到解决?’”
Gochee 和 Gallego 都强调了这些不同职能之间的沟通和透明度对弹性的重要性。
例如,设想一下,“你在一个角色中,听说网站宕机了”,Gochee 说。 “知道它正在及时解决问题,然后知道事后我们进行了深入调查,了解了为什么会发生这种情况,这很好。”
特别重要的是,我们不应该认为这些事情微不足道。沟通无疑总是我们面临的挑战的明显答案,但 Gallego 指出,在组织环境中,这需要实际的精力和工作。
他引用了“胶水工作”的概念。这个词被博主兼 Squarespace 高级首席工程师 Tanya Reilly 普及,指的是接待新团队成员、与用户和其他团队交谈并保持事情向前发展的工作,并指出这种劳动通常是“不可见的”。
更重要的是,它通常不会得到补偿。Gallego 指出:“人们不总是通过避免失败获得升职。” 技术界太常有围绕员工加班和周末跳入火场扑灭火灾的英雄文化。它们是轻而易举的,立即感受到,但当你不知道情况本可以多糟糕时,做工作以避免问题却不会激发同样的情绪。”
因此,运维弹性的一个重要步骤是确保认可和认可这种“胶水工作”。
第一步也许是创建一个完全致力于弹性的角色。
Gochee 说:“如果没有领导者来做这件事,它通常不会被完成。” “工程副总裁通常没有带宽来担任运营副总裁、基础设施副总裁或 DevOps 副总裁。他们忙于 1,000 其他事情,以至于永远无法真正完成它。”
这似乎与弹性所依赖的大量角色的重要性相矛盾。但重点是,它需要有人来领导所需的流程、工具和思维方式,以便有效地进行运维弹性。
但是组织为了应对运维弹性的挑战实际需要什么?部分是关于准备。
Gochee说:“你要为此进行培训,准备工作。” “通过提供剧本,可以简化他们的工作,所以当你第一次进入一个事件时,你不需要弄清楚该做什么。”
在某种程度上,这与 Rensin 关于向人际系统注入一点点混沌的观点有些相似之处——确保人们即使在某人不可用的情况下也知道该做什么。
“这就像生活中任何类型的紧急灾难计划。” Gochee说。他解释说,拥有剧本至关重要。他们应该概述什么应该发生以及谁需要参与以减少过程中的不确定性或缺乏清晰度。
事实上,确定谁应该负责开发剧本可能很困难。这强调了拥有可以倡导弹性举措和资产的领导职位的价值。
Gochee 指出,运维弹性培训和准备的真正价值在于它为个人和团队提供的心理条件。在发生意外事件时,人们很容易恐慌:“你的杏仁核会被劫持,”他说,这会触发逃跑或战斗反应。
Gallego 和 Shortridge 也强调了心理层面,特别强调心理安全感。
Gallego说:“从事这项工作的最佳文化是将心理安全作为核心功能,停止不前。” “你能否提出富有挑战性的想法?团队的高级成员是否愿意传递权力,以让其他人成长?当事故确实发生时......它们是否被束之高阁?”
当 The New Stack 询问 Shortridge 什么样的组织在运营弹性方面表现良好时,她对 Gallego 的回应非常相似:他们拥有奖励好奇心和透明度的文化,在那里“团队以谦逊的态度不断了解自己的系统”。
她说,这些组织“犯错本身并不可耻;拒绝从错误中学习并坚持现状才是问题所在。”
不承认这一点的组织不仅伤害了员工,还破坏了弹性。这些观点在其他地方也有所反映——在今年早些时候发表在 The New Stack 上的一篇文章中,Honeycomb.io 的员工 SRE Fred Hebert 写道,当有新的工程师加入团队时,明确表示“我们预期不知道发生了什么,这很正常,责任是共享的,我们充分意识到他们所处的情况”。
明确的是:虽然人的弹性至关重要,但我们不应忽视社会技术概念的技术部分。Shortridge 在这一点上尤为明确,并认为平台工程对于未来实现运维弹性至关重要。
Shortridge说:“如果我们想持续软件的弹性,我们需要确保应用程序开发人员尽可能不用考虑弹性。” “这意味着我们需要平台工程团队思考弹性,就像他们已经考虑可靠性或生产力一样,以便他们可以构建使开发人员以弹性方式快速轻松地进行开发的平台、工具和模式。”
这并不意味着在开发人员和平台工程师之间建立一个新的鸿沟。重要的是确保组织中的每个人——无论是内部还是外部的工程职能——都具有所需的工具和知识,并感到安心面对模糊不清和不确定性,以便在发生意外时做出反应。因为意外肯定会发生。 | https://yylives.cc/2024/01/01/why-people-should-be-at-the-heart-of-operational-resilience/ |
年度总结:平台工程依然依赖电子表格
您需要内部开发者平台(IDP)还是开发者门户网站?这取决于您与谁交谈,以及您在平台工程进程中已经走了多远。
译自 Year-in-Review: Platform Engineering Still Run By Spreadsheet,作者 Joab Jackson 是The New Stack的高级编辑,负责报道云原生计算和系统运维。他报道IT基础架构和开发超过25年,包括在IDG和Government Computer News任职。在此之前,他是一名自由作家,为《连线》、《MIT技术评论》等刊物撰稿。
我们带着平台工程可以缓解现代开发者面临的复杂性的认识进入2023年,但我们在年底意识到,我们仍需正确设置工具链以支持这种实践。
这是本月早些时候平台工程门户提供商Port发布的2024年内部开发者门户状况报告的重要结论。
该报告源自对100名全职IT专业人员的调查,他们在拥有150名或更多员工的公司工作,包括平台工程师、开发者体验专业人员、平台产品经理和站点可靠性工程师。
调查发现,对新兴的平台工程实践有广泛的支持,但受访者在认为将平台工程的优势带给开发者所需的工具方面存在分歧。
一些人需要一个完整的内部开发者平台(IDP),无论是开源的还是商业的。一些人只需要一个门户,为开发者提供对他们已经可以访问的所有资源的访问。
而在至少35例受访者中,开发者必须查阅电子表格来了解如何访问所需服务。
Port责备使用Excel作为某种原始服务目录的做法。
“使用电子表格不应视为真正的内部开发者门户,因为它的高度手动性质和缺乏开发者自助服务功能,”报告指出。
调查发现,较小的公司倾向于内部构建目录,而较大的组织正在踢踢商业IDP或门户的轮子。
实际上,研究表明,一个组织的开发者人数越多,它需要一个开发者门户的可能性就越大,TNS分析师劳伦斯·赫希特(Lawrence Hecht)指出。他认为,根据环境和使用的微服务的复杂性,在拥有50名或更多开发者的公司,门户开始成为一个有价值的命题。
门户和IDP都是平台工程的物理体现。
Red Hat开发倡导者乔舒亚·伍德(Joshua Wood)。
就像Kubernetes简化了分布式系统的工作负载管理一样,IDP承诺简化开发者从这个云原生环境中获取所需资源的方式。
“开发者门户的想法现在有一种流通性,”红帽开发者倡导者乔舒亚·伍德(Joshua Wood)上个月在波士顿的红帽峰会上在一次技术演示中说。
“我们正在努力使开发者体验更像我们为了获得部署弹性和这些容器编排集群中的大量自动化而做出的权衡复杂性之前,”他解释道。
伍德规定,再次讨论门户(十年前行业小风潮后的短暂时期)是很奇怪的。但鉴于当今新开发者可能进入的复杂环境,它们很快可能变得必不可少。如果不花费无限的时间先针对其环境然后针对最终的生产设置来配置它,他们如何使用Kubernetes等工具?
对许多人来说,设置IDP意味着基于Spotify的Backstage进行构建。
Spotify开发Backstage,最初是内部开发,以响应开发者对某种服务目录的需求。当该公司在2020年开源此软件时,它将该软件包标记为构建开发者门户的开放平台。
工程师这样描述它:“Backstage使用单一、一致的UI统一您的所有基础设施工具、服务和文档。所有的!想象一下,如果您的所有工具(GCP、Bigtable、CI管道、TensorFlow Extended和堆栈中隐藏的任何其他内容)都具有相同的、易于使用的界面会怎么样。”
云原生计算基金会在2022年3月接受Backstage作为一个完整的孵化项目。
Red Hat自己进入这个领域的是Red Hat Enterprise Hub,它在5月作为测试版发布。准备就绪时,它将是一个企业范围的Backstage版本,一个预填充了建议的应用程序链接。
Hub在OpenShift上运行,主要通过Kubernetes API。但Backstage本身不特别针对OpenShift甚至Kubernetes。它也可以在容器或裸机上运行。
尽管最终用户将是开发者,但IDP的管理落到平台工程师身上,后者使用它来确保所有最佳实践、常规配置和策略编码都烘焙到IDP中,尽可能减轻开发者填写YAML文件的负担。
伍德说,IDP是一个“您的开发者用来组装代码”的平台。
Backstage基于插件运行,可用于管理应用程序和服务(以及提供仪表板小部件、CI/CD集成、文档生成器等)。应用程序和服务可以打包成目录。模板为服务和应用程序提供公司特定的设置说明。
渴望进一步了解平台工程空间的新手可能会被术语绊倒,许多人想知道IDP中的“P”代表“平台”还是“门户”,这种困惑肯定是由机会主义厂商和信息不足的贸易刊物所鼓励的。
“P”代表平台,尽管您仍然需要某种门户作为界面。
提供企业级IDP及其Platform Orchestrator的Humanitec将IDP定义为“由专门的平台工程团队构建和交付的企业平台层,以消除复杂性(而不移除上下文)并启用开发者自助服务。”
门户可以是平台的对外部分,但它本身不是平台,Humanitec的Luca Galante在帖子中澄清道。
但是,在许多情况下,一个组织已经有某种平台,无论它是否被称为IDP,Port CEO Zohar Einy在2月的The New Stack上写道。它可能是一个电子表格。它可能是一些可怕的内部构建的服务目录,但组织中某处已经编码了大量的平台工程,并且可能需要或可能不需要实际的全面改造。
“您可能不需要构建一个平台;您只需要使其变得更好。您面临的真正问题是,给定它是平台工程栈中最成熟的元素,您是否应该在平台之上使用内部开发者门户,”Einy写道。
然而,更大的图片很清晰,讨论表明平台工程正在获得支持,可能以DevOps从未实现过的方式。
回到Port“2024年内部开发者门户状况”调查。它发现100名受访者中有99名表示他们的组织已经开始实施平台工程。
“几年前,我们经常在DevOps调查中看到同样高的水平,但进一步调查发现,他们的DevOps成熟度还很低,”TNS分析师赫希特说。
在这种情况下,实施平台工程的54%是在过去一年进行的。与美国相比(70%对37%),欧洲受访者在过去一年开始的可能性几乎是两倍。
除电子表格用户外,50%的受访者组织正在使用内部开发者门户,另外35%计划在未来一年内这样做。
“尽管这项研究规模较小,但发现与2023 StackOverflow开发者调查数据的结果几乎相同,其中47%的微服务用户利用开发者门户或其他中心位置来查找工具/服务,”赫希特指出。
为什么设置开发者门户?最常见的答案是提高软件质量(48%),其次是46%的受访者提到了开发者生产力。调查显示,由于缺乏平台工程,70%的受访者表示他们每天要花3到4个小时用于非核心工作。另有8%的人说,他们花费的时间甚至更多。
但是,他们节省了多少时间还有待观察。
“几乎所有量化采用平台后实现的潜在节省的研究都集中在公司没有平台之前和之后的比较,”赫希特写道。 “在现实生活中,鲜有真正的无前例情况。”
TNS分析师劳伦斯·赫希特为本文做出了贡献。 | https://yylives.cc/2024/01/01/year-in-review-platform-engineering-still-run-by-spreadsheet/ |
为什么开发者体验是企业发展的战略重点?
良好的开发者体验可以解决许多似乎难以用其他方式解决的棘手问题。
译自 7 Reasons Why Developer Experience Is a Strategic Priority,作者 Nočnica Mellifera 在转入开发者关系之前是一名开发人员,有 7 年的经验。她擅长容器化工作负载、服务器less 和公共云工程。Nočnica 长期以来一直倡导开放标准,并就此进行了演讲和研讨会......
当我刚开始从事软件开发工作时,有一些“红旗”表示我不想加入某个团队。一旦我知道团队文化很好,环境也感觉熟悉,我有两个大问题:
你们多久发布一次代码?
-
发布一次要花多久时间?
-
有些答案真的让我大吃一惊。我受邀加入的最酷的项目承认他们已经 18 个月没有把新代码发布到生产环境了,而且他们知道至少还需要 6 个月才能发布他们当前的候选版本。在你问之前,不,他们不是在做火星车! 当我向朋友们解释我因为他们从不上线就放弃了这个梦想中的项目时,有些朋友感到困惑: "Nica,如果工资很好,工具也很有趣,发布频率又有什么关系呢,每天还是每年一次?"答案涉及到一个软件工程的基本真理: 编写、测试和部署代码的体验对工程师的幸福感有巨大的影响。
当我刚开始作为程序员工作时,每个办公室都有一个啤酒桶和一个乒乓球台,大多数还有弹球机。花几千块钱让开发者开心对公司来说绝对是物超所值的。我们这个行业正在意识到,开发者做自己工作的体验比任何花哨的饮料或办公室玩具更重要。
这就是为什么开发者体验成为市场领先的工程团队的核心价值,特别是从事云原生、微服务环境的后端工程师的开发者体验。通常,最能从良好的开发者体验中受益的领域,也是工程领导者最关心但感觉难以掌控的事情。没有人想错过最后期限,以预计速度的一半交付功能,但软件开发始终是一个复杂的领域,只有通过赋能我们的工程师,我们才能让其成功。
开发者体验(DevEx)指的是软件开发人员在日常工作中遇到的整体环境、工具、实践和文化。它涵盖了从设置开发环境的便捷性,到工作流程的效率,到工具和流程的有效性,以及整体的支持其创造性和技术努力的工作文化。
当人们想象一个伟大的开发者体验时,他们想象的是直观的工具和实践,这些工具和实践使开发者能够专注于编程和解决问题,而不是被程序上的低效或技术障碍所拖累。从本质上讲,DevEx 是关于提供一个支持性的框架,让开发者能够发挥最佳工作效果、创新并为他们的项目和组织的更广泛目标作出有意义的贡献。
良好的 DevEx 可以帮助你留住开发人员更长时间,并发现他们更致力于任务。它帮助你的开发人员更多地了解和关心你面临的业务问题,而不是你所克服的技术障碍。回顾和演示将包括更多“我们加快了 80% 最终用户的界面速度”而少“这周我们终于弄清楚了如何将 AWS Lambda 与 NAT 网关连接起来”。在正确的时间拥有恰到好处的工具可以使一个运营良好的商店成为一个真正令人愉快的工作和协作环境。
关注 DevEx 非常重要,主要有以下几个令人信服的理由:
提高生产力可能是改善 DevEx 的最直接影响。当开发人员拥有正确的工具、流程和环境时,他们可以更有效地工作。这导致了更快的开发周期、功能发布的更快周转时间以及更敏捷的维护和错误修复。
拥有最佳工具和实践并在一个支持性环境中工作的开发人员更有可能进行实验和创新。
在 Uber,开发人员部署体验的流畅性,让开发人员可以安全地针对生产环境测试服务,是使产品团队能够在几周内而不是几个月内推出新的人工智能匹配和路径查找策略的工具的一部分。开发人员可以几乎以提交拉取请求的速度测试代码,结果是为用户带来了远超竞争对手的新体验。
更好的输出质量和创新可以带来更好的产品质量,可能会有突破性的新功能。
在竞争激烈的科技行业,吸引和留住熟练的开发人员是一个重大挑战。卓越的 DevEx 是顶尖人才在找雇主时关注的关键因素。以提供出色 DevEx 而闻名的公司更有可能吸引和留住该领域的最佳人才。
良好的 DevEx 可以导致更有效地利用资源,从而减少运营成本。这包括由于更好的测试和开发实践而减少调试和修复问题所花费的时间,以及与开发人员流失相关的成本降低。
关注 DevEx 表明公司重视其员工及其工作环境。当 DevEx 做对时,它在您的工程团队中将产生支持采用新工具和实践的倡导者。Romaric Philogene 谈到了早期采用开发者平台如何建立强大的团队文化:
“这些早期采用者可以提供宝贵的反馈,在公司内部倡导您的平台,并通过他们的认可推动有机增长。”
这可以带来更高的员工满意度和更强烈的归属感,这对长期成功至关重要。
在快速变化的技术环境中,快速适应的能力至关重要。改进 DevEx 意味着开发团队可以更快地响应市场变化、客户需求和新趋势。
当我们询问现代软件开发的软件延迟原因时,一个常见的答案是“回归、回滚和其他带外故障”。从本质上讲,当我们部署似乎正常工作的代码,但发现它在生产中中断时,识别问题、记录它并让工程师解决它的过程要比如果您早点识别问题要慢得多。开发者体验对于降低这种风险至关重要。更好的 DevEx 通常意味着更好的测试和质量保证流程,这有助于在开发周期的早期识别和降低风险。这可以防止日后出现昂贵的故障或安全漏洞。
良好的开发者体验可以解决的问题往往是其他任何方式都感觉最难解决的问题。没有任何管理者可以声称他们总是知道吸引和留住技术人才的最佳方式,或者他们如何确保功能永远不会延迟。这些问题之所以感觉难以解决,是因为其原因不容易量化。
我们都知道有竞争力的薪酬有助于留住优秀人才,但是让工程师在一年后跳槽的原因很少是钱、工作时间或任何可以输入电子表格的问题。相反,这与开发人员的日常工作中的软性方面有关:她正在处理的问题感觉上有多有趣,当测试没有检测到问题时她感到多沮丧,以及控制运营成本有多难。这些挫折感往往是留存率低的原因,而开发者体验可以帮助解决它们。
当然,任何软件团队负责人的圣杯都是有些模糊的开发者速度。我们希望工作感觉就像黑客马拉松,早上原型化新功能,下午测试。我们希望客户反馈被视为宝贵的资源,而不是积压日志中的更多垃圾。通过强大的开发者体验,我们赋予工程师构建他们需要的工具并与用户反馈灵活变通的能力。
在本系列的下一部分,我将讨论开发者体验的核心原则和流程,以及如何衡量成功。
如果您想加入一个在高水平上实现 DevEx 的社区,并讨论获得平稳测试和部署体验的策略,请加入 Signadot Slack 社区,与其他试图提高开发者速度的人连接。 | https://yylives.cc/2024/01/10/7-reasons-why-developer-experience-is-a-strategic-priority/ |
2023平台工程概览
Humanitec CEO Kaspar Von Grünberg 在 The New Stack Makers 播客中表示,为开发者创建“黄金路径”不仅让开发更便捷高效,也可以让运维工程师从中受益。
译自 Best of 2023: What’s Platform Engineering?,作者 Heather Joslyn 是The New Stack的主编,她特别关注与软件开发人员和工程师相关的管理和职业问题。她之前担任Container Solutions的主编,这是一家云原生咨询公司... 来自Heather Joslyn的更多文章
平台工程是去年最热门的话题之一。如果你想快速了解平台工程,Kaspar Von Grünberg(Humanitec公司创始人兼CEO)在2023年1月对平台工程的讨论是一个很好的切入点。Von Grünberg还在9月与The New Stack再次讨论了平台工程以及创建“黄金路径”为开发者带来的优势;可以查看他与Joab Jackson的对话。
"平台工程是设计和整合组织内不同的技术和工具到一个黄金路径的艺术,这为开发者提供自助服务并减少认知负荷。" Humanitec公司创始人兼CEO Kaspar Von Grünberg在The New Stack制造者播客的这一集中说。
Von Grünberg说,这种结构对于个人贡献者以及后端工程师都很重要: "如果你看运维团队,它减轻了他们重复事情的负担。所以平台工程师构建和设计内部开发者平台,并帮助和服务用户。"
这次由Heather Joslyn(TNS特色编辑)主持的对话深入探讨了平台工程:它是什么,它如何工作,它要解决的问题,以及如何在你的组织中开始建立平台工程操作。它还揭露了一些关于这个概念的关键谬见。
本集由Humanitec赞助。
“你自己建造,你自己运行”的概念首先是由亚马逊首席技术官Werner Vogels在2006年的一次采访中提出的,其建立了开发者应该“拥有”他们应用程序整个生命周期的理念。但是Von Grünberg说,在当今微服务快速增长和多个分布式部署环境的时代,这可能并不现实。
“我们今天运营的规模完全不同”,他说,“应用程序也更加复杂。”他补充说,端到端的所有权是一个“高尚的梦想,但对个人贡献者不公平。我们要求开发者同时去做太多事情,然后我们都在抱怨产出不够或交付不够快,但我们没有使他们更容易交付。”
通过平台团队创建内部开发者平台(IDP)来创建“黄金路径”,不仅可以减轻开发者不必要的认知负载,根据Grünberg说,还可以帮助使他们的代码更安全和标准化。
对于运维工程师,他说平台工程的采用也可以帮助他们摆脱重复做同样任务。
“如果你想知道查看平台工程是否是个好主意,我推荐去你的服务台看看你收到的工单,”Von Grünberg说。“如果你有这样的事情,比如‘嘿,你能调试下这个部署吗?’和‘你能立即启动这些重复请求吗?’这可能是个好时机来退一步问问自己‘运维人员是否应该花时间做这些手动工作?’”
对于有兴趣采用平台工程的组织,Humanitec的CEO攻击了关于这项实践的一些最大的误解。其中最重要的是: 没有像对待任何产品一样对待自己的平台,从研究客户需求开始。
“如果你考虑我们将如何开发一个软件功能,我们不会坐在房间里做一些假设然后建造东西”,他说。“我们会去找用户,然后实际采访他们,说‘嘿,你有什么问题?什么是最紧迫的问题?’”
他说,平台工程新手还拥抱的其他误区包括“可视化” - 相信所有的开发者只需要另一个华丽的新仪表板或门户来查看 - 以及相信平台团队需要从一开始就全力以赴,立即扩大规模。他说这样的努力“注定失败”。
相反,Von Grünberg说,“我总是倡导从一个非常小的开始,想出什么是最低的共同技术分母。是用EKS的容器化吗?完美,然后就专注于此。”
不要忘记特别关注那些早期使用者,以便他们可以成为该产品的传播者。“让他们成为粉丝,以正确的方式优先考虑,然后将其展示给其他团队,作为一个‘嘿,你想加入吗?好的,我们可以构建的下一个很酷的事情是什么?’” | https://yylives.cc/2024/01/11/whats-platform-engineering-and-how-does-it-support-devops/ |
领英分享其开发者生产力框架
领英的新开源软件开发框架将硬数据与人文因素的重要性相融合。
译自 LinkedIn Shares Its Developer Productivity Framework,作者 Mary Branscombe。
在远程工作、大规模离职潮、AI编码助手以及2023年科技行业近25万人裁员的背景下,开发者生产力仍是一个棘手的话题。
寻找阻碍开发者、改善开发者体验以及确保开发者拥有正确的访问权限和工具来处理永无止境的积压工作的瓶颈和挫折感,所有这些努力都应该帮助企业和开发者实现双赢。今年,Atlassian 报告说,告诉其开发者将10%的时间用于“改善让他们的日常工作感到糟糕的事情”,取得了良好的结果。
但是,衡量开发者生产力并不像听起来那么简单。做错了,它可能会感觉像是侵入式的密切监管,从而潜在地增加开发者的职业倦怠率,而职业倦怠率几乎没有从疫情高峰期下降。或者衡量过程最终被利用,甚至可能损害整体代码质量。
一些生产力问题,比如缓慢的开发基础设施或者规划足够强大的机器来运行要求苛刻的开发者工具,最好集中处理。关于发布速度、代码质量或协作的问题,可能需要针对具体团队来解决。但是您该如何找到阻碍开发者的因素,并检查改变事物的方式是否最终使他们变得更好呢?
LinkedIn 希望它刚开源的开发者生产力与幸福(Developer Productivity and Happiness,DPH)框架能对此有所帮助。该框架描述了LinkedIn用于建立其用于理解开发者、工程工作的成功(或失败)以及注意力应聚焦于何处(如其开发者见解中心)的系统的指导方针。
Max Kanat-Alexander 是 LinkedIn 开发者生产力与幸福的技术主管之一,他向 The New Stack 解释了其工作方式。“当您与工程主管交谈时,他们常常会告诉您‘我真的想帮助人们提高生产力,但我不知道从哪里开始。我不知道问题出在哪里,也不知道我的投资会在哪里获得最大回报’。真正拥有数据和反馈可以让您做到这一点。”
Kanat-Alexander 之前是 Google 的代码健康状况的技术主管,在那之前是 Bugzilla 项目的首席架构师,所以他已经在开发者生产力领域工作了近20年。他告诉我们,近几年,软件行业对利用数据和反馈来提高开发者生产力和幸福感的兴趣显著增加。“关于数据和反馈的这整个课题真的已经蓬勃发展。”
选择从DORA(DevOps研究与评估研究小组)和SPACE(GitHub和微软完成的工作,将DORA从最初的功能指标扩展到包括满意度和幸福感;表现;活动;沟通和协作以及效率和流程)等框架中跟踪指标列表的诱惑确实很大。DORA已经从最初的四个指标(部署频率、变更前导时间、变更失败率和服务恢复时间)扩展了非常多,而SPACE有一个可能的指标矩阵——但将这些指标视为菜单会是一个错误。
“大多数情况下,最有效和最成功的指标将非常具体于一个团队及其情况,”Kanat-Alexander警告道。
“试图找到一组通用的指标模板在提高组织的生产力和真正使开发者的情况变得更好方面效果几乎总是很差。”
“人们需要的是一种定义自己指标的方法: 他们需要理解如何提出指标。”这就是DPH框架试图提供帮助的地方。
图片来源:LinkedIn;LinkedIn的团队会追踪在整个公司中使用的指标组合以及一些针对特定团队的指标:DPH框架可作为找到您自己团队可能的指标的指南。
DORA和SPACE等框架中的指标显然很有用,但它们可能过于宏观,您需要实现指标并收集其他数据才能使其对您自己的情况有用。
考虑端到端交付变更的时间,这看起来是一个不错的跟踪指标。“这可能显示了一个非常大型公司在非常宏观的层面上的变化。但是要了解驱动这些变化的因素,您需要更多的信息,而且还需要非常深入地理解开发者生产力。”即使有了所有这些信息,开发者所做的工作对最终指标的影响也可能并不明确,而一个更具体的指标可能会提供更多信息。
“您可能能够拥有另一个非常明确的指标,它显示了某些与您正在做的具体工作高度相关的改进,并真正展示了您的工作对业务的价值,同时也使您能够了解最大的痛点在哪里,这样您就知道自己正在尽可能做最有影响力的工作。”
同样,代码审查的响应时间也是一个有用的指标,它与代码更改的大小密切相关:“与大小的关系非常线性”,Kanat-Alexander指出;“随着更改变大,获取快速响应变得更加困难”。如果您决定跟踪复查响应时间以提高复查吞吐量,则可能需要按语言、框架或生态系统分拆指标,但更重要的是要知道您在优化什么以及为什么,因为鼓励较小的代码更改可以提高软件速度;这也是一个容易被操纵的指标。
“您必须拥有数据并查看数据,然后与开发者交谈并询问‘这是一个问题吗?缓慢的代码审查时间是一个您关心的问题吗?代码审查工具中是否存在今天的障碍?’如果您没有告诉我们这是一个问题,而我们为您提供了一个解决方案,您会欣赏它吗?您甚至会使用该解决方案吗?”
“首先要从您的开发者那里了解他们认为存在什么问题,然后再检测该领域。”
尽管该框架包括LinkedIn本身使用的一些指标的示例,但它们有意放在讨论的最后,讨论从用于选择这些指标的目标-信号-指标方法开始。
“目标实际上是最重要的,而这些目标在组织结构图上下都是更容易保持一致的,因为您始终可以问为什么。对于任何目标,您可以说:这为什么是我的目标?如果您一直玩这个游戏,就像一个不停地说“为什么为什么为什么”的两岁小孩,最终您会达到公司的使命。”
对于组织和管理者来说,正确的指标可以帮助理解需要改变的地方,特别是在资源有限的情况下,他指出。“我们要做什么,什么最阻碍开发者,如果我只能指派有限的人来做这项工作,最有效的工作是什么?”
避免收集的数据无助于您做出决策的虚荣指标——毕竟,收集数据的初衷就是为了做出决策。组织必须愿意利用这些指标进行系统性变革,而不是试图将其用于个人绩效评估。“您必须始终拥有您愿意变差的指标,因为那时您会发现问题,而且指标也才会有效,”Kanat-Alexander指出。
“坏消息的大好消息是它提供了您最佳的机会。这是您可以改变和采取行动的事情。”
框架不仅讨论生产力,您不应对此感到惊讶。“开心是一个非常重要的信号,领导者需要关注。人们有时会认为这是某种温情脉脉的东西,您想让人们开心,而他们会说‘我不需要员工开心。我只需要员工工作。’如果您研究一下,很难区分生产力和幸福感。它们息息相关。”
“问题从来不是‘我自己如何编码得更快?’而是我们作为一个团队,一个组织或一个业务,应该以我们所能达到的最高质量,并尽可能快速地前进,同时让每个人都开心。因为开心的人更有生产力,有生产力的人更开心,开心的人会创造更好的产品。“
“几乎所有人都感觉更好意味着公司更有效地实现其目标。”
将幸福感和生产力放在一起思考也有助于解决将抽象指标与阻碍开发者生产力的问题相联系的问题,他建议。
“很多时候您会发现,某人认为某项指标代表生产力,但开发者并不认为做那件事代表他们的生产力、影响力或创造价值。幸福感给了您这样的洞察力:‘嘿,你漏掉了什么’;也许您在衡量错误的东西。’ 很多时候,幸福感信号实际上是一个比定量生产力信号更广泛和全面的信号。”
人性因素很重要,因为软件工程,特别是在大型组织中,最好把它看作是一项团队运动;开发者遇到的问题既是人际问题也是技术问题。这可能是团队目标不明确,或者组织结构不高效。“也许他们参与了大量的调整会议,或者没有明确的计划过程;这最终会占用大量本可用于软件开发的时间。”
无论您是否认为现在每家公司都已经是软件公司,您可能会发现糟糕的开发者生产力实际上暴露了组织更深层次的问题。“理论上,这些数据绝对可以帮助您做出更明智的决定,以便使组织更加关注。”
但该框架也鼓励每个人都要实事求是。如果有人告诉你拥有这些数据实际上不会对他们的行为产生任何影响,那么你就知道这个指标不值得收集,分析也不值得进行。 | https://yylives.cc/2024/01/15/linkedin-shares-its-developer-productivity-framework/ |
IDP让开发者更自由地编码
Red Hat的Markus Eisele表示,在充斥着人工智能、安全考量和法规的IT世界中,内部开发者平台解放了许多单调乏味的任务。
译自 IDPs Give Developers More Freedom to Write Code,作者 Jeffrey Burt 是一名拥有三十多年经验的记者,过去的二十多年专注于科技报道。在过去的 16 多年里,他曾在 eWEEK 工作,并在此后成为一名自由科技记者,涵盖了从数据...
当Markus Eisele在本世纪初开始时,正值互联网泡沫开始破裂,软件开发者的生活相对简单。
“我很幸运地开始接触应用服务器和一些大部头的书,基本上概述了如何在Java中完成各种任务,”现任红帽(Red Hat)高级首席技术营销经理的Eisele告诉The New Stack。 “我事实上是在一堆API上构建我的职业生涯,因为技术很少改变。那时候是一个平台,一个应用服务器,可能还有一两个供应商,我们一直在谈论供应商锁定,但那基本上就是全部。”
快进几十年,开发者的世界变得更加复杂。大型团队开始扩大规模,新的方法论如敏捷(Agile)和极限编程(XP)出现在舞台上,Kubernetes和微服务等技术带来了新的服务、分解和复杂性程度。Eisele称之为“你来构建它,你来运行它”的这种独特人工混合,使开发者对在生产环境中运行某些东西负有责任。
同时,不断增长的法规数量继续因地区或行业而异,比如GDPR、HIPAA和PCI DSS等,以及拜登政府在2021年颁布的关于网络安全的行政命令14028,其中包括使用软件清单(SBOMs)的规定。类似的,欧盟数字运营韧性法案(DORA)于2022年底获得批准。
所有这些都预示着随着人工智能(AI)、机器学习和自动化的加速采用以及网络攻击数量和复杂程度的增长,这一切将继续积累。
“人们开始意识到在说‘敏捷’和‘DevOps’之间存在很大的差异,而真正做到敏捷和DevOps是不容易的,”Eisele说道。“这就是我们很多客户所处的位置。基本上他们不是Netflix,不是Facebook,也不是Amazon。从规模上来说,是的,但从技术上来说,他们无法以那种方式执行,不是因为他们不想,而是因为他们受到了严格的法规限制。”
在开发领域,推动的方向已经变成了弥合已被证明为高效和灵活的方式与日益增长的政府法规和要求之间的差距,他说。开发者是每个现代公司需要做的事情的核心,因为他们正在提供业务价值。
管理复杂和分布式技术环境、保持符合监管要求的负担使开发者心力交瘁,阻碍了他们做他们最喜欢的事情:编写代码和创建软件,Eisele说。
在过去的几年里,诸如内部开发者门户之类的解决方案已经出现 —— 这是存储有关软件开发运营、工作流程和分散发展环境中所有必要知识的中心化场所。还有黄金路径模板 —— 有时被称为“铺平的道路”或“铺平的路径” —— 为开发者提供了一个高度定义和支持的途径,配备了工具和流程,以更快地构建软件并将其交付到生产环境。
最近,内部开发者平台(IDP)已经出现,为简化开发流程提供了另一种方式,通过将必要的工具集中在一个地方。内部开发者平台网站称IDP“由平台团队构建,用于构建Golden Paths并实现开发者自服务。”
根据红帽(Red Hat)的说法,“通过巩固和简化开发过程的各个要素,IDP的基本目标是使开发团队的日常工作更加可管理、高效和协作。”
它们为所有开发团队提供了标准化的工具和服务,自动化任务,如设置开发环境和配置构建流水线,为开发者提供集中的协作场所,以及遵循最佳实践并符合安全和监管要求的治理框架。
应用开发者是主要使用内部开发者平台(IDP)的人员,运维团队负责初始配置和维护。整个过程始于运维团队“通过设置基准模板来创建IDP,这些模板在视觉上整合了开发过程的各个元素并管理权限。然后,开发者可以调整这些配置并启动完全配置好的环境,”该公司写道。
IDP与内部开发者门户一起工作,后者解决用户体验并充当与平台的界面。
“当你考虑到所有必要的下游技术时,平台方面基本上是不可避免的,”Eisele说。“门户只是着陆的地方。它可能为您提供视图 —— 插件或文档管理或遗留的CCMDB(变更和配置管理数据库)或其他服务注册。”
他补充说,“真正的价值体现在您能够提供一个完全集成的体验,不仅从UI和前端的角度,还包括一直延伸到基础架构。”
IDP供应商Humanitec在去年的一篇专栏中指出,McKinsey and Co.概述了平台内的五个架构层面,其中大多数至少包括开发者控制、集成和交付以及资源平面,监控和安全是可以添加的其他层面。
推动对内部开发者平台(IDP)不断增长的兴趣的原因之一是将文档、自动化和监控集中在同一位置,Eisele表示。内部开发者平台还使得DevOps团队能够更好地平衡应对不断增长的安全和法规要求以及在竞争激烈的环境中持续创新、迭代和更新的需求。
基本上,开发者不必过多担心确保他们的软件安全且符合规定,可以更多地专注于软件开发的创造性一面,即使人工智能提出了新的挑战。组织需要知道用于训练大型语言模型(LLMs)的数据是否符合版权和许可规定,这些信息可以通过IDP传递给团队。
目前,人工智能开发和更典型的软件开发实际上是两个分开的生命周期,尽管它们相似但使用了不同的术语。然而,Eisele表示他预计“所有的人工智能炒作最终都会回归到与应用开发非常接近的东西,以便可以轻松地集成在同一平台上。”
将所有这些工具、信息和服务集中起来,能够减轻开发者的很多琐碎任务,这可能解释了为什么IDP越来越受到关注。红帽看到了越来越多的客户首次采用IDP,Eisele预测这一趋势将继续。他还预计这一趋势将继续朝着平台方法而非以门户为重点的倡议方向倾斜。
对于像 Eisele 这样的老派开发者来说,能够更专注于编写代码是内部开发者平台(IDP)带来的巨大优势。
“最终,[IDP] 减少了不必要的日常任务量,” Eisele说。“只需想象一下你平常使用的浏览器打开了 50 个标签。最终,这将减少到一个标签,因为你确切地知道自己需要去哪。... 这在精神负担上是显著减轻,因为你可以确切地知道需要点击哪里来获取某些信息,因为对于你所工作的每个服务,对于你所工作的每个应用程序,这都是相同的。”
“你可以真正回到高效的状态。” | https://yylives.cc/2024/01/27/idps-give-developers-more-freedom-to-write-code/ |
平台工程助您摆脱供应商锁定
VMware变革不可避免,及时开启转换至关重要。
译自 How Platform Engineering Can Help Solve Vendor Lock-In,作者 Luca Galante 是Humanitec的产品经理。他每个月都会与数十个工程团队进行交流。他将从查看数百个DevOps设置中汲取的经验教训总结为全行业可读的简洁且有见地的文章,...
去年,Forrester预测有20%的VMware客户会放弃该生态系统。随着Broadcom以610亿美元收购VMware,看来这种情况正在迅速发生—大量VMware客户突然受到一波变化的影响。数以千计的VMware客户突然遭遇了大量产品被取消、永久许可证被放弃以及预期成本大幅增加的情况。
这并不令人惊讶,因为随着新老板的到来,业务重心也会发生变化。根据《华尔街日报》的报道,Broadcom已经明确表示,其目标是“完全关注其顶级600家客户的需求和优先事项”。这就让剩下的30多万客户,其中许多客户对VMware产品有着高度依赖,正面临着一个非常不确定的未来。
为此,三家平台工程公司——Humanitec、Thoughtworks和Bechtle Competence Center AVS——联手帮助VMware客户通过平台工程和模块化内部开发者平台来建立一个简单可靠的退出通道。
这些变化对您的影响程度取决于您正在使用的VMware技术以及您的集成策略。总共有三种不同的使用案例:
案例1: 您正在使用Tanzu作为K8s基础。Tanzu Kubernetes Grid(TKG)可能在VMware或任何云提供商上运行。
-
案例2: 您正在使用Tanzu Application Service(TAS),即旧的Pivotal Cloud Foundry(PCF)。您在VMware或任何云提供商上运行。
-
案例3: 您正在使用Tanzu Application Platform(TAP),并且您与VMware内置的诸如Mission Control或Wavefront等所有特殊功能深度集成。
-
第三种情况的用户将面临最高的锁定,第一种情况的用户锁定最低。根据您的谈判能力以及您被锁定在VMware产品中的程度,您极有可能会看到大幅提价和所有产品线上的产品开发与支持下降。
如果您不能完全确定自己是VMware会优先考虑的这600个核心客户之一,那么开始退出VMware生态系统的进程对您来说至关重要。
案例1最简单。它有一个快速且努力最小的迁移路径,涉及到模块化内部开发者平台的转型。这可以在很短的时间内完成。
案例2更复杂,但是仍然很容易实现。您将用云原生构建包替换TAS的构建包,然后用平台编排器编排它们。
案例3是最具挑战性的,但也是识别VMware退出路径最关键的,因为这是VMware会收紧的地方。由于您的流程与机群管理、运维工具和可观察性的集成,会带来额外的复杂性。
我们在一份详细的白皮书中讨论了所有这些情况,您的风险以及迁移和缓解选项。如果您是VMware超过30万客户中的一员——还未受到这些变化的影响——那么理解这些变化势在必行,开始有效过渡的时间非常紧迫,这一点很重要。
Broadcom为收购VMware支付的610亿美元是一笔巨额资金,而Broadcom意图收回这笔资金。
立即下载该白皮书并开始规划您的脱离(https://humanitec.com/whitepapers/escaping-the-vm-ware-grip-with-a-modular-internal-developer-platform)。 | https://yylives.cc/2024/02/08/want-to-escape-vmware-exit-with-platform-engineering/ |
平台工程与云原生应用并不相同
云原生环境的IDP不仅需要抽象云提供商基础架构,还需要即时反馈的可观测性解决方案
译自 Why Platform Engineering Is Different for Cloud Native Apps,作者 Eric Newcomer 是 Intellyx 的首席技术官。他曾担任领先的集成供应商 WSO2 和 IONA Technologies 的首席技术官,以及 Citi 和瑞士信贷等大型企业的首席架构师。
正如系列文章前文所述,由于云原生计算本身就不同且复杂,要为其打造内部开发者平台(IDP)具有挑战性,想要做好并不容易。
然而,做好这一点对于让企业获得云原生的益处至关重要,它可以让开发者更快、更可靠、成本更低地构建和部署应用程序。
要想做好这一点,理解开发者平台为什么在云原生计算中有所不同是一个必要的第一步。
云原生应用程序与传统应用程序主要有很大不同,因为它们是为云原生的“横向扩展”基础架构而设计和开发的,并且通常使用多个云提供商的服务。
公共云提供商提供了数百种系统软件服务,其中任何一种与当前任务相关(或不相关)。筛选出这些服务中需要集成到你的 IDP 中的那些将非常耗时。
此外,开发云原生应用程序通常需要将功能分解为微服务,将微服务代码打包到含必要组件的容器镜像中,并将容器部署到 Kubernetes 集群。
走上这条路有助于实现云原生的好处,但在支持微服务、容器和 Kubernetes 方面,并非所有软件工具都与众不同。
传统工具通常不支持云原生开发者,因为它们不是为以微服务、容器和 Kubernetes 为特征的云原生计算环境而设计的。
微服务是一个独立的工作单元,通常是一个应用程序的特性或功能。微服务会暴露 API 来封装其功能,并通过网络与其他微服务进行交互。
云原生开发者需要快速大规模地开发和部署微服务,以跟上当今变化的步伐,他们需要快速响应客户反馈和事件。
成功采用微服务的组织通过中央内部开发平台来支持小型自治团队,该平台实施组织标准和一致的工具。
与仅为修复错误而重新部署整个单体应用相比,修补和更新单个微服务要容易得多。
这种模式的成功需要正确的组织结构和治理、谨慎协调影响多个微服务的重大更改以及 IDP 中正确的云原生技术和工具组合。
平台工程的目标是创建一个像产品一样为开发者服务的 IDP,抽象掉基础架构问题和工具考量。
由于云原生环境与传统IT环境的不同,这些抽象必须适用于微服务、容器、Kubernetes和云提供商服务。
云原生最佳实践对开发者提出了额外的要求。在传统的IT环境中,开发者会请求运维团队来配置他们的数据库、事件存储和密钥保险库等。云原生环境没有手工配置所需软件的运维团队。
取而代之的是,开发者使用一个IDP,它通过声明式API、配置文件和脚本来让开发者可以自助服务。
考虑一下配置数据库的请求。站点可靠性工程师或运维团队会在IDP中设置满足安全性、可用性、可靠性和开箱即用监控的可用数据库。
例如,开发者声明需要一个关系型数据库,而不必指定哪一个。这种抽象级别允许在不影响应用程序的情况下用另一个数据库交换数据库。
假设你在一个云原生环境中工作,使用容器和Kubernetes开发微服务。
还假设你遵循最佳实践,将开发者组织成小型自治团队,这些团队负责至少一个微服务的整个开发生命周期,包括生产支持。
所有这些都是为了提供出色的客户体验、快速开发和部署、提高开发者生产力,以及更快更高质量和弹性地将应用代码发布到生产环境。
这些选择的成功很大程度上取决于在IDP中包含合适的可观测性工具。
传统的可观测性工具只监控部署后的代码 —— 即,它们监控暂存和生产环境中的代码。当然,这也很重要,但同样重要的是减少事故和宕机的次数,这些会占用改进客户体验和业务竞争力所需开发和部署代码的时间。
仅捕获数据的可观测性解决方案效率低下,并阻碍生产力。微服务、容器和 Kubernetes 的云原生世界需要一种针对开发、部署和支持微服务的小型自治团队过滤和定制数据的解决方案。
面向云原生应用程序的工程是从云原生计算中获取最大价值和最大收益的方法。
为云原生环境构建IDP不仅需要抽象云提供商服务基础架构,还需要整合一个可观测性解决方案,尽可能早地并且尽可能频繁地在开发过程中提供即时反馈。
设计用于云原生应用程序的IDP中的可观测性尽快为开发者提供有用的数据,以保持他们的生产力和愉快的心情。
Google Cloud 和 Chronosphere 提供了这样一个准备上线的可观测性解决方案,可以集成到你的 IDP 中,以帮助充分实现云原生环境的优势。 | https://yylives.cc/2024/02/08/why-platform-engineering-is-different-for-cloud-native-apps/ |