你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

Azure HDInsight on AKS 发行说明

本文提供有关最新 Azure HDInsight on AKS 版本更新的信息。 有关早期版本的信息,请参阅 Azure HDInsight on AKS 存档发行说明。 如果要订阅发行说明,请查看此 GitHub 存储库上的版本。

总结

AKS 上的 HDInsight 是一种在 Azure Kubernetes 服务 (AKS) 上运行的现代、可靠、安全且完全托管的平台即服务 (PaaS)。 AKS 上的 HDInsight 可让你部署常用的开源分析工作负载,例如 Apache Spark™、Apache Flink®️ 和 Trino,而没有管理和监视容器的开销。

可以使用 Apache Spark 和 Trino 的强大查询引擎生成跨越通过 Apache Flink 流式传输、数据工程和机器学习的端到端、PB 级大数据应用程序。

所有这些功能与 AKS 上 HDInsight 强大的开发人员重点相结合,可让具有深厚的技术专业知识的企业和数字原住民构建并运营适合其需求的应用程序。 使用 AKS 上的 HDInsight,开发人员可以访问开源软件提供的所有丰富配置,以及无缝包含其他生态系统产品/服务的扩展性。 此产品/服务可让开发人员测试和优化其应用程序,以最优成本获取最佳性能。

注意

若要了解 HDInsight on AKS 版本控制和支持,请参阅版本控制架构

可以参阅新增功能页,了解此发行版的当前公共预览版功能的所有详细信息。

重要

AKS 上的 HDInsight 使用涉及逐步区域部署的安全部署做法。 新发布或新版本最多可能需要 10 个工作日就能在所有区域中可用。

版本信息

发布日期:2024 年 3 月 20 日

此版本适用于以下组件

  • 群集池版本:1.1
  • 群集版本:1.1.1
  • AKS 版本:1.27

新功能

Apache Flink 应用程序模式群集

应用程序模式群集旨在支持大型且长时间运行的作业的专用资源。 当有资源密集型或大量数据处理任务时,可以使用应用程序模式群集。 此模式可以为特定的 Apache Flink 应用程序分配专用资源,确保它们具有有效处理大型工作负载所需的计算能力和内存。

有关详细信息,请参阅 HDInsight on AKS 上的 Apache Flink 应用程序模式群集

HDInsight on AKS 的专用群集

通过专用群集和出站群集设置,现在可以控制来自 HDInsight on AKS 群集池和群集的入口和出口流量。

  • 选择将出站群集池与负载均衡器结合使用时,使用 Azure 防火墙或网络安全组 (NSG) 来控制出口流量。
  • 将出站群集池和用户定义的路由结合使用,以控制子网级别的出口流量。
  • 使用专用 AKS 群集功能 - 确保 AKS 控制平面或 API 服务器具有内部 IP 地址。 AKS 控制平面/API 服务器与 HDInsight on AKS 节点池(群集)之间的网络流量仅保留在专用网络上。
  • 避免为群集创建公共 IP。 在群集上使用专用入口功能。

有关详细信息,请参阅控制来自 HDInsight on AKS 群集池和群集的网络流量

就地升级

使用最新的软件更新升级群集和群集池。 这意味着你可以使用最新的群集包修补程序、安全更新和 AKS 补丁,而无需重新创建群集。 有关详细信息,请参阅在 AKS 群集和群集池上升级 HDInsight

重要

若要充分利用所有这些最新功能,需要使用 1.1 和群集版本 1.1.1 创建新的群集池

已知问题

  • 工作负载标识限制:
    • 转换为工作负载标识时存在已知限制。 此限制是因为 FIC 操作的权限敏感性质。 用户无法通过删除资源组来执行群集删除。 群集删除请求必须由具有“FIC/删除”权限的应用程序/用户/主体触发。 如果 FIC 删除失败,高级群集删除也会失败。
    • 用户分配的托管标识 (UAMI) 支持 – 每个 UAMI 限制 20 个 FIC。 只能在标识上创建 20 个联合凭据。 在 HDInsight on AKS 群集中,FIC(联合标识凭据)和 SA 具有一对一映射,并且只能针对 MSI 创建 20 个 SA。 如果要创建更多群集,则需要提供不同的 MSI 来克服限制。
    • 目前不支持对在这些区域中创建的用户分配的托管标识创建联合标识凭据

操作系统版本

  • Mariner OS 2.0

工作负载版本

工作负载 版本
Trino 426
Flink 1.17.0
Apache Spark 3.3.1

支持的 Java 和 Scala 版本

工作负载 Java Scala
Trino Open JDK 17.0.7
Flink Open JDK 11.0.21 2.12.7
Spark Open JDK 1.8.0_345 2.12.15

预览版已在以下区域推出。

如果你还有其他问题,请联系 Azure 支持部门,或参阅支持选项页。 如果你有特定于产品的反馈,请在 aka.ms/askhdinsight 上写给我们。

后续步骤