Skip to main content

专用 Compute 节点

默认情况下,Compute 节点可以同时处理流式作业和即席查询(即 Serving),也可以通过不同的 Compute 节点分别处理,以缓解资源争用,或是隔离流式作业和 Serving 之间的故障。本文将介绍如何设置这样的专用 Compute 节点,以分别进行流式作业和 Serving。

要分离流式作业和 Serving,至少需要一个负责 streaming 的 Compute 节点和一个负责 serving 的 Compute 节点。

启动 Compute 节点时,可以通过命令行参数 --role 或环境变量 RW_COMPUTE_NODE_ROLE 来指定其角色。

更新角色后需要重新启动节点。角色可以是以下之一:

  • both:默认角色,如果未指定则为默认角色。表示 Compute 节点可同时用于流式作业和 Serving。
  • serving:表示 Compute 节点仅用于 Serving。
  • streaming:表示 Compute 节点仅用于流式作业。