配置Interpreter 有以下2种方式(通常情况下我们需要结合这两种配置方式):

  • 在Interpreter 页面进行全局配置
  • 在Note页面进行Note级别的配置

Interpreter 页面配置

Interpreter 页面的配置是全局的,会影响所有的用户的所有Note。所以在Interpreter页面适合配置那些对于全局用户来说都是一样的配置,比如 SPARK_HOME, PYSPARK_PYTHON, PYSPARK_DRIVER_PYTHON 等等。
image.png

Note级别配置

Note 级别的配置只有在当Interpreter binding模式选择 Isolated Per Note的时候才起作用 (Isolated Per Note 模式也是我个人推荐的一种方式)。Note 级别的配置一般放在每个Note的第一个Paragraph,是通过一个特殊的 Inline Configuration Interpreter (比如 %spark.conf) 来实现的。
一般每个Note都有自己对应的场景,我们需要对每个Note做特殊的配置,比如 spark.jars, spark.jars.packages, spark.app.name 等等。Note级别的配置优先级比 Interpreter的全局配置要高,所以比如你可以在Note配置 spark.executor.memory 来覆盖Interpreter页面里配置的 spark.executor.memory。下图是一个简单的例子
image.png

视频教程


公众号 钉钉群

image.png image.png