在direct runner中使用SqlTransform的Apache beam

2024-09-25 18:25:28 发布

您现在位置:Python中文网/ 问答频道 /正文

我有以下代码在windows上的direct runner中的apache beam中运行sql转换

import apache_beam as beam
from apache_beam.transforms.sql import SqlTransform

with beam.Pipeline() as p:
    pipe = (
        p
        |'hello' >> beam.Create([('SE',400),('SC',500)])
        |'schema' >> beam.Map(lambda x: beam.Row(
                                                state=x[0],
                                                population=x[1]
                                                ))
    )

    sql = (
        pipe
        |'sql' >> SqlTransform('SELECT state, population FROM PCOLLECTION')
        |'sql print' >> beam.Map(print)
    )

我得到以下错误:

  File "c:\users\XXX\appdata\local\programs\python\python37\lib\subprocess.py", line 1306, in send_signal
    raise ValueError("Unsupported signal: {}".format(sig))
ValueError: Unsupported signal: 2

我在youtube上看到专家们在谈论Universal Local Runner,但我没有找到如何安装它

有人能帮我吗

先谢谢你


Tags: 代码importmapsqlsignalapacheasbeam
1条回答
网友
1楼 · 发布于 2024-09-25 18:25:28

该问题现在在https://issues.apache.org/jira/browse/BEAM-12501中跟踪

我对使用从Beam head构建的源代码运行管道没有问题。但我用的是Mac操作系统。你用的是什么版本的Beam

你能试着向警察询问一下吗user@beam.apache.org? 这可能是Windows系统中特定的问题

相关问题 更多 >