气流的BigQuery记录器处理程序

airflow-bigquerylogger的Python项目详细描述


气流的BigQuery记录器处理程序

安装

pip install airflow-bigquerylogger

配置

AIRFLOW__CORE__REMOTE_LOGGING='true'AIRFLOW__CORE__REMOTE_BASE_LOG_FOLDER='gs://bucket/path'AIRFLOW__CORE__REMOTE_LOG_CONN_ID='gcs_log'AIRFLOW__CORE__LOGGING_CONFIG_CLASS='bigquerylogger.config.LOGGING_CLASS'AIRFLOW__CORE__LOG_BIGQUERY_DATASET='dataset.table'AIRFLOW__CORE__LOG_BIGQUERY_LIMIT=50

谷歌云BigQuery

最近通过流式处理(使用tabledata.insertall方法)不能使用UPDATE、DELETE或MERGE语句进行修改。我建议设置一个表保留!在

学分

感谢Bluecore工程团队的this usefull article。在

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
JavaGCP:一个VM可以位于具有相同地址的不同网络上吗?   java查找安卓中第一个数组的第二个数组中存在的元素的索引   java摄像头活动不工作,设置参数失败   用于python的Base64转换的Java等效代码   为什么JPA/Hibernate在我尝试运行@Query时抛出“java.lang.NegativeArraySizeException:1”?   如何在ubuntu for java的终端上设置路径?   java为什么这两个IP不同?   java JPA:如何将本机查询结果集转换为POJO类集合   java如何在|(12)|(23)中用数字拆分字符串   异常处理如何让程序在达到Java目标后停止运行   java如何不添加以特定字符开头的元素   java如何通过字符串获得swing按钮名称?   java如何在响应不成功时读取改装中的错误体?   java*更新*现在我的程序可以编译但不运行了?