用于在BQ上执行查询并保存到本地计算机、BQ表或GCS的包代码。

bigQueryExporterEnhanced的Python项目详细描述


学分

此存储库是从 https://github.com/IcarusSO/bigQueryExporter

更改日志(与原始版本比较)

查询“本地”

  • 在bq上创建一个带有随机散列的临时表作为输出表,这样函数的同时执行将不会相互覆盖。
  • 执行后删除临时表。(如果希望保留,也可以将keep_temp_table设置为true)。

BigQueryExporter

将查询数据从google bigquery导出到本地计算机

安装
pip install bigQueryExporterEnhanced

准备连接
from bigQueryExport import BigQueryExporter
bigQueryExporter = BigQueryExporter(project_name, dataset_name, bucket_name)   

查询表
bigQueryExporter.query_to_table(query, job_name, dataset_name)

GS表
bigQueryExporter.table_to_gs(destination_table, job_name)

GS到本地
bigQueryExporter.gs_to_local(bucket, job_name, data_dir_path)

查询到GS(查询到表+表到GS)

bigQueryExporter.query_to_gs(query, job_name)

查询到本地(查询到表+表到GS+GS到本地)

export_path = bigQueryExporter.query_to_local(query)

# or with the options
export_path = bigQueryExporter.query_to_local(query, 
                                              job_name='simple_query', 
                                              data_dir_path='out/',
                                              keep_temp_table=False,
                                              overwrite_output_folder=True)

要求
  • 您的服务器/本地计算机应有权访问项目

  • Google SDK

  • 执行以下命令

    gcloud auth应用程序默认登录名

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java高并发应用程序?   java通过Gmail API谷歌应用程序引擎发送电子邮件   JAVAutil。scanner scanner hasNextLine()无法访问Java中的最后一行   如何处理xpath、Selenium Webdriver、Java的变化   java哪种设计模式最适合避免方法中的多个参数   java运行同一应用程序的tomcat的两个实例能否为两个不同的用户创建相同的sessionId?   java播放声音对我来说不起作用   java LibGDX场景2D:对单独类中的参与者应用操作   使用SpringMVC发送html邮件的java空指针异常   java Axis2 adb和minInclusive=2147483648   java试图以随机顺序输出列表数组的文本,但我一直在使用textView时出错。setText(myList[rando]);   java Eclipse在任何子字符串上进行多行编辑,如Sublime Text和Atom   java在GWT中从属性文件动态加载值   检查用户是否输入整数或字符串   java打印具有相同字符的行中的重复字符   在phonegap应用程序中将java变量从Android活动传递到javascript   java如何在swing中将键绑定设置为可编辑JTable?   java方法修改超出范围的方法   java是链表中的节点类,特别是构造函数,并使用它创建随机整数的链表