用于在BQ上执行查询并保存到本地计算机、BQ表或GCS的包代码。
bigQueryExporterEnhanced的Python项目详细描述
学分
此存储库是从 https://github.com/IcarusSO/bigQueryExporter
更改日志(与原始版本比较)
查询“本地”
- 在bq上创建一个带有随机散列的临时表作为输出表,这样函数的同时执行将不会相互覆盖。
- 执行后删除临时表。(如果希望保留,也可以将keep_temp_table设置为true)。
BigQueryExporter
将查询数据从google bigquery导出到本地计算机
安装
pip install bigQueryExporterEnhanced
准备连接
from bigQueryExport import BigQueryExporter
bigQueryExporter = BigQueryExporter(project_name, dataset_name, bucket_name)
查询表
bigQueryExporter.query_to_table(query, job_name, dataset_name)
GS表
bigQueryExporter.table_to_gs(destination_table, job_name)
GS到本地
bigQueryExporter.gs_to_local(bucket, job_name, data_dir_path)
查询到GS(查询到表+表到GS)
bigQueryExporter.query_to_gs(query, job_name)
查询到本地(查询到表+表到GS+GS到本地)
export_path = bigQueryExporter.query_to_local(query)
# or with the options
export_path = bigQueryExporter.query_to_local(query,
job_name='simple_query',
data_dir_path='out/',
keep_temp_table=False,
overwrite_output_folder=True)
要求
您的服务器/本地计算机应有权访问项目
执行以下命令
gcloud auth应用程序默认登录名
pip install bigQueryExporterEnhanced
from bigQueryExport import BigQueryExporter
bigQueryExporter = BigQueryExporter(project_name, dataset_name, bucket_name)
查询表
bigQueryExporter.query_to_table(query, job_name, dataset_name)
GS表
bigQueryExporter.table_to_gs(destination_table, job_name)
GS到本地
bigQueryExporter.gs_to_local(bucket, job_name, data_dir_path)
查询到GS(查询到表+表到GS)
bigQueryExporter.query_to_gs(query, job_name)
查询到本地(查询到表+表到GS+GS到本地)
export_path = bigQueryExporter.query_to_local(query)
# or with the options
export_path = bigQueryExporter.query_to_local(query,
job_name='simple_query',
data_dir_path='out/',
keep_temp_table=False,
overwrite_output_folder=True)
要求
您的服务器/本地计算机应有权访问项目
执行以下命令
gcloud auth应用程序默认登录名
bigQueryExporter.query_to_table(query, job_name, dataset_name)
bigQueryExporter.table_to_gs(destination_table, job_name)
GS到本地
bigQueryExporter.gs_to_local(bucket, job_name, data_dir_path)
查询到GS(查询到表+表到GS)
bigQueryExporter.query_to_gs(query, job_name)
查询到本地(查询到表+表到GS+GS到本地)
export_path = bigQueryExporter.query_to_local(query)
# or with the options
export_path = bigQueryExporter.query_to_local(query,
job_name='simple_query',
data_dir_path='out/',
keep_temp_table=False,
overwrite_output_folder=True)
要求
您的服务器/本地计算机应有权访问项目
执行以下命令
gcloud auth应用程序默认登录名
bigQueryExporter.gs_to_local(bucket, job_name, data_dir_path)
bigQueryExporter.query_to_gs(query, job_name)
export_path = bigQueryExporter.query_to_local(query)
# or with the options
export_path = bigQueryExporter.query_to_local(query,
job_name='simple_query',
data_dir_path='out/',
keep_temp_table=False,
overwrite_output_folder=True)
您的服务器/本地计算机应有权访问项目
执行以下命令
gcloud auth应用程序默认登录名