一个命令行工具,帮助轻松部署AWS胶水作业:)

glueetl的Python项目详细描述


胶水

一个命令行工具,帮助轻松部署AWS胶水作业:)

安装

$ pip install glueetl

如何开发胶水作业

你可以按照下面的步骤来开发胶水作业。在

1。设置AWS凭证和区域

在将Glue作业部署到AWS Glue之前,必须设置AWS凭据和区域。在

^{pr2}$

2。初始化粘合作业

$ mkdir sample
$ cd sample
$ glueetl init
.
├── README.md
├── config.yaml
└── script.py

config.yaml包括作业属性,目前支持以下属性:

job:name:sample-glue-jobrole_name:AWSGlueServiceRolescript_location:s3://glue-job-scripts/sample-glue-job/script.pymax_concurrent_runs:10command_name:glueetlmax_retries:0timeout:28800max_capacity:10connections:-first_connection-second_connectiondefault_arguments:argument1:value1argument2:value2non_overridable_arguments:argument1:value1argument2:value2trigger:name:trigger-sample-glue-jobschedule:cron(5 * * * ? *)tags:key1:value1key2:value2

请更改文件config.yaml中的默认值,并将作业逻辑写入文件script.py。在

3。部署粘合作业

$ cd sample
$ glueetl deploy

你的工作将被部署到AWS胶水。在

4。运行胶水作业

您可以像这样手动运行胶水作业。在

$ cd sample
$ glueetl run --arg1=value1 --arg2=value2

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java为什么这个循环打印1020之间的所有值?我想让它打印出可以被5整除的值   java如何在JTable中集中单元格   java无法通过一个键从hashmap获取对象,该键具有相同的hashcode,并且两个键等于()   不兼容的类型?JAVA   将字符串开头与空格匹配时java replaceAll的正则表达式混淆结果   java为非java应用程序创建jar文件。类文件   java无法从另一个普通Http Servlet访问筛选器Servlet的会话属性   java Ejb,第二个方法中的错误回滚第一个方法   swing java操作侦听器在菜单上,而不是在菜单项上   分析文件时出错:分析文件时出错:无法在Java的XSSF中分析excel文件   java将实体注入到ViewScope Bean中   java如何关闭终端而不终止正在运行的jar文件进程   爪哇力下传   java不能隐式地将[T]强制转换为AT,其中[T]扩展为AT   java Spring项目在jsp页面中显示mysql表数据   java在创建新实例SQLITE时出错