Python中文
首页
教程
问答
标签
搜索
登录
注册
如何在spark scala中使用自定义delimeter(ctrl-a delimited)文件编写dataframe/RDD?
回答此问题可获得
20
贡献值,回答如果被采纳可获得
50
分。
<p>我正在研究poc,我需要在其中创建数据帧,然后将其保存为ctrl分隔文件。 下面是创建中间结果的查询</p> <pre><code>val grouped = results.groupBy("club_data","student_id_add","student_id").agg(sum(results("amount").cast(IntegerType)).as("amount"),count("amount").as("cnt")).filter((length(trim($"student_id")) > 1) && ($"student_id").isNotNull) </code></pre> <p>将结果保存到文本文件中</p> <pre><code>grouped.select($"club_data", $"student_id_add", $"amount",$"cnt").rdd.saveAsTextFile("/amit/spark/output4/") </code></pre> <p>输出:</p> <pre><code> [amit,DI^A356035,581,1] </code></pre> <p>它将数据保存为逗号分隔,但我需要将其保存为ctrl-A分隔 我尝试了option(“delimiter”,“\u0001”),但似乎dataframe/rdd不支持它。</p> <p>有什么有用的功能吗?</p>
0 条评论
分类:
Python问答
请先
登录
后评论
默认排序
时间排序
1 个回答
匿名
1天前
擅长:python、mysql、java
<pre><code>df.rdd.map(x=>x.mkString("^A")).saveAsTextFile("file:/home/iot/data/stackOver") </code></pre>
请先
登录
后评论
针对此问题:
更多的回答
关注
89
关注
收藏
1
收藏,
216
浏览
网友 提问于 2天前
相关Python问题
尽管Python中的所有内容都是引用,为什么Python导师在没有指针的列表中绘制字符串和整数?
6 回答
尽管python中的表达式为false,但循环仍在运行
7 回答
尽管python代码正确,但从nifi ExecuteScript处理器获取语法错误
3 回答
尽管Python在Neovim中工作得很好,但插件不能识别Neovim中的Python主机
5 回答
尽管python字典包含了大量的条目,但它并没有增长
6 回答
尽管python说模块存在,为什么我会得到这个消息?
5 回答
尽管setuptools和控制盘是最新的,但无法识别singleversionexternallymanaged
4 回答
尽管stdout和stderr重定向,但未捕获错误消息
6 回答
尽管Tensorboard的事件太大,但Tensorboard的步骤太少了
7 回答
尽管tkinter上的变量已更改,但显示未更改
1 回答
尽管try/except使用Python进行单元测试时出现断言错误
9 回答
尽管URL是sam,但仍会抛出“达到最大重定向”
10 回答
尽管url有效,Pandas仍读取url的\u csv错误
1 回答
尽管while中存在时间延迟,但LINUX线程的CPU利用率为100%(1)
6 回答
尽管x0在范围内,Scipy优化仍会引发ValueError
1 回答
尽管xpath正确,但使用selenium单击链接仍不起作用
6 回答
尽管下载了ffmpeg并设置了路径变量python,但没有后端错误
1 回答
尽管下载了i,但找不到型号“fr”
2 回答
尽管下载了plotnine包,但未获取名为“plotnine”的模块时出错
2 回答
尽管为所有行指定了权重,网格(0)仍不起作用
8 回答