Python中文
首页
教程
问答
标签
搜索
登录
注册
使用Hadoop计算独立访客的最佳方法是什么?
回答此问题可获得
20
贡献值,回答如果被采纳可获得
50
分。
<p>嘿,大家好,刚刚开始使用hadoop,好奇如果您的日志文件是这样的,mapreduce中计算唯一访问者的最佳方法是什么。。。</p> <pre><code>DATE siteID action username 05-05-2010 siteA pageview jim 05-05-2010 siteB pageview tom 05-05-2010 siteA pageview jim 05-05-2010 siteB pageview bob 05-05-2010 siteA pageview mike </code></pre> <p>对于每个站点,你想找出每个站点的唯一访问者吗?</p> <p>我想映射程序会发出siteID用户名 而reducer将为每个键保留一组唯一的usersnames(),然后发出该组的长度。然而,这可能会在内存中存储数以百万计的用户名,这似乎是不对的。有人有更好的办法吗?</p> <p>我在用python流媒体</p> <p>谢谢</p>
0 条评论
分类:
Python问答
请先
登录
后评论
默认排序
时间排序
1 个回答
匿名
1天前
擅长:python、mysql、java
<p>我的想法和tzaman的一个小小的转变很相似</p> <ol> <li>地图输出:(用户名,网站ID)=>;(“”)</li> <li>减少输出:(siteid)=>;(1)</li> <li>映射:标识映射器</li> <li>reduce:longsumreducer(简单总结)</li> </ol> <p>注意,第一个reduce不需要遍历任何记录。您可以简单地检查密钥并生成输出。</p> <p>高温高压</p>
请先
登录
后评论
针对此问题:
更多的回答
关注
89
关注
收藏
1
收藏,
216
浏览
网友 提问于 2天前
相关Python问题
我想从用户inpu创建一个类的实例
9 回答
我想从用户导入值,为此
6 回答
我想从用户那里得到一个整数输入,然后让for循环遍历该数字,然后调用一个函数多次
3 回答
我想从用户那里收到一个列表,并在其中执行一些步骤,然后在步骤完成后将其打印回来,但它没有按照我想要的方式工作
4 回答
我想从用户那里获取输入,并将值传递给(average=dict[x]/6),然后在那里获取resu
2 回答
我想从第一个列表中展示第一个词,然后从第二个列表中展示十个词,以此类推- Python
9 回答
我想从第一个空lin开始解析文本文件
6 回答
我想从简历、简历中提取特定部分
4 回答
我想从给定字典(python)的字符串中删除\u00a9、\u201d和类似的字符。
8 回答
我想从给定的网站Lin下载许多文件扩展名相同的Wget或Python文件
8 回答
我想从网上搜集一些关于抵押贷款的数据
3 回答
我想从网站上删除电子邮件地址
7 回答
我想从网站上读取数据该网站包含可下载的文件,然后我想用python脚本把它发送给oracle如何?
8 回答
我想从网站中提取数据,然后将其显示在我的网页上
8 回答
我想从网页上提取统计数据。
8 回答
我想从网页上解析首都城市,并在用户输入国家时在终端上打印它们
7 回答
我想从色彩图中删除前n个颜色,而不丢失原始颜色数
6 回答
我想从课堂上打印字典里的键
8 回答
我想从费用表中获取学生上次支付的费用,其中学生id=id
1 回答
我想从较低的顺序对多重列表进行排序,但我无法在一行中生成结果
4 回答