Hadoop操作MySQL
1、引入hadoop-common的jar包
2、注意对照后续需要导入的包这里需要注意下,用的都是mapreduce包下面的内容。旧的API中提供包在mapred中,网上有很多文章都用的是这个的,注意区别。
3、创建对应的Table实体类实现Writable, DBWritable接口加点输出,到时候执行时看效果。
4、编写Mapper,注意VALUEOUT之前看到很多用tostring拼成Text,然后再reduce中进行字符串分割的,有很大的限制,实际中肯定会有很大问题。应该也可以直接用Table对象吧,这个还没好好研究下。
5、编写Reducer将接受到的信息写入DB
6、编写执行方法关键是用DBInputFormat、DBOutputFormatInput方法提供了两种实现。
7、最后运行下查看执行效果数据成功复制!
声明:本网站引用、摘录或转载内容仅供网站访问者交流或参考,不代表本站立场,如存在版权或非法内容,请联系站长删除,联系邮箱:site.kefu@qq.com。
阅读量:70
阅读量:26
阅读量:59
阅读量:55
阅读量:74