分类: 大数据

37 篇文章

ssh-keygen和ssh-copy-id实现免密登录远程主机
ssh免密登录在实际工作中有重要的作用,甚至有的应用部署也必须要免密登录远程主机,例如hadoop环境搭建。 免密登录,需要先在本机生成公钥,然后将公钥拷贝到远程主机,拷贝的过程,既可以手动(在远程主机根目录下创建.ssh目录,然后将公钥存入该目录下authorized_keys文件中即可),也可以直接命令操作ssh-copy-id,这个…
(一)hadoop搭建之环境准备
1.参考http://www.fogsvc.com/97.html文档设置三台虚拟机并固定ip192.168.1.10   hadoop-master192.168.1.11   hadoop-slave1192.168.1.12   hadoop-slave21.1 添加用户h…
大数据的五大关键技术
大数据技术,就是从各种类型的数据中快速获得有价值信息的技术。大数据领域已经涌现出了大量新的技术,它们成为大数据采集、存储、处理和展现的有力武器。一、大数据接入1、大数据接入已有数据接入、实时数据接入、文件数据接入、消息记录数据接入、文字数据接入、图片数据接入、视屏数据接入2、大数据接入技术Kafka、ActiveMQ、ZeroMQ、Flu…
大数据开发之Sqoop篇—-sqoop export
sqoop export是指将HDFS上的数据导出到RDBMS上,而在RDBMS上目标表要已经存在了。 输入格式一般是:sqoop export command args / sqoop-export command args 一般的参数(这里我只列出一些我们一定要用的参数,其余的可根据各自的业务场景来挑选): --connect&nbs…
GIS:开源webgl大数据地图类库整理
随着webgl的发展,涌现了一大批的地图大数据展示类库,有商用的,也有开源的,这里整理了一些典型的开源类库。一、echarts及echarts-gl国内百度开源的图表类库,熟知的是做各类统计图,其中也有地图相关方面的应用。地址:https://www.echartsjs.com/zh/index.html二、mapbox-gl国外mapb…