您好,欢迎来到站长目录(28sn.com)!


java操作hdfs 创建文件 删除文件 读取文件

来源:网络整理 浏览:150次 时间:2022-01-22

package test;


import java.io.FileInputStream;
import java.io.InputStream;
import java.net.URL;


import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;


/**
 * java实现 HDFS  因为是测试  所以直接throws Exception开发不建议使用
 * @author LiMing E-mail:1151143484@qq.com
 * @date 2017年5月14日 下午12:28:29
 */
public class HelloHDFS {
public static void main(String[] args)   {

  //测试1
/* URL简单使用 
URL url =new URL("https://www.baidu.com");
InputStream in  =url.openStream();
//copyBytes 把in中数据 输入到out中  1024是缓冲长度  true是传输完成后是否关闭流
IOUtils.copyBytes(in, System.out, 1024,true);
*/

try{

//测试2
/*//URL默认不支持hdfs连接 如果使用hdfs连接还需要设置
URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
//读取hdfs中上传的hello.txt 之前就上传到根目录了
URL  url=new URL("hdfs://192.168.66.8:9000/hello.txt");
InputStream in  =url.openStream();
IOUtils.copyBytes(in, System.out, 1024,true);*/

/*Configuration conf=new Configuration();
conf.set("fs.defaultFS", "hdfs://192.168.66.8:9000");
FileSystem fileSystem=FileSystem.get(conf);
//创建文件夹 在根目录下创建文件夹liming 成功返回true
boolean suc1=  fileSystem.mkdirs(new Path("/liming"));
System.out.println(suc1);

//判断文件或目录存在与否 存在返回true
boolean suc2=  fileSystem.exists(new Path("/liming"));
System.out.println(suc2);

//删除指定文件/文件夹  删除是会放到一个类似回收站的地方  如果第二个参数设置为true那么就会直接彻底删除
boolean suc3=  fileSystem.delete(new Path("/liming"),true);
System.out.println(suc3);


//删除之后判断存在不存在
boolean suc4=  fileSystem.exists(new Path("/liming"));
System.out.println(suc4);*/


//测试3
/*//写文件到hdfs系统   创建test.data并写入内容
Configuration conf=new Configuration();
conf.set("fs.defaultFS", "hdfs://192.168.66.8:9000");
FileSystem fileSystem=FileSystem.get(conf);
FSDataOutputStream out=fileSystem.create(new Path("/test.data"),true) ;
FileInputStream  fileInputStream=new FileInputStream("c:/test.txt");
IOUtils.copyBytes(fileInputStream, out, 1024,true);
//创建之后读取内容 看看是不是存在
URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
URL url2=new URL("hdfs://192.168.66.8:9000/test.data");
InputStream in2  =url2.openStream();
IOUtils.copyBytes(in2, System.out, 1024,true);
*/

//测试4
/*//也可以用原始的方式
Configuration conf=new Configuration();
conf.set("fs.defaultFS", "hdfs://192.168.66.8:9000");
FileSystem fileSystem=FileSystem.get(conf);
FSDataOutputStream out2=fileSystem.create(new Path("/test2.data"),true) ;
FileInputStream  fileInputStream2=new FileInputStream("c:/test.txt");
byte[] buf=new byte[1024];
int len =  fileInputStream2.read(buf);
while (len != -1) {
out2.write(buf);
len =  fileInputStream2.read(buf);
}
fileInputStream2.close();
out2.close();
//查看是否存在
URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
URL url3=new URL("hdfs://192.168.66.8:9000/test2.data");
InputStream  in3  =url3.openStream();
IOUtils.copyBytes(in3, System.out, 1024,true);*/



}catch(Exception e){
e.printStackTrace();
}



}

}


源码下载地址:http://download.csdn.net/detail/qq_36291682/9842125


所用jar包  可能不是全部使用 但是导入的时候是全部导入了:

 hadoop-common-2.7.3.jar
  activation-1.1.jar
  apacheds-i18n-2.0.0-M15.jar
  apacheds-kerberos-codec-2.0.0-M15.jar
  api-asn1-api-1.0.0-M20.jar
  api-util-1.0.0-M20.jar
  asm-3.2.jar
  avro-1.7.4.jar
  commons-beanutils-1.7.0.jar
  commons-beanutils-core-1.8.0.jar
  commons-cli-1.2.jar
  commons-codec-1.4.jar
  commons-collections-3.2.2.jar
  commons-compress-1.4.1.jar
  commons-configuration-1.6.jar
  commons-digester-1.8.jar
  commons-httpclient-3.1.jar
  commons-io-2.4.jar
  commons-lang-2.6.jar
  commons-logging-1.1.3.jar
  commons-math3-3.1.1.jar
  commons-net-3.1.jar
  curator-client-2.7.1.jar
  curator-framework-2.7.1.jar
  curator-recipes-2.7.1.jar
  gson-2.2.4.jar
  guava-11.0.2.jar
  hadoop-annotations-2.7.3.jar
  hadoop-auth-2.7.3.jar
  hamcrest-core-1.3.jar
  htrace-core-3.1.0-incubating.jar
  httpclient-4.2.5.jar
  httpcore-4.2.5.jar
  jackson-core-asl-1.9.13.jar
  jackson-jaxrs-1.9.13.jar
  jackson-mapper-asl-1.9.13.jar
  jackson-xc-1.9.13.jar
  java-xmlbuilder-0.4.jar
  jaxb-api-2.2.2.jar
  jaxb-impl-2.2.3-1.jar
  jersey-core-1.9.jar
  jersey-json-1.9.jar
  jersey-server-1.9.jar
  jets3t-0.9.0.jar
  jettison-1.1.jar
  jetty-6.1.26.jar
  jetty-util-6.1.26.jar
  jsch-0.1.42.jar
  jsp-api-2.1.jar
  jsr305-3.0.0.jar
  junit-4.11.jar
  log4j-1.2.17.jar
  mockito-all-1.8.5.jar
  netty-3.6.2.Final.jar
  paranamer-2.3.jar
  protobuf-java-2.5.0.jar
  servlet-api-2.5.jar
  slf4j-api-1.7.10.jar
  slf4j-log4j12-1.7.10.jar
  snappy-java-1.0.4.1.jar
  stax-api-1.0-2.jar
  xmlenc-0.52.jar
  xz-1.0.jar
  zookeeper-3.4.6.jar
hadoop-hdfs-2.7.3.jar


推荐站点

  • 我爱发烧音乐我爱发烧音乐

    我爱发烧音乐囊括了从流行音乐到古典音乐多个类型的音乐作品,专栏推荐最新的音乐,提供音乐排名榜单!可供免费线上收听音乐,歌曲流畅,音效极佳! 网站提供的钢琴以及二胡专栏,可供收听者,陶冶情操,改善心情,是难得的轻音乐典藏!

    www.520fs.com
  • 世纪音乐网世纪音乐网

    世纪音乐网是专业的在线音乐试听MP3下载网站。歌曲总计30余万首,收录了网上最新歌曲和流行音乐,DJ舞曲,非主流音乐,经典老歌,劲舞团歌曲,搞笑歌曲,儿童歌曲,英文歌曲等。是您上网听歌的最佳网站。

    www.ssjj.com
  • 杭州网杭州网

      杭州网是杭州地区唯一的新闻门户网站,由中共杭州市委宣传部、杭州日报报业集团和杭州广播电视集团共同组建的杭州网络传媒有限公司运营。

    www.hangzhou.com.cn
  • 深圳在线深圳在线

      深圳在线 www.szol.net是深圳本地最大、最早的地方生活资讯网站之一,网站名“深圳在线www.szol.net”由南方报业传媒集团编辑委员会总编辑、南方日报社总编辑、南方都市报总编辑、南方书画院名誉院长王春芙亲笔题名,深圳在线www.szol.net团队与深圳热线www.szonline.net、奥一网www.oeeee.com都源于全国最早成立于1996年的知名网络公司——深圳万用网。

    www.szol.net
  • 今题网今题网

     今题网- 中国领先的社区服务网,提供社区服务, 在线交友和商家推广服务,于2004年创建上线,公司现有员工超过百名。今题网自成立以来,凭借其独特的定位和丰富的社区交友功能, 凭借其团队超强的搜索引擎优化技术吸引超过千万的用户成为今题网的注册会员。

    www.jinti.com

鄂公网安备 42062502000001号