千家信息网

Hadoop学习--通过API上传文件--day04

发表于:2025-02-02 作者:千家信息网编辑
千家信息网最后更新 2025年02月02日,import java.io.BufferedInputStream;import java.io.BufferedOutputStream;import java.io.ByteArrayOutpu
千家信息网最后更新 2025年02月02日Hadoop学习--通过API上传文件--day04

import java.io.BufferedInputStream;

import java.io.BufferedOutputStream;

import java.io.ByteArrayOutputStream;

import java.io.FileInputStream;

import java.io.InputStream;

import java.net.URL;


import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FSDataOutputStream;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;


/**

* 通过API实现文件上传

* @author Administrator

*

*/

public class putfile {


/**

* 通过API上传数据

*

* @author Administrator

*

* [hadoop@hadoop01 ~]$ hdfs dfs -chmod -R a+w /user/hadoop

* [hadoop@hadoop01 ~]$ hdfs dfs -ls -R /

*

*

*/

@Test

public void putFile() throws Exception {

//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里

//我们给定了

Configuration conf = new Configuration();

//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统

FileSystem fs = FileSystem.get(conf);

//定义一个URL的字符串,上传文件的目录

String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";

//通过一个URL的字符串构建一个path对象

Path path = new Path(file);

FSDataOutputStream out = fs.create(path);

IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);

//其他方法一

// byte[] bys = new byte[1024];

// int len = 0;

// while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {

// out.write(bys, 0, len);

// }

//其他方法二

// BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));

// BufferedOutputStream bos = new BufferedOutputStream(out);

// int len =0;

// while((len=bis.read())!=-1){

// bos.write(len);

// }

}

}


0