2009年2月17日 星期二

Read HDFS File

FileSystem fs=FileSystem.get(new URI("hdfs://localhost:9000"),new Configuration());
FileStatus[] flist=fs.listStatus(new Path("input/"));

FSDataInputStream fsdatainput=fs.open(flist[0].getPath());
BufferedReader bfr=new BufferedReader(new InputStreamReader(fsdatainput));
while(bfr.ready())
{
System.out.println(bfr.readLine());
}

直接讀取比較省事!!

2009年2月10日 星期二

hadoop FileSystem

最近又要開始接觸hadoop了,為了把資料在程式裡直接上傳到HDFS裡,努力嘗試找了非常久的api。終於找到了FileSystem!暫時順利的將資料傳到HDFS。

FileSystem uptohdfs = FileSystem.get(new Path("hdfs://localhost:9000"),
new Configuration());
uptohdfs.copyFromLocalFile(Path src, Path dst) ;

上傳成功,要記得執行的使用者有寫入的權限!!