老熟女激烈的高潮_日韩一级黄色录像_亚洲1区2区3区视频_精品少妇一区二区三区在线播放_国产欧美日产久久_午夜福利精品导航凹凸

MapReduce編程實戰2——倒排索引(jar包)-創新互聯

任務要求:

專注于為中小企業提供成都網站建設、成都做網站服務,電腦端+手機端+微信端的三站合一,更高效的管理,為中小企業土默特右旗免費做網站提供優質的服務。我們立足成都,凝聚了一批互聯網行業人才,有力地推動了成百上千企業的穩健成長,幫助中小企業通過網站建設實現規模擴充和轉變。

//輸入文件格式

18661629496 110

13107702446 110

1234567 120

2345678 120

987654 110

2897839274 18661629496

//輸出文件格式格式

11018661629496|13107702446|987654|18661629496|13107702446|987654|

1201234567|2345678|1234567|2345678|

186616294962897839274|2897839274|

mapreduce程序編寫:

import java.io.IOException;
import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class Test2 {
	enum Counter
	{
		LINESKIP,//記錄出錯的行
	}
    public static class Map extends Mapper{


        public void map(LongWritable key, Text value, Context context)
                throws IOException, InterruptedException {
        	 String line = value.toString();//讀取源數據
             try
             {
            	 //數據處理
            	 String [] lineSplit = line.split(" ");//18661629496,110
            	 String anum = lineSplit[0];
            	 String bnum = lineSplit[1];  
            	 //輸出格式:110,18661629496          	 
            	 context.write(new Text(bnum), new Text(anum));
            	 
             }
             catch(ArrayIndexOutOfBoundsException e)
             {
            	 context.getCounter(Counter.LINESKIP).increment(1);//出錯時計數器+1
            	 return;
             }

        }
    }

    public static class Reduce extends Reducer {

        public void reduce(Text key, Iterable values, Context context)
                throws IOException, InterruptedException {
            String valueString;
            String out="";
            for(Text value:values)
            {
            	valueString=value.toString();
            	out+=valueString+"|";
            }
            context.write(key, new Text(out));
        }
    }

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        if (args.length != 2) {
            System.err.println("請配置輸入輸出路徑 ");
            System.exit(2);
        }
        //各種配置
        Job job = new Job(conf, "telephone ");//作業名稱配置
        //類配置
        job.setJarByClass(Test2.class);
        job.setMapperClass(Map.class);
        job.setReducerClass(Reduce.class);
        //map輸出格式配置
        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(Text.class);
        //作業輸出格式配置
        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(Text.class);
        //增加輸入輸出路徑
        FileInputFormat.addInputPath(job, new Path(args[0]));
        FileOutputFormat.setOutputPath(job, new Path(args[1]));
        //任務完成時退出
        System.exit(job.waitForCompletion(true) ? 0 : 1);

    }

}


將mapreduce程序打包為jar文件:

1.右鍵項目名稱->Export->java->jar file

MapReduce編程實戰2——倒排索引(jar包)

2.配置jar文件存儲位置

MapReduce編程實戰2——倒排索引(jar包)

3.選擇main calss

MapReduce編程實戰2——倒排索引(jar包)

4.運行jar文件

[liuqingjie@master hadoop-0.20.2]$ bin/hadoop jar /home/liuqingjie/test2.jar /user/liuqingjie/in /user/liuqingjie/out

15/05/14 01:46:47 WARN mapred.JobClient: Use GenericOptionsParser for parsing the arguments. Applications should implement Tool for the same.

15/05/14 01:46:47 INFO input.FileInputFormat: Total input paths to process : 2

15/05/14 01:46:48 INFO mapred.JobClient: Running job: job_201505132004_0005

15/05/14 01:46:49 INFO mapred.JobClient:  map 0% reduce 0%

15/05/14 01:46:57 INFO mapred.JobClient:  map 100% reduce 0%

15/05/14 01:47:09 INFO mapred.JobClient:  map 100% reduce 100%

……………………………………………………………………………………

查看結果

[liuqingjie@master hadoop-0.20.2]$ bin/hadoop dfs -cat ./out/*

cat: Source must be a file.

110 18661629496|13107702446|987654|18661629496|13107702446|987654|

120 1234567|2345678|1234567|2345678|

18661629496 2897839274|2897839274|

另外有需要云服務器可以了解下創新互聯scvps.cn,海內外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業上云的綜合解決方案,具有“安全穩定、簡單易用、服務可用性高、性價比高”等特點與優勢,專為企業上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。


網頁題目:MapReduce編程實戰2——倒排索引(jar包)-創新互聯
當前鏈接:http://www.xueling.net.cn/article/dihpps.html

其他資訊

在線咨詢
服務熱線
服務熱線:028-86922220
TOP
主站蜘蛛池模板: 强辱丰满的人妻HD高清3转4转 | 性色a∨人人爽网站HDkp885 | 一级黄色片在线 | 国产777精品精品热热热一区二区 | 国产免费成人在线 | 亚洲日韩中文字幕天堂不卡 | 免费在线观看av的网站 | 一级黄色香蕉视频 | 国产亚洲精品成人av久久果冻 | 久久精品免费av | 国产桃色无码视频在线观看 | 国产欧美日韩综合精品久久一区 | 九色国产视频 | 亚洲午夜福利AV一区二区无码 | 国产区久久 | 国产精品黑色丝袜高跟鞋 | 中国xxxx性xxxx产国 | 在线观看av每日更新免费 | 欧美激情精品久久久久久不卡 | 互换人妻500部 | gogogo高清在线观看中文版二 | 凤隐电视连续剧免费观看 | 国产成人欧美日本在线观看 | 7194中文乱码一二三四芒果 | 奇米在线免费视频 | 日产中文字暮在线理论 | 久久久久亚洲av毛片大全 | 操人视频在线免费观看 | 熟妇人妻中文a∨无码 | 久久精品亚洲精品无码白云TV | 亚洲精品中文字幕无码A片老 | 国产做a爰片久久毛片 | 男生操女生视频在线观看 | 欧美成人天天综合在线视色 | 欧在线一二三四区 | 欧美视频裸体精品 | 特级片在线免费观看 | 欧美www视频在线观看 | 亚洲精品国产精品色欲AV | 一二三四在线观看免费视频 | 每日在线更新av |