تالار گفتمان مانشت

نسخه‌ی کامل: کار با hadoop
شما در حال مشاهده‌ی نسخه‌ی متنی این صفحه می‌باشید. مشاهده‌ی نسخه‌ی کامل با قالب بندی مناسب.
با سلام
از بچه هایی که با hadoop کار کردند اگر امکان داره تجربه ها و اطلاعاتشونو در صورت امکان اینجا بزارن تا همه ما استفاده کنیم.
ممنونمBlush
(15 خرداد 1394 02:23 ق.ظ)fas نوشته شده توسط: [ -> ]با سلام
از بچه هایی که با hadoop کار کردند اگر امکان داره تجربه ها و اطلاعاتشونو در صورت امکان اینجا بزارن تا همه ما استفاده کنیم.
ممنونمBlush

سلام
اینجا برای شروع خوبه

مهمان عزیز شما قادر به مشاهده پیوندهای انجمن مانشت نمی‌باشید. جهت مشاهده پیوندها ثبت نام کنید.
سلام
برنامه نسخی هدوپ 32 بیتی داریم من که هرچی کشتم پیدا نکردم
اگر کسی لینکی داره بزاره

مهمان عزیز شما قادر به مشاهده پیوندهای انجمن مانشت نمی‌باشید. جهت مشاهده پیوندها ثبت نام کنید.
سلام
از بچه ها کسی با هدوپ کار میکنه؟
این کد که جمع دو ماتریس 2*2 هست وقتی اجرا میکنم پیغام خطای زیرو میده:
15/07/01 13:05:19 INFO mapreduce.Job: Task Id: attempt_1435769899158_0001_m_000000_2, Status: FAILED Error: java.lang.ArrayIndexOutOfBoundsException: 1

code map:
public static class Map extends Mapper<LongWritable, Text, Text, Text> {
public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
Configuration conf = context.getConfiguration();
int r = Integer.parseInt(conf.get("r"));
int c = Integer.parseInt(conf.get("c"));
String line = value.toString();
String[] indicesAndValue = line.split(",");
Text outputKey = new Text();
Text outputValue = new Text();
if (indicesAndValue[0].equals("A")) {
outputKey.set(indicesAndValue[1] + "," + indicesAndValue[2]);
outputValue.set("A," + indicesAndValue[2] + "," + indicesAndValue[3]);
context.write(outputKey, outputValue);

} else {
outputKey.set(indicesAndValue[1] + "," + indicesAndValue[2]);
outputValue.set("B," + indicesAndValue[2] + "," + indicesAndValue[3]);
context.write(outputKey, outputValue);
}
}
}
jop:
public static void main(String[] args) throws Exception {
Configuration conf = new Configuration();
/* // A is an r-by-c matrix; B is an r-by-c matrix.
conf.set("r", "2");
conf.set("c", "2");
Job job = new Job(conf, "MatrixSum");
job.setJarByClass(MatrixSum.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(Text.class);
job.setMapperClass(Map.class);
job.setReducerClass(Reduce.class);
job.setInputFormatClass(TextInputFormat.class);
job.setOutputFormatClass(TextOutputFormat.class);
FileInputFormat.addInputPath(job, new Path(args[0]));
FileOutputFormat.setOutputPath(job, new Path(args[1]));

job.waitForCompletion(true);
}
لینک مرجع