تالار گفتمان مانشت
کار با hadoop - نسخه‌ی قابل چاپ

کار با hadoop - fas - 15 خرداد ۱۳۹۴ ۰۲:۲۳ ق.ظ

با سلام
از بچه هایی که با hadoop کار کردند اگر امکان داره تجربه ها و اطلاعاتشونو در صورت امکان اینجا بزارن تا همه ما استفاده کنیم.
ممنونمBlush

RE: کار با hadoop - keivan1 - 15 خرداد ۱۳۹۴ ۱۲:۲۹ ب.ظ

(۱۵ خرداد ۱۳۹۴ ۰۲:۲۳ ق.ظ)fas نوشته شده توسط:  با سلام
از بچه هایی که با hadoop کار کردند اگر امکان داره تجربه ها و اطلاعاتشونو در صورت امکان اینجا بزارن تا همه ما استفاده کنیم.
ممنونمBlush

سلام
اینجا برای شروع خوبه

مهمان عزیز شما قادر به مشاهده پیوندهای انجمن مانشت نمی‌باشید. جهت مشاهده پیوندها ثبت نام کنید.


کار با hadoop - fas - 30 خرداد ۱۳۹۴ ۱۲:۳۳ ب.ظ

سلام
برنامه نسخی هدوپ ۳۲ بیتی داریم من که هرچی کشتم پیدا نکردم
اگر کسی لینکی داره بزاره

RE: کار با hadoop - پروفسور - ۳۰ خرداد ۱۳۹۴ ۰۴:۱۸ ب.ظ


مهمان عزیز شما قادر به مشاهده پیوندهای انجمن مانشت نمی‌باشید. جهت مشاهده پیوندها ثبت نام کنید.


کار با hadoop - fas - 12 تیر ۱۳۹۴ ۰۵:۵۲ ب.ظ

سلام
از بچه ها کسی با هدوپ کار میکنه؟
این کد که جمع دو ماتریس ۲*۲ هست وقتی اجرا میکنم پیغام خطای زیرو میده:
۱۵/۰۷/۰۱ ۱۳:۰۵:۱۹ INFO mapreduce.Job: Task Id: attempt_1435769899158_0001_m_000000_2, Status: FAILED Error: java.lang.ArrayIndexOutOfBoundsException: 1

code map:
public static class Map extends Mapper<LongWritable, Text, Text, Text> {
public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
Configuration conf = context.getConfiguration();
int r = Integer.parseInt(conf.get("r"));
int c = Integer.parseInt(conf.get("c"));
String line = value.toString();
String[] indicesAndValue = line.split(",");
Text outputKey = new Text();
Text outputValue = new Text();
if (indicesAndValue[0].equals("A")) {
outputKey.set(indicesAndValue[1] + "," + indicesAndValue[2]);
outputValue.set("A," + indicesAndValue[2] + "," + indicesAndValue[3]);
context.write(outputKey, outputValue);

} else {
outputKey.set(indicesAndValue[1] + "," + indicesAndValue[2]);
outputValue.set("B," + indicesAndValue[2] + "," + indicesAndValue[3]);
context.write(outputKey, outputValue);
}
}
}
jop:
public static void main(String[] args) throws Exception {
Configuration conf = new Configuration();
/* // A is an r-by-c matrix; B is an r-by-c matrix.
conf.set("r", "2");
conf.set("c", "2");
Job job = new Job(conf, "MatrixSum");
job.setJarByClass(MatrixSum.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(Text.class);
job.setMapperClass(Map.class);
job.setReducerClass(Reduce.class);
job.setInputFormatClass(TextInputFormat.class);
job.setOutputFormatClass(TextOutputFormat.class);
FileInputFormat.addInputPath(job, new Path(args[0]));
FileOutputFormat.setOutputPath(job, new Path(args[1]));

job.waitForCompletion(true);
}