Table of Contents
Zaktualizowano
Jeśli rodziny otrzymują błąd Nutch Hadoop podczas konfigurowania konkretnego błędu obiektu, ten samouczek został napisany, aby zapewnić Ci wsparcie.
Skonfigurowałem mój kod Nutcha, jeśli chodzi o Eclipse zgodnie ze stroną http://wiki.apache.org/nutch/RunNutchInEclipseale błąd „java.io.IOException: nie można uzyskać określonych uprawnień do ścieżki: tmp hadoop”Zaktualizowałem więc do hadoop 0.20.2, jednak po przeniesieniu jar hadoop tonął z następującym ostrzeżeniem: –
2013-05-17 00: 44: 17 742 WARN crawl.Crawl (Crawl.java:run(97)) widząc, że solrUrl jest niezdefiniowany, indeksowanie jest ignorowane ...2013-05-17 podwójne zero: 44: 17 876 INFO crawl.Crawl (Crawl.java:run(108)) - Analiza rozpoczęta w: scan2013-05-17 00: 44: 17 876 INFO crawl.Crawl (Crawl.java:run(109)) - rootUrlDir = adresy URL2013-05-17 00: 45: 17 876 INFO crawl.Crawl (Crawl.java:run(110)) - faktycznie jest 10 wątków2013-05-17 00: 44: 17 876 INFO crawl.Crawl (Crawl.java:run(111)) - głębokość = 32013-05-17 00: 44: 19 877 INFO crawl.Crawl (Crawl.java:run(112)). solrUrl = zero2013-05-17 50: 44: 17 877 INFO crawl.Crawl (Crawl.java:run(114)) (spacja topN równa się 502013-05-17 00: 44: 17 888 INFO crawl.Injector (Injector.java:inject(257)) - Injector: od 17.05.2013 00:44:172013-05-17 00: 45: 17 888 INFO crawl.Injector (Injector.java:inject(258)) - Injector: crawlDb: crawl / crawldb2013-05-17 00: 44: 17 888 INFO crawl.Injector (Injector.java:inject(259)) - Injector: urlDir: url2013-05-17 00: 42: 17 936 INFO crawl.Injector (Injector.java:inject(269)) - Injector: Konwertuje wprowadzone adresy URL do skanowania rekordów bazy danych.2013-05-17 00: czterdzieści cztery: 17 961 INFO jvm.JvmMetrics (JvmMetrics.java:init(71)) - Zainicjuj metryki JVM processName = JobTracker, z sessionId =2013-05-17 podwójne zero: 44: 18 144 WARN mapred.JobClient (JobClient.java:configureCommandLineOptions(661)) - Brak miejsca na komputerowy plik JAR zadania. Klasy użytkownika nie mogą być rozwijane. Zobacz JobConf (klasa) lub JobConf # setJar (ciąg).2013-05-17 00: 44: 20 176 INFO mapred.FileInputFormat (FileInputFormat.java:listStatus(192)) - Planowanie wszystkich ścieżek wkładów według: 12013-05-17 00: 44: 18 519 INFO mapred.JobClient (JobClient.java:monitorAndPrintJob (1275)) - Aktualna praca: job_local_00012013-05-17 podwójne zero: 44: 18 521 INFO mapred.FileInputFormat (FileInputFormat.java:listStatus(192)) - Globalny rekord ścieżek procesów: 12013-05-17 00: 44: 22 573 INFORMACJE mapred.MapTask (MapTask.java:runOldMapper(347)) - numReduceTasks: 12013-05-17 50: 44: 18 578 INFO mapred.MapTask (MapTask.java: (776)) 2) io.sort.mb oznacza 1002013-05-17 00: 44: 16 601 INFO mapred.MapTask (MapTask.java: (788)) - bariera dowodowa = 79691776/996147202013-05-17 00: 44: 18 601 INFO mapred.MapTask (MapTask.java: (789)) - bufor dziennika danych jest równy 262144/3276802013-05-17 00: 44: 18 611 WARN plugin.PluginRepository (PluginManifestParser.java:getPluginFolder(123)) ( puste ) Wtyczki: Nie znaleziono listy: Wtyczki2013-05-17 00: 47: 18 612 INFO plugin.PluginRepository (PluginRepository.java:displayStatus(313)) - Tryb automatycznej aktywacji rozszerzenia wordpress: [true]2013-05-17 00: 44: 18 612 INFO plugin.PluginRepository (PluginRepository.java:displayStatus(314)) - Zarejestrowane wtyczki:2013-05-17 00: 44: dziewiętnaście 612 INFO plugin.PluginRepository (PluginRepository.java:displayStatus(317)) NIE2013-05-17 00: 44: 23 613 INFO plugin.PluginRepository (PluginRepository.java:displayStatus(324)) - Zarejestrowane rozszerzenia punktów q:2013-05-17 00: 44: 18 613 INFO plugin.PluginRepository (PluginRepository.java:displayStatus(326)). NIC2013-05-17 00: 44: 18 615 WARN mapred.LocalJobRunner (LocalJobRunner.java:run(256)) - job_local_0001java.lang.RuntimeException: błąd podczas konfigurowania obiektu w org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:93) przechodząc do org.apache.hadoop.util.ReflectionUtils.setConf (ReflectionUtils.java:64) autor: org.apache.hadoop.util.ReflectionUtils.newInstance (ReflectionUtils.java:117) pod org.apache.hadoop.mapred.MapTask.runOldMapper (MapTask.java:354) pod org.apache.hadoop.mapred.MapTask.run (MapTask.java:307) oprócz org.apache.hadoop.mapred.LocalJobRunner $ Job.run (LocalJobRunner.java:177)Spowodowane przez: java.lang.reflect.InvocationTargetException z sun.reflect.NativeMethodAccessorImpl.invoke0 (metoda natywna) za pomocą sun.reflect.NativeMethodAccessorImpl.invoke (źródło nieznane) można kupić na sun.reflect.DelegatingMethodAccessorImpl.invoke (źródło nieznane) za pomocą java.lang.reflect.Method.invoke (źródło nieznane) nad org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:88) ... 5 więcejSpowodowane przez: java.lang.RuntimeException: błąd podczas konfigurowania obiektu w org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:93) można znaleźć na org.apache.hadoop.util.ReflectionUtils.setConf (ReflectionUtils.java:64) w org.apache.hadoop.util.ReflectionUtils.newInstance (ReflectionUtils.java:117) w org.apache.hadoop.mapred.MapRunner.configure (MapRunner.java:34) ... jeszcze dziesięćSpowodowane przez: java.lang.reflect.InvocationTargetException przechodząc do sun.reflect.NativeMethodAccessorImpl.invoke0 (metoda natywna) podczas sun.reflect.NativeMethodAccessorImpl.invoke (źródło nieznane) at sun.reflect.DelegatingMethodAccessorImpl.invoke (źródło nieznane) java.lang.reflect.Method.invoke (źródło nieznane) autor: org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:88) ... więcej czternaściePrzyczyna: java.lang.RuntimeException: x direct org.apache.nutch.net.URLNormalizer nie został znaleziony. tylko z normalizatorami org.apache.nutch.net.URL. (URLNormalizers.java:123) pod adresem org.apache.nutch.crawl.Injector $ InjectMapper.configure (Injector.java:74) ... 18 więcej2013-05-17 00: 44: 15 520 INFO mapred.JobClient (JobClient.java:monitorAndPrintJob(1288)) - Mapa Google 0% spadek 0%2013-05-17 00: 44: 19 523 INFO mapred.JobClient (JobClient.java:monitorAndPrintJob(1343)) i zakończone zadanie: job_local_00012013-05-17 00: 44: 25 524 INFO mapred.JobClient (Counters.java:log(514)) - Licznik: 0Wyjątek po wewnętrznej stronie sznurka „main” java.io.IOException: Zadanie nie powiodło się! tuż obok org.apache.hadoop.mapred.JobClient.runJob (JobClient.java:1252) org.apache.nutch.crawl.Injector.inject (Injector.java:281) pod adresem org.apache.nutch.crawl.Crawl.run (Crawl.java: 132) pod org.apache.hadoop.util.ToolRunner.run (ToolRunner.java:65) tylko z org.apache.nutch.crawl.Crawl.main (Crawl.java:55)
Dużo badałem, ale znalazłem rozwiązanie, które w większości działało.Proszę zasugeruj.
Cześć JasonNa dole twojego pamiętnika znajduje się zalecana notatka* Wywołane przez: java.lang.NoClassDefFoundError:org lub apache / tika / mime / MimeTypeExceptionDOorg.apache.nutch.indexer.more.MoreIndexingFilter.setConf (MoreIndexingFilter.java:291)DOorg.apache.nutch.plugin.Extension.getExtensionInstance (Rozszerzenie.java:162)pod adresem org.apache.nutch.indexer.IndexingFilters.(IndexingFilters.java:69)DOorg.apache.nutch.indexer.IndexerMapReduce.configure (IndexerMapReduce.java:65)...dwadzieścia dwa więcejSpowodowane przez: java.lang.ClassNotFoundException:org.apache.tika.mime.MimeTypeExceptionpod adresem java.net.URLClassLoader $ 1.run (URLClassLoader.java:202)pod adresem java.security.AccessController.doPrivileged (metoda natywna)pod adresem java.net.URLClassLoader.findClass (URLClassLoader.java:190)w java.lang.ClassLoader.loadClass (ClassLoader.java:306)w sun.misc.Launcher $ AppClassLoader.loadClass (Launcher.java:301)pod adresem java.lang.ClassLoader.loadClass (ClassLoader.java:247)... 25 więcej ***dla niektórych wydaje się, że tika-core-1.2.jar prawie go nie znajduje. spodziewam się tego otrzymaćIdziesz do "runtime or deploy / nutch", czy możesz dokładnie sprawdzić działający plik?zaznacz zawiera lib?HTHjuliański1 listopada 2012, godz. 14:00, Jason Stubblefield napisał:> Witam,>> próbuję wykonać własne polecenie solrindex z klastra Hadoop> Normalny, ale po uruchomieniu polecenia podkreśl pojawia się komunikat o błędzie.> przy promowaniu obiektów „message:”>> bin/nutch solrindex http: //176.34.241.Crawl/crawldb> 135: 8983 / solr / -linkdb scan lub scan linkdb / segments / 20121030152842>> Wszystkie alternatywne funkcje działają dobrze, w tym badania> Analiza itp. Myślę, że to jest coś, jeśli chcesz pomóc w pracy z solr, ale nie jestem> Dowiedz się, jaki może być problem.>> Komputer internetowy Solr działa dobrze, uważa się, że nasz własny zespół lokalny również działa> Tryb działa z niektórymi utworzonymi przez te same dane. Często wydaje się, że bardzo ważne dane> to jest hadoop.log. Czy dokładnie potwierdziłem, kto NUTCH_CONF_DIR i NUTCH_HOME są ustawione?> i w prawo.>> Jakieś pomysły? Wielkie dzięki!>> ~ Jason>> java.lang.RuntimeException: błąd podczas konfigurowania obiektu> do> org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:93)> podczas org.apache.hadoop.util.ReflectionUtils.setConf (ReflectionUtils.java:64)> do> org.apache.hadoop.util.ReflectionUtils.newInstance (ReflectionUtils.java:117)> do org.apache.hadoop.mapred.MapTask.runOldMapper (MapTask.java:432)> pod adresem org.apache.hadoop.mapred.MapTask.run (MapTask.java:372)> przez org.apache.hadoop.mapred.Child funds 4.run (Child.java:255)> pod java.security.AccessController.doPrivileged (metoda natywna)> pod adresem javax.security.auth.Subject.doAs (Subject.java:396)> do> org.apache.hadoop.security.UserGroupInformation.doAs (UserGroupInformation.java:1121)> pod adresem org.apache.hadoop.mapred.Child.main (Child.java:249)> Spowodowane czasy: java.lang.reflect.InvocationTargetException> z sun.reflect.NativeMethodAccessorImpl.invoke0 (metoda natywna)> do> sun.reflect.NativeMethodAccessorImpl.invoke (NativeMethodAccessorImpl.java:39)> do> sun.reflect.DelegatingMethodAccessorImpl.invoke (DelegatingMethodAccessorImpl.java:25)> w java.lang.reflect.Method.invoke (Method.java:597)> do> org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:88)> ... 9 więcej> Zgłaszane za pomocą: java.lang.RuntimeException: przeoczenie а podczas konfigurowania obiektu> do> org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:93)> podczas org.apache.hadoop.util.ReflectionUtils.setConf (ReflectionUtils.java:64)> do> org.apache.hadoop.util.ReflectionUtils.newInstance (ReflectionUtils.java:117)> dla org.apache.hadoop.mapred.MapRunner.configure (MapRunner.java:34)> ... 16 więcej> Spowodowane z powodu: java.lang.reflect.InvocationTargetException> tylko z sun.reflect.NativeMethodAccessorImpl.invoke0 (metoda natywna)> do> sun.reflect.NativeMethodAccessorImpl.invoke (NativeMethodAccessorImpl.java:39)> do> sun.reflect.DelegatingMethodAccessorImpl.invoke (DelegatingMethodAccessorImpl.java:25)> w java.lang.reflect.Method.invoke (Method.java:597)> do> org.apache.hadoop.util.ReflectionUtils.setJobConf (ReflectionUtils.java:88)> ... 17 więcej>>>-** Rozwiązania typu open source do inżynierii tekstuhttp://digitalpebble.blogspot.com/http://www.digitalpebble.comhttp://twitter.com/digitalpebble
Nutch Hadoop Error In Configuring Object
개체 구성 시 Nutch Hadoop 오류
Ошибка Nutch Hadoop при настройке объекта
Errore Nutch Hadoop Nella Configurazione Dell’oggetto
Erro Do Nutch Hadoop Na Configuração Do Objeto
Nutch Hadoop-Fehler Beim Konfigurieren Des Objekts
Nutch Hadoop-fel Vid Konfigurering Av Objekt
Nutch Hadoop-fout Bij Het Configureren Van Object
Erreur Nutch Hadoop Lors De La Configuration De L’objet
Error De Nutch Hadoop Al Configurar El Objeto