Cuprins:

Cum programez o slujbă de stup în oozie?
Cum programez o slujbă de stup în oozie?

Video: Cum programez o slujbă de stup în oozie?

Video: Cum programez o slujbă de stup în oozie?
Video: Mai mult decât cafea: Golang. De ce dezvoltatorii Java învață GO ca a doua limbă. 2024, Noiembrie
Anonim

La programați jobul Hive folosind Oozie , trebuie să scrieți a Stup -acțiune.

hql) în ea.

  1. Creați un director în HDFS lansând comanda de mai jos.
  2. hadoop fs -mkdir -p /utilizator/ oozie /fluxuri de lucru/
  3. Pune fluxul de lucru. xml, Stup script (create_table. hql) și stup -site. xml în directorul creat la pasul 2. Puteți folosi comanda de mai jos.

Doar așa, cum rulez scriptul Hive în oozie?

Rulați Hive Jobs cu Oozie

  1. Specificați locul stupului. xml în parametrul job-xml.
  2. Specificați numele scriptului (de exemplu, script. q) care conține interogarea hive în parametrul scriptului.
  3. Opțional, adăugați proprietăți utilizate de jobul de lansare Oozie. Adăugați prefixul oozie. lansator la numele proprietăților.

În plus, cum rulez fluxul de lucru oozie? Rularea fluxului de lucru Oozie din linia de comandă

  1. Conectați-vă la Consola Web.
  2. Copiați exemple de oozie în directorul dvs. de pornire în consola web: cp /usr/hdp/current/oozie-client/doc/oozie-examples. gudron. gz.
  3. Extrageți fișierele din tar tar -zxvf oozie-examples.tar.gz.
  4. Copiați directorul de exemple în exemplele HDFS hadoop fs -copyFromLocal.

În acest sens, cum programez un job Hadoop?

Cum să programați locuri de muncă în hadoop - Quora. Cea mai simplă modalitate este să împachetați codul într-un script shell și programa este ca un cron loc de munca pe nodul de margine (nodul în care de obicei trimiteți dvs locuri de munca ). Dar, de obicei, împachetați codul într-un script și rulați-l ca a loc de munca este greu de depanat. testati si intretineti.

Ce este fluxul de lucru oozie?

Oozie este o fluxul de lucru sistem de planificare pentru a gestiona joburile Apache Hadoop. Flux de lucru Oozie locurile de muncă sunt grafice aciclice direcționate (DAG) ale acțiunilor. Oozie Posturile de coordonator sunt recurente Flux de lucru Oozie locuri de muncă declanșate de timp (frecvență) și disponibilitatea datelor. Oozie este un sistem scalabil, fiabil și extensibil.

Recomandat: