Docsity
Docsity

Prepara tus exámenes
Prepara tus exámenes

Prepara tus exámenes y mejora tus resultados gracias a la gran cantidad de recursos disponibles en Docsity


Consigue puntos base para descargar
Consigue puntos base para descargar

Gana puntos ayudando a otros estudiantes o consíguelos activando un Plan Premium


Orientación Universidad
Orientación Universidad


Cluster Distribuido con Google Cloud Platform y Cloudera Manager, Apuntes de Ciencias

Este documento detalla los requisitos y pasos para instalar y configurar un cluster distribuido utilizando google cloud platform (gcp) y cloudera manager. El documento incluye la creación de máquinas virtuales en gcp, la configuración de seguridad y el proceso de instalación y configuración de cloudera manager. Además, se proporcionan referencias a recursos adicionales.

Tipo: Apuntes

2019/2020

Subido el 23/12/2020

gino-camizan
gino-camizan 🇺🇾

1 documento

1 / 3

Toggle sidebar

Esta página no es visible en la vista previa

¡No te pierdas las partes importantes!

bg1
INSTALACIÓN Y/O CONFIGURACIÓN DE UN CLUSTER DISTRIBUIDO
UTILIZANDO GOOGLE CLOUD PLATFORM Y CLOUDERA MANAGER
DOCENTE: MSC. WILDER NINA CHOQUEHUAYTA
1. Requisitos
Máquinas Virtuales
- Master: 2 CPU, 8GB RAM, 40GB DISCO y CENTOS 7
- Worker01/Worker02,Worker03: 2 CPU, 4GB RAM, 30GB DISCO y
CENTOS 7
Software
- Cloudera Manager 5.16 (CDH 5.16)
2. Instrucciones
- Creación de máquinas virtuales utilizando GCP (Compute Engine)
- Configuración de Firewall, IPv6 y Seguridad en todas las máquinas
virtuales
#Acceso de ROOT
$sudo -i
#Instalar wget
$yum -y install wget
#Modificar Security-Enhanced Linux (SELinux)
$setenforce 0
$vi /etc/selinux/config
SELINUX=disabled
#Modificar el acceso de ROOT
$vi /etc/ssh/sshd_config
PermitRootLogin yes
PasswordAuthentication yes
ChallengeResponseAuthentication yes
#Deshabilitar el IPV6
$vi /etc/sysctl.conf
net.ipv6.conf.all.disable_ipv6 = 1
net.ipv6.conf.default.disable_ipv6 = 1
net.ipv6.conf.lo.disable_ipv6 = 1
$sysctl -p
pf3

Vista previa parcial del texto

¡Descarga Cluster Distribuido con Google Cloud Platform y Cloudera Manager y más Apuntes en PDF de Ciencias solo en Docsity!

INSTALACIÓN Y/O CONFIGURACIÓN DE UN CLUSTER DISTRIBUIDO

UTILIZANDO GOOGLE CLOUD PLATFORM Y CLOUDERA MANAGER

DOCENTE: MSC. WILDER NINA CHOQUEHUAYTA

  1. Requisitos

Máquinas Virtuales

  • Master: 2 CPU, 8GB RAM, 40GB DISCO y CENTOS 7
  • Worker01/Worker02,Worker03: 2 CPU, 4GB RAM, 30GB DISCO y CENTOS 7

Software

  • Cloudera Manager 5.16 (CDH 5.16)
  1. Instrucciones
  • Creación de máquinas virtuales utilizando GCP (Compute Engine)
  • Configuración de Firewall, IPv6 y Seguridad en todas las máquinas virtuales

#Acceso de ROOT $sudo -i

#Instalar wget $yum -y install wget

#Modificar Security-Enhanced Linux (SELinux) $setenforce 0 $vi /etc/selinux/config SELINUX=disabled

#Modificar el acceso de ROOT $vi /etc/ssh/sshd_config

PermitRootLogin yes PasswordAuthentication yes ChallengeResponseAuthentication yes

#Deshabilitar el IPV $vi /etc/sysctl.conf net.ipv6.conf.all.disable_ipv6 = 1 net.ipv6.conf.default.disable_ipv6 = 1 net.ipv6.conf.lo.disable_ipv6 = 1 $sysctl -p

  • Instalación del Cloudera Manager Express 5.16 en master node
  1. Adicional
  • Desinstalar Instalación del Cloudera Manager en todas las máquinas virtuales

Este punto, solo en caso se quiera desinstalar el cloudera manager por errores en el anterior paso. Otra solución es volver a crear las máquinas virtuales.

WordCount https://docs.cloudera.com/documentation/other/tutorial/CDH5/topics/ht_usage.html

$cat /proc/sys/net/ipv6/conf/all/disable_ipv

#Deshabilitar Firewall $systemctl stop firewalld $systemctl disable firewalld $systemctl status firewalld

#Cambiar de password al root $passwd $init 6

#Acceso de ROOT $sudo -i

#Instalar cloudera manager $wget http://archive.cloudera.com/cm5/installer/latest/cloudera-manager-installer.bin $ls $chmod u+x cloudera-manager-installer.bin $./cloudera-manager-installer.bin

#Acceso de ROOT $sudo -i $sudo rm -r /usr/share/cmf/* $sudo rm -r /var/lib/cloudera-scm-* $sudo rm -r /etc/cloudera-scm-* $sudo init 6

#Revisar en caso que falle $cat /var/log/cloudera-manager-installer/7.start-embedded-db.log $cat /var/log/cloudera-scm-server/cloudera-scm-server.log