[DISTCC]Dudas con MAKEOPTS (Solucionado)

Coghan · Last edited by Coghan on Tue Aug 05, 2008 12:13 am; edited 3 times in total

¿Alguien sabe por algún casual por qué sin usar distcc el handbook http://www.gentoo.org/doc/es/handbook/handbook-amd64.xml?part=1&chap=5#doc_chap4 recomienda usar en el make.conf la variable MAKEOPTS="-jN" poner la como el número de CPU+1 y cuando usas distcc según el manual http://www.gentoo.org/doc/es/distcc.xml#doc_chap2 recomienda poner (CPU*2)+1?

Si esto es correcto ¿puedo redirigir la compilación por distcc a localhost solamente y subir MAKEOPTS como dice el la guía distcc?.
_________________
Salu2.

Inodoro_Pereyra · Posted: Sun Jan 20, 2008 4:55 am Post subject:

Redirigir la compilación a localhost y compilar sin distcc sería exactamente lo mismo. Todo dependerá de makeopts justamente...
Si hay otro microprocesador desocupado en tu red, makeopts = ( numero de CPUs implicados * 2 ) + 2 es la mejor combinación aparentemente, al menos en las pruebas que he hecho.

Si no hay ningún otro microprocesador desocupado en tu red, no vas a notar diferencia incrementando el numero de compilaciones en paralelo con makeopts e inclusive si le ponés un numero demasiado alto, por el contrario puede aumentar el tiempo de compilación.

Aún así, distcc no llega a ser tan eficiente como un buen chroot por red desde la pc "con los recursos" a la carpeta / exportada con NFS de la pc "sin recursos", en caso de que este sea tu problema.

Salud!
_________________
Mi Blog.

Si no fuera por C, estaríamos escribiendo programas en BASI, PASAL y OBOL.

i92guboj · Posted: Sun Jan 20, 2008 7:58 am Post subject:

Como ya dicen arriba, ese rodeo no te va a servir para nada.

Aumentando el valor de -j lo único que aumentas es el número de hilos que va a lanzar make a la hora de compilar cosas. Esto tiene básicamente estos efectos:

1.- Lanza más hilos, ocupando más memoria, por supuesto.
2.- Al haber más hilos ejecutándose, hay menos posibilidad de que se pierda tiempo de cpu. Cuando un hilo está haciendo entrada/salida, a veces tiene que esperar y la cpu se queda desaprovechada, pero si hay 100 hilos pues es más difícil que haya cpu desaprovechada en un momento dado.
3.- Como consecuancia de 1, puede que se llene la ram y se comience a hacer swap, por eso no hay que pasarse con el valor de -j. Si llegas a tocar swap entonces el daño será mayor que el beneficio.

Por lo demás, usar distcc para compilar en una sola máquina es superfluo y seguramente hasta ligeramente nocivo, y no tiene mucho sentido. Si lo que quieres es subir el valor de -j, lo puedes hacer tú directamente, no necesitas oscuros trucos, eso si, experimenta y vigila el uso de la ram. Las fórmulas que da el handbook son valores que normalmente son óptimos, pero no es algo que sea matemático.

Coghan · Posted: Sun Jan 20, 2008 12:50 pm Post subject:

Inodoro_Pereyra · Posted: Mon Jan 21, 2008 5:23 pm Post subject:

El valor que te sugiero para makeopts es resultado de mi experimentación simplemente donde armé una granja distcc de 5 pc todas diferentes en capacidad, midiendo tiempos de compilación con time.
Un valor mayor me incrementaba los tiempos de compilación pero las pc iban desde un athlon (k7) de 1200 hasta un athlon64 3500+ en su momento... Probablemente alguna de las pc me ralentizaba a las demás al incrementar el valor...

Vas a tener que jugar con este valor e ir probando que resultados obtenés... Hoy en día no lo uso mas, chroot me da mejores resultados.

Sobre tu otra pregunta, no la termino de entender, si ves todos los procesos de compilación desde el cliente y lo que necesitas ver es el estado en el server, un buen top o htop es lo que usaría yo.

No sé que tan inteligente es distcc cuando además se compile en local pero muy probablemente toda la carga la distribuyan el gcc y el kernel y a menos que hayas cambiado el niceness será lo mas parejo posible.

En el caso de que distcc no se pueda conectar con el server siempre compilará en local, un makeopts dinámico no se me ocurre como implementarlo... A ver que dice i92 que seguramente tiene la respuesta.

Salud!
_________________
Mi Blog.

Si no fuera por C, estaríamos escribiendo programas en BASI, PASAL y OBOL.

Coghan · Posted: Mon Jan 21, 2008 5:42 pm Post subject:

ColdWind · Posted: Thu Jan 24, 2008 12:23 pm Post subject:

Un MAKEOPTS "dinámico" se puede implementar en /etc/portage/bashrc.

AVISO: NADA que hagas en ese fichero está soportado oficialmente, y si rompes algo por esa via es probable que te digan que te vayas a llorar a otra parte.

La forma de implementarlo que me ocurre es bastante guarra y seria pillar la lista de hosts con distcc-config --get-hosts, hacer un ping a cada uno de ellos para obtener el número de hosts operativos y en función de eso exportar MAKEOPTS con el valor adecuado. El problema es que eso no tendría en cuenta el caso de que tu servidor esté online pero no esté corriendo distccd.

Conclusión, en lugar de un MAKEOPTS "dinámico" será mejor que uses MAKEOPTS="-j2" emerge blah cuando estés compilando únicamente en local.

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

Las versiones de distcc que están en ~arch tienen un nuevo USE avahi, con lo que se consigue una detección automática de las máquinas implicadas y las compilaciones a distribuir se configuran automáticamente.

https://bugs.gentoo.org/show_bug.cgi?id=203874

Los chavales de bashrc-ng tb. tienen un módulo que hace mas o menos lo que dice ColdWind.

por si a alguien le resulta de utilidad ...

saluetes
_________________
Error: Failing not supported by current locale

Coghan · Posted: Thu Jan 24, 2008 3:26 pm Post subject:

Stolz · Posted: Wed Jul 30, 2008 3:45 pm Post subject:

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

con avahi no te puedo ayudar, no lo uso. Lo probé y no distribuía tan agresivamente como a mi me gustaba asi que no me paré mucho en ver como funcionaba.

Como comenté arriba, los de bashrc-ng tienen un módulo que mas o menos hace lo que comentaba Coldwind, detecta a base a pings los hosts disponibles, no es un método que me guste y no tengo ni idea de si funciona con versiones recientes de portage. Prueba a ver ...

que por cierto, ya que se habla de este tema-> http://planet.gentoo.org/developers/zmedico/2008/07/23/portage_parallel_builds

saluetes
_________________
Error: Failing not supported by current locale

Inodoro_Pereyra · Posted: Wed Jul 30, 2008 6:27 pm Post subject:

Coghan · Posted: Wed Jul 30, 2008 7:08 pm Post subject:

Coghan · Posted: Wed Jul 30, 2008 9:42 pm Post subject:

Esto me ha obligado buscar más información porque este tema va cambiado de revisión en revisión, así que toca la lectura profunda de la última página man disponible:

http://distcc.googlecode.com/svn/trunk/doc/web/man/distcc_1.html

Esta habla sobre cargar la variable DISTCC_HOSTS, también comenta algo sobre poder asignar hilos a mano por host. aún no la he leído completa.
_________________
Salu2.

Stolz · Posted: Thu Jul 31, 2008 10:42 am Post subject:

Gracias por las respuestas y por los enlaces. Las nuevas features de Portage 'se salen'

No se por qué pero no me ha funcionado modificando make.conf con

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

Inodoro_Pereyra · Posted: Fri Aug 01, 2008 3:45 am Post subject:

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

um, el caso es que a través del planet de gentoo ( concretamente este artículo ) me entero de que existe una nueva versión en desarollo de distcc. Acudo a su web, entro en su man y (entre otras cosas) leo un par de cosas interesantes :

Inodoro_Pereyra · Posted: Mon Aug 04, 2008 5:06 pm Post subject:

Que hacés cuando no vas por la red leyendo manuales y changelogs gringo?

Me pregunto como irá sobre internet... Uso distcc sobre una conexión con 64KB de upstream y me va bastante bien, me imagino que en modo pump debe consumir mas ancho de banda... Habrá que probar, gracias!

Salud!
_________________
Mi Blog.

Si no fuera por C, estaríamos escribiendo programas en BASI, PASAL y OBOL.

Coghan · Posted: Tue Aug 05, 2008 12:02 am Post subject:

La idea es conseguir un MAKEOPTS dinámico según los servidores distcc activos en la red local.

Hasta que la versión 3 de distcc esté disponible (gracias gringo por la info), esto es lo que he ido descubriendo hasta ahora con las versiones actuales de portage:

+zeroconf Solo consigo que autodetecte el servicio distccd en la máquina local, no he conseguido que detecte el servicio ejecutado en otra PC de la red local, he revisado tanto puertos TCP/3632 (distccd) como UDP/5353 (zeroconf), como resolución dns inversa, pero sin conseguir resultados. Por lo tanto decidí no usar esta opción en el DISTCC_HOSTS, pero como USE de sys-devel/distcc debe estar activa para tener la opción 'distcc -j'
DISTCC_HOSTS Debe estar definida como variable de entorno global, no funciona si la ponemos en /etc/make.conf, la podéis poner en vuestro .bashrc como en el de root, yo lo he puesto en /etc/env.d/02distcc. Colocar aquí la lista de todos los hosts que tenéis ejecutando el demonio distccd, recomiendo ponerlo del modo hosts:3632/4 (equipo:puerto/hilos), si no especificáis los hilos al realizar un distcc -j este asignará unos valores que desde mi punto de vista no son reales, como esto es muy subjetivo depende de cada uno como quiera configurarlo. Yo estoy usando 2 hilos por procesador bajo distcc y el recomendado por el manual distcc de Gentoo, procesadores+1.

SCRIPT: He puesto el siguiente script makeopts.sh bajo /usr/local/bin, este directorio también está bajo mi PATH. Primero detecta si tienes distcc habilitado en tu make.conf, si no es así omite la búsqueda de servidores distcc y ejecuta emerge de la manera tradicional, para esto es importante tener en nuestro make.conf la variable MAKEOPTS="-jN" normal cuando no usamos distcc.

El siguiente paso es detectar los hosts que hemos configurado antes en nuestra variable DISCTCC_HOSTS, incluso tiene en cuenta si aquí hemos puesto además del hosts el puerto y los hilos y el resto de opciones que puedes configurar en esta variable, luego comprueba uno a uno si el servicio está levantado mediante nmap al puerto 3632, si alguno no está activo no lo tiene en cuenta en la configuración final.

finalmente pasa la variable DISTCC_HOST final para lanzar emerge con el MAKEOPTS adecuado. Estás variables no se mantienen de forma global por lo tanto se calcularán en cada emerge que se realice.

Code:

#!/bin/bash

# Llocaliza servidores distcc activos en la red local para
# poder asignar a nuestra variable MAKEOPTS en
# /etc/make.conf un valor dinámico.

TEMPHOSTS=""

. /etc/make.conf

if [ `echo ${FEATURES} | grep -q -e distcc ; echo $?` == 0 ] && [ `echo ${FEATURES} | grep -q -e -distcc ; echo $?` != 0 ]; then
for DHOSTS in ${DISTCC_HOSTS}; do
      HOST=${DHOSTS#*@}
      HOST=${HOST%:*}
      HOST=${HOST%/*}

      NMAP=$(nmap -p3632 -PN -n ${HOST} | grep open)
      if [ -n "$NMAP" ];then
      TEMPHOSTS="${TEMPHOSTS} ${DHOSTS}"
      fi
done
DISTCC_HOSTS="${TEMPHOSTS}"
MAKEOPTS="-j$(distcc -j)" emerge $@
else
emerge $@
fi

ALIAS Finalmente he creado el siguiente alias en mi $HOME/.bashrc

Code:

alias emerge='makeopts.sh $@'

Ahora al hacer un emerge --info |grep MAKEOPTS obtendréis resultados diferentes en función de si tenéis distcc activado y/o los demonios distccd activos en todas las máquinas de la red local.

Creo que no se me queda nada atrás, si encontráis una manera mejor de hacerlo os agradecería que lo comentarais.
_________________
Salu2.

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

se me olvidó decir ayer que en el paquete del nuevo distcc, en la carpeta contrib, está el siguiente script ( entre otros) :

Coghan · Posted: Wed Aug 06, 2008 2:01 am Post subject:

Stolz · Posted: Wed Aug 06, 2008 10:30 am Post subject:

A mi la opción zeroconf sí me funciona y me puedo olvidar DISTCC_HOSTS. Me dio problemas porque no había compilado avahi con USE="dbus". Por si es un problema de red, si usas IPtables puedes configurarlo para que guarde en el log del sistema los paquetes que está rechazando para ver si detectas el problema:

iptables -N LOGDROP
iptables -A LOGDROP -j LOG
iptables -A LOGDROP -j DROP

Espero que sirva de algo

gringo · Advocate Joined: 27 Apr 2003 Posts: 3793

Coghan · Posted: Wed Aug 06, 2008 1:03 pm Post subject: