test de ré-indexation complète sur un noeud vierge sur vp-istex-es2 #25

Actuellement, j'ai tout réindexer sauf Elsevier, que je viens de lancer

Pour l'instant, ES ne bronche pas, malgré un petit peu de swapping.
plus de 8 millions de docs sont déjà indexés

La machine a 6 Go de mémoire, on peut en ajouter.

Oui parce que ca a finit par monter en swap 1085/1951.

En suivant l'indexation en cours sur différents écrans (li,es2,vcenter) on a assisté à un freeze en direct de l'indexation (sur la vp-istex-es2 donc) du à manque d'espace dans le datastore sous-jacent. Les ASR ont redonné de l'espace et la machine a repris son cours (20mn de freeze, de 17h20 à 17h42).

=> Il faudrait voir ce que vous avez constaté côté processus d'indexation li pendant cet évènement.

On a un doute du coté la vraie valeur utilisée dans le Xmx de l'ES de la vp-istex-es2 ; dans la cli d'ES on voit deux specifs du Xmx : Xmx3g et Xmx1g.

0 S istex 24522 1 99 80 0 - 5721611 futex_ Mar05 ? 2-09:27:30 /opt/java/jdk1.8.0_31/bin/java -Dhttp.proxyHost=proxyout.inist.fr -Dhttp.proxyPort=8080 -Dhttps.proxyHost=proxyout
ist.fr -Dhttps.proxyPort=8080 -Xmx3g -Xms3g -Xms256m -Xmx1g -Xss256k -Djava.awt.headless=true -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:CMSInitiatingOccupancyFraction=75 -XX:+UseCMSInitiat
OccupancyOnly -XX:+HeapDumpOnOutOfMemoryError -XX:+DisableExplicitGC -Dfile.encoding=UTF-8 -Delasticsearch -Des.pidfile=/applis/istex/home/es-node.pid -Des.path.home=/applis/istex/home/elasti
arch -cp :/applis/istex/home/elasticsearch/lib/elasticsearch-1.4.3.jar:/applis/istex/home/elasticsearch/lib/:/applis/istex/home/elasticsearch/lib/sigar/ -Des.config=/applis/istex/home/conf-
config/elasticsearch.yml org.elasticsearch.bootstrap.Elasticsearch

D'après StackOverflow (http://stackoverflow.com/questions/22095305/java-daemons-launched-with-multiple-xmx-option-hadoop), c'est le dernier qui parle qui a raison. Donc on resterait sur le 1Go de Heap.

A l'heure où on écrit ces lignes, il n'y a plus d'activité sur la vp-istex-es2.

Désolé, je suis parti vers 16h20 vendredi.

Constats faits ce matin :

• seulement 27% d'elsevier indexé ce matin
• pas grand chose au niveau des logs d'ES. Il faut dire qu'on avait baissé le niveau de "verbosité" parce que ça prenait BEAUCOUP d'espace disque
• du côté du client ayant lancé l'indexation, beaucoup de message de type "erreur ... timeout" à partir d'un certain moment.

Concernant la heap size, j'ai fait quelques tests en utilisant les variables d'environnement JAVA_OPTS, puis ES_HEAP_SIZE. J'étais restais sur la 2ème solution, constatant que le process d'ES utilisait plus qu'un Go, apparemment ce n'est pas si simple...

Je passe vous voir ce matin.

Au fait, on s'est fait une page dédiée au paramétrage d'Elasticsearch sur le Wiki ISTEX : http://wiki.istex.fr/elasticsearch/tuning (authentification LDAP IA)