> A la question plus générale (et liée au billet sur le P2P) : "Comment
> utiliser un système Grid pour distribuer crawling/indexing " ?

En fait, ce n'était pas vraiment ma question.
;-)

En passant, je te conseille vraiment de jeter un coup d'oeil à la dernière
version de Nutch, car ce que tu décrivais dans ton message précédent est
exactement l'architecure de la version en cours (implémentant un framework
map-reduce 
http://wiki.apache.org/nutch-data/attachments/Presentations/attachments/oscon05.pdf
et/ou<http://wiki.apache.org/nutch-data/attachments/Presentations/attachments/oscon05.pdfet/ou>
http://wiki.apache.org/nutch-data/attachments/Presentations/attachments/mapred.pdf
).


> Donc pour plus de questions n'hésitez pas ?

Ma question est simple en fait:
Tu as une configuration des processus qui vont tourner sur ta grille de
calcul: Dans le cas d'un moteur de recherche, on pourrait imaginer : le
nombre de threads par host que utilise pour crawler, la valeur de timeout
d'une réponse, etc ...
Comment configure-tu cela? Je parle de manière générale, dans les grid,
quelle est la pratique habituelle?
Chaque fois que je vais créer un nouveau job, je lui passe la configuration
qui va bien?
La configuration est centralisée sur un noeud en particulier?
L'administrateur change la configuration, comment est propagée cette info?

Ah oui au fait Jerome, j'espere que j'ai répondu à ta question, pk je ne
> suis meme pas sur d'avoir bien compris :p

Cf ci dessus...    ;-)

Jérôme

--
http://motrech.free.fr/
http://www.frutch.org/


[Les parties de ce message comportant autre chose que du texte seul on été 
supprimées]



---------------------------------
motrech - http://motrech.free.fr/
frutch  - http://www.frutch.org/
--------------------------------- 
Liens Yahoo! Groupes

<*> Pour consulter votre groupe en ligne, accédez à :
    http://fr.groups.yahoo.com/group/motrech/

<*> Pour vous désincrire de ce groupe, envoyez un mail à :
    [EMAIL PROTECTED]

<*> L'utilisation de Yahoo! Groupes est soumise à l'acceptation des :
    http://fr.docs.yahoo.com/info/utos.html
 



Répondre à