- - - - - - - - - - - - - - - - - - - - - - - - - - - -
Name: ooptimum
Subject: Re: Как на FTP индексировать только *.txt, *.htm[l] и каталоги?

Прописал в конфиге следующие параметры:
[pre]Allow NoCase Regex ^ftp://.*(\.txt|\.htm|\.html|/)$
CheckOnly ftp://*[/pre]
Затем удалил все документы, загруженные с ftp ранее: indexer -Cu ftp://%, и 
заново запустил индексацию. Сегодня утром обнаружил, что много документов с ftp 
попало в таблицу url. Теперь непонятно, как отделить проиндексированные 
документы от тех, которые попали под правило CheckOnly, ведь в таблице url у 
тех и у других указан реальный размер (docsize). Раньше я пользовался таким 
методом, чтобы искать большие документы и, во-первых, запрещать расширения 
файлов (Disallow), и, во-вторых, удалять их из базы:
[pre]mysql> select max(docsize) from url;
+--------------+
| max(docsize) |
+--------------+
|    172148127 |
+--------------+
1 row in set (24.22 sec)

mysql> select rec_id,url from url where docsize=172148127;
+---------+----------------------------------------------------------------------------------------------------------------------------+
| rec_id  | url                                                                 
                                                       |
+---------+----------------------------------------------------------------------------------------------------------------------------+
| 3565720 | ftp://ftp.babilon-t.tj/Music/TRANCE/Crazy Trance/A.S.O.T. -  
241/Armin_van_Buuren_-_A_State_Of_Trance_241_[23-03-2006].mp3 |
+---------+----------------------------------------------------------------------------------------------------------------------------+
1 row in set (1.29 sec)[/pre]

Как теперь отличить те, которые присутствуют в индексе и базе stored от тех, 
которые проверяются по CheckOnly, -- непонятно.

P.S. Большие значения time у MySQL из-за load average: 10.06, 8.60, 8.04.
- - - - - - - - - - - - - - - - - - - - - - - - - - - -

Read the full topic here:
http://www.dataparksearch.org/cgi-bin/simpleforum.cgi?fid=05;topic_id=1198339888

Ответить