daisy created FLUME-3309:
----------------------------
Summary: 多文件采集时,因inode重复,造成文件读取异常
Key: FLUME-3309
URL: https://issues.apache.org/jira/browse/FLUME-3309
Project: Flume
Issue Type: Improvement
Components: File Channel
Affects Versions: 1.8.0, 1.7.0
Environment: linux
Reporter: daisy
1)前提
读取一个目录下的所有文件,文件名包含年月日时分秒,每天凌晨删除前一天文件。
2)现象
部分记录丢失,或者部分记录被截断,同时日志中不断出现Pos ** is larger than file size! Restarting from pos
0 信息。
3)问题分析
文件通过inode进行唯一标识,ReliableTaildirEventReader类中的tailFiles变量只有不断新增,没有删除。当文件从磁盘删除后,inode就会被重用,会出现同一个inode对应不同的文件。同一个inode第二次被使用时,如果当前文件小于已经删除的文件大小,pos被重置为0,,不存在问题;一旦当前文件大于已经删除的文件大小,就会按照老位置继续读取文件,信息就发生丢失。
--
This message was sent by Atlassian JIRA
(v7.6.3#76005)