Logstash слишком много файлов открылось?

Я бег logstash 1.4.1 и запустить его я получаю следующее на консоли:Logstash слишком много файлов открылось?

failed to open /home/Desktop/Input/2014-11-03/abc.log: Permission denied - /home/Desktop/Input/2014-11-03/abc.log {:level=>:warn} 
    failed to open /home/Desktop/Input/2014-10-14/abc.log: Permission denied - /home/Desktop/Input/2014-10-14/abc.log {:level=>:warn} 
    failed to open /home/Desktop/2014-10-16/abc.log: Permission denied - /home/Desktop/Input/2014-10-16/abc.log {:level=>:warn} 

.............. 

    log4j, [2014-11-13T16:20:04.583] WARN: org.elasticsearch.discovery.zen: [logstash-HP-Pro-3330-MT-7573-11818] failed to connect to master [[Kyle Gibney][eM0ZmUkAQpaXd6_n4JWjzA][-HP-Pro-3330-MT][inet[/xx.xx..xx..xx:9300]]], retrying... 
    org.elasticsearch.transport.ConnectTransportException: [Kyle Gibney][inet[/xx.xx.xx.xx:9300]] General node connection failure 
     at org.elasticsearch.transport.netty.NettyTransport.connectToNode(NettyTransport.java:668) 
     at org.elasticsearch.transport.netty.NettyTransport.connectToNode(NettyTransport.java:615) 
     at org.elasticsearch.transport.TransportService.connectToNode(TransportService.java:129) 
     at org.elasticsearch.discovery.zen.ZenDiscovery.innerJoinCluster(ZenDiscovery.java:338) 
     at org.elasticsearch.discovery.zen.ZenDiscovery.access$500(ZenDiscovery.java:79) 
     at org.elasticsearch.discovery.zen.ZenDiscovery$1.run(ZenDiscovery.java:286) 
     at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145) 
     at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615) 
     at java.lang.Thread.run(Thread.java:744) 
    Caused by: org.elasticsearch.common.netty.channel.ChannelException: Failed to open a socket. 
     at org.elasticsearch.common.netty.channel.socket.nio.NioClientSocketChannel.newSocket(NioClientSocketChannel.java:43) 
     at org.elasticsearch.common.netty.channel.socket.nio.NioClientSocketChannel.<init>(NioClientSocketChannel.java:82) 
     at org.elasticsearch.common.netty.channel.socket.nio.NioClientSocketChannelFactory.newChannel(NioClientSocketChannelFactory.java:212) 
     at org.elasticsearch.common.netty.channel.socket.nio.NioClientSocketChannelFactory.newChannel(NioClientSocketChannelFactory.java:82) 
     at org.elasticsearch.common.netty.bootstrap.ClientBootstrap.connect(ClientBootstrap.java:212) 
     at org.elasticsearch.common.netty.bootstrap.ClientBootstrap.connect(ClientBootstrap.java:182) 
     at org.elasticsearch.transport.netty.NettyTransport.connectToChannels(NettyTransport.java:702) 
     at org.elasticsearch.transport.netty.NettyTransport.connectToNode(NettyTransport.java:647) 
     ... 8 more 
    Caused by: java.net.SocketException: Too many open files 
     at sun.nio.ch.Net.socket0(Native Method) 
     at sun.nio.ch.Net.socket(Net.java:423) 
     at sun.nio.ch.Net.socket(Net.java:416) 
     at sun.nio.ch.SocketChannelImpl.<init>(SocketChannelImpl.java:104) 
     at sun.nio.ch.SelectorProviderImpl.openSocketChannel(SelectorProviderImpl.java:60) 
     at java.nio.channels.SocketChannel.open(SocketChannel.java:142) 
     at org.elasticsearch.common.netty.channel.socket.nio.NioClientSocketChannel.newSocket(NioClientSocketChannel.java:41) 
     ... 15 more

Так logstash открывают файлы ДО определенного порога, и после этого дает разрешения отказывались файлы после этого порога и говорит слишком много файлы открыты.

Любая идея?

источник

2014-11-13 Siddharth Trikha

Использование корня 'ULIMIT -l unlimited' и перезапустить ES: http://www.elasticsearch.org/tutorials/too-many-open-files/ –

Угадай, что тебе не понравился разговор в вашем оригинальном посте? –

@Allain: раньше запускался logstash с -vv, и слишком много файлов ошибка не показывалась на консоли, поэтому на этот раз я запустил ее с -v (verbose) и появилась новая ошибка слишком большого количества файлов. Таким образом, новый вопрос. –

Вам нужно проверить, какой предел вашего дескриптора файла для вашего пользователя linux. В одном месте вы можете проверить:

cat /etc/security/limits.conf

Где вы определяете жесткий и мягкий предел. Другим способом было бы использовать ULIMIT команду, как показано ниже:

ulimit -a | grep nofiles ##Or ulimit -n

источник

2014-11-13 11:07:14 SMA

Я делаю 'ulimit -n', и он дает' 1024' –

Это означает, что ваш процесс может открывать только 1024 файла (будь то соединения или файл журнала и т. Д. Все это файл) – SMA

Logstash слишком много файлов открылось?

ответ

Смежные вопросы