Java-кластер, запускать задачу только один раз

Question

У нас есть процесс java, который прослушивает каталог X в файловой системе, используя apache commons vfs. Всякий раз, когда новый файл экспортируется в этот каталог, происходит наш процесс. Сначала мы переименем файл в filename.processing и проанализируем имя файла, получаем некоторую информацию из файла и вставляем в таблицы перед отправкой этого файла в систему управления документами , Это однопоточное приложение для каждого кластера. Теперь рассмотрим этот запуск в среде кластера, у нас есть 5 серверов. Таким образом, 5 разных виртуальных машин пытаются получить доступ к одному файлу. Вся реализация была основана на том, что только один процесс может переименовать файл в .processing в данный момент времени, так как ОС не позволит нескольким процессам изменять файл одновременно. После того, как кластер get удерживает и переименовывает файл в .processing, другие кластеры будут игнорировать файлы, имеющие формат .processing.

Это работало отлично с более чем года, но сейчас мы обнаружили несколько дубликатов. Похоже, что несколько кластеров захватили файл, в этом случае говорят, что кластер a, b, c получил доступ к файлу f.pdf, и они переименовали его в f.pdf.processing в одно и то же время (я все еще сбитый с толку как ОС позволяет одновременно изменять файл). В результате этого кластер a, b, c они обработали файл и отправили его в систему управления документами. Итак, теперь есть 3 дубликата файлов.

Итак, вкратце, что я ищу, подходит для запуска задачи только один раз в среде кластера. Я также хочу, чтобы у него был механизм переключения, поэтому, если что-то пошло не так с кластером, другой кластер возьмет задачу. Мы не хотим устанавливать переменную env, как master = true в поле, поскольку это ограничит ее только одним кластером и не будет обрабатывать переход на другой ресурс.

Любые виды помощи приветствуются.

Answer 1

Мы реализуем собственную логику синхронизации, используя общую таблицу блокировки внутри базы данных приложения. Это позволяет всем узлам кластера проверять, запущено ли задание, прежде чем запускать его сам.

Answer 2

Смотрите следующую запись о блокировке файла: How do filesystems handle concurrent read/write?

операция чтения и записей (которая включает в себя переименование) файлы не являются атомарными и не очень хорошо синхронизированы между процессами, как вы предположить, - по крайней мере, не так в большинстве операционных системы.

Однако создание нового файла обычно является атомной операцией. Вы можете использовать это в своих интересах. Концепция называется цельной блокировкой файлов.

Answer 3

Вы пытаетесь использовать FileLock tryLock() или lock() перед переименованием файла в .processing? Если вы этого не сделали, я думаю, вы должны попробовать, поэтому в этом случае только одно приложение может изменить этот файл.

Обновление: Извините, я забыл, что вы спрашиваете о VDF. В Apache VDF (на самом деле, в Apache Synapse) я нашел VFSUtils класс, которые следующий метод:

public static boolean acquireLock(org.apache.commons.vfs2.FileSystemManager fsManager, 
            org.apache.commons.vfs2.FileObject fo) 

Acquires a file item lock before processing the item, guaranteing that the file is not processed while it is being uploaded and/or the item is not processed by two listeners 
Parameters: 
    fsManager - used to resolve the processing file 
    fo - representing the processign file item 
Returns: 
    boolean true if the lock has been acquired or false if not 

Я думаю, что метод может решить ваши проблемы (если вы можете использовать Apache Synapse в вашем проекте).