Почему ротационно-инвариантные нейронные сети не используются в победителях популярных конкурсов?

Question

Как известно, современный самый популярный CNN (сверточная нейронная сеть): VGG/RESNET (FasterRCNN), SSD, Yolo, Yolo v2, DenseBox, DetectNet - не вращается инвариант: Are modern CNN (convolutional neural network) as DetectNet rotate invariant?

Также известно, что существует несколько нейронные сети с обнаружением объекта Rotate-инвариантность:

1. вращательно-инвариантная Neoperceptron 2006 (PDF): https://www.researchgate.net/publication/224649475_Rotation-Invariant_Neoperceptron

2. Изучение вращения инвариантных сверточных фильтров для классификации текстур 2016 (PDF): https://arxiv.org/abs/1604.06720

3. RIFD-CNN: Вращение-инвариантные и Фишер дискриминационный сверточные нейронные сети для обнаружения объекта 2016 (PDF): http://www.cv-foundation.org/openaccess/content_cvpr_2016/html/Cheng_RIFD-CNN_Rotation-Invariant_and_CVPR_2016_paper.html

4. Закодированной инвариантность в сверточноге нейронных сетях 2014 (PDF)

5. Ротационно-инвариантные сверточные нейронные сети для прогнозирования морфологии галактик (PDF): https://arxiv.org/abs/1503.07077

6. обучение Rotation-Инвариантная сверточные нейронные сети для обнаружения объектов в VHR оптических изображений дистанционного зондирования 2016 года: http://ieeexplore.ieee.org/document/7560644/

Мы знаем, что в таких соревнованиях изображений обнаружения как: IMAGE-NET, MSCOCO, PASCAL ЛОС - используются сети ансамбли (одновременно некоторые нейронные сети). Или сетевые ансамбли в единой сети, такие как ResNet (Residual Networks Behave Like Ensembles of Relatively Shallow Networks)

Но используются ротационно-инвариантные сетевые ансамбли в победителях, таких как MSRA, а если нет, то почему? Почему в ансамбле дополнительная чередово-инвариантная сеть не добавляет точности для обнаружения определенных объектов, таких как объекты самолетов, - какие изображения выполняются под разными углами поворота?

Это может быть:

• объекты самолетов, которые сфотографированы с земли

• или наземные объекты, которые сфотографировали с воздуха

Почему вращения -инвариантные нейронные сети не используются в победителях по соревнования по обстрелу соломы?

Answer 1

Недавний прогресс в распознавании изображений, которые в основном сделаны не меняя подход от классического выбора особенности - неглубокий алгоритм обучения в нет выбора Feture - глубокий алгоритм обучения был вызван не только математическими свойствами сверточных нейронным сетей.Да, конечно, их способность фиксировать ту же информацию с использованием меньшего количества параметров была частично вызвана их свойствами инвариантности сдвига, но последнее research показало, что это не ключ к пониманию их успеха.

На мой взгляд, главная причина этого успеха развивается быстрее алгоритмов обучения, чем более математически точные те, и поэтому меньше внимания уделяется разработке еще свойств инвариантных нейронных сетей.

Конечно, инвариантность вращения не пропускается вообще. Это частично сделано путем увеличения данных, когда вы помещаете слегка измененное (например, повернутое или масштабированное) изображение в ваш набор данных - с той же меткой. Как мы можем прочитать в этом fantastic book эти два подхода (больше структуры vs меньше структуры + увеличение данных) более или менее эквивалентны.

Answer 2

Я также задаюсь вопросом, почему сообщество или ученый не уделяло особого внимания рационализации CNN как @Alex.

Одна из возможных причин, на мой взгляд, состоит в том, что многие сценарии не нуждаются в этом свойстве, особенно для тех популярных соревнований. Как сказал Роб, некоторые естественные картины уже сделаны в едином горизонтальном (или вертикальном) направлении. Например, при обнаружении лица многие работы выравнивают изображение, чтобы люди стояли на земле перед подачей на любые модели CNN. Честно говоря, это самый дешевый и эффективный способ для этой конкретной задачи.

Однако в реальной жизни существуют некоторые сценарии, требующие свойства инвариантности вращения. Поэтому я прихожу к другой догадке: эта проблема не является сложной с точки зрения экспертов (или исследователей). По крайней мере, мы можем использовать увеличение данных для получения некоторого инварианта вращения.

И, наконец, большое спасибо за ваше резюме по поводу бумаг. Я добавил еще одну бумагу Group Equivariant Convolutional Networks_icml2016_GCNN и ее implementation on github от других людей.