Есть ли у Java ВС Unsafe.allocateMemory какие-либо ограничения? Я знаю, что это от кучи, поэтому это не подлежит GC. Но мы можем ограничить размер распределения команды JVM, как:Ограничение доступа к небезопасной памяти Java
-XX:MaxDirectMemorySize
Метод Unsafe#allocateMemory является родным, и native implementation of Unsafe#allocateMemory непосредственно вызывает os::malloc, делегируя работу по распределению в основную систему. Существует несколько вариантов бухгалтерии и некоторых вариантов отладки, но, похоже, нет встроенного механизма ограничения размера распределения.
В зависимости от случая приложения вы можете рассмотреть возможность обматывания вызова Unsafe#allocateMemory собственным методом, который, как вы предположили, выполняет проверку на ограничение размера на основе параметра командной строки.
Если у вас есть намерение предотвратить использование сторонней библиотеки (которая использует Unsafe#allocateMemory) из выделения слишком большого количества памяти, я думаю, что разумного способа достичь этого не будет.