Вы должны редактировать sencha.cfg файл, который находится в папке Cmd. Если вы на Windows - скорее всего, здесь:
C:\Users\<user>\bin\Sencha\Cmd\6.1.1.76
В нем вы найдете часть с аргументами запуска виртуальной машины Java:
#------------------------------------------------------------------------------
# These are the JVM startup arguments. The primary things to tweak are the JVM
# heap sizes.
# java.awt.headless=true - required to make phantomjs (used by theme slicer)
# work in headless environments
# cmd.jvm.args=-Xrunjdwp:transport=dt_socket,server=y,address=8888,suspend=n -Xms128m -Xmx2048m -Djava.awt.headless=true
cmd.jvm.args=-Xms128m -Xmx1024m -Dapple.awt.UIElement=true
Вы можете найти более подробную информацию о файлах конфигурации в Sencha Cmd Docs.
EDIT: От Cmd 6.5.0 это больше не работает. Вам необходимо будет использовать _JAVA_OPTIONS
# On previous versions, this file provided a way to specify the cmd.jvm.* properties
# to control the execution of the JVM. To accommodate all possible execution scenarios
# support for these properties has been removed in favor of using the _JAVA_OPTIONS
# environment variable.