Тюнинг целочисленного вектора в mlr

Я создаю пользовательские ученики, в частности, я пытаюсь использовать алгоритмы машинного обучения в рамках рамки mlr. «Скрытый» параметр функции h2o.deeplearning - это целочисленный вектор, который я хочу настроить. Я определил параметр «скрытый» следующим образом:Тюнинг целочисленного вектора в mlr

makeRLearner.classif.h2o_dl = function() { 
makeRLearnerClassif(
cl = "classif.h2o_dl", 
package = "h2o", 
par.set = makeParamSet(
    makeDiscreteLearnerParam(id = "activation", 
    values = c("Rectifier", "Tanh", "TanhWithDropout", "RectifierWithDropout", "Maxout", "MaxoutWithDropout")), 
    makeNumericLearnerParam(id = "epochs", default = 10, lower = 1), 
    makeNumericLearnerParam(id = "rate", default = 0.005, lower = 0, upper = 1), 
    makeIntegerVectorLearnerParam(id = "hidden", default = c(100,100)), 
    makeDiscreteLearnerParam(id = "loss", values = c("Automatic", 
      "CrossEntropy", "Quadratic", "Absolute", "Huber")) 
), 
properties = c("twoclass", "multiclass", "numerics", "factors", "prob","missings"), 
name = "Deep Learning Neural Network with h2o", 
short.name = "h2o_deeplearning_classif", 
note = "tbd" 
) 
} 

trainLearner.classif.h2o_dl = function(.learner, .task,.subset,.weights=NULL, ...) { 
f = getTaskFormula(.task) 
data = getTaskData(.task, .subset) 
data_h2o <- as.h2o(data, 
       destination_frame = paste0(
        "train_", 
        format(Sys.time(), "%m%d%y_%H%M%S"))) 
h2o::h2o.deeplearning(x = getTaskFeatureNames(.task), 
      y = setdiff(names(getTaskData(.task)), 
         getTaskFeatureNames(.task)), 
      training_frame = data_h2o, ...) 
} 

predictLearner.classif.h2o_dl = function(.learner, .model, .newdata, predict.method = "plug-in", ...) { 
data <- as.h2o(.newdata, 
      destination_frame = paste0("pred_", 
             format(Sys.time(), "%m%d%y_%H%M%S"))) 
p = predict(.model$learner.model, newdata = data, method = predict.method, ...) 
if (.learner$predict.type == "response") 
return(as.data.frame(p)[,1]) else return(as.matrix(as.numeric(p))[,-1]) 
}

Я попытался настройке параметра «скрытый» с помощью поиска сетки с помощью makeDiscreteParam функции:

library(mlr) 
library(h2o) 
h2o.init() 

lrn.h2o <- makeLearner("classif.h2o_dl") 
n <- getTaskSize(sonar.task) 
train.set = seq(1, n, by = 2) 
test.set = seq(2, n, by = 2) 
mod.h2o = train(lrn.h2o, sonar.task, subset = train.set) 
pred.h2o <- predict(mod.h2o,task= sonar.task, subset = train.set) 

ctrl = makeTuneControlGrid() 
rdesc = makeResampleDesc("CV", iters = 3L) 
ps = makeParamSet(
makeDiscreteParam("hidden", values = list(c(10,10),c(100,100))), 
makeDiscreteParam("rate", values = c(0.1,0.5)) 
) 

res = tuneParams("classif.h2o_dl", task = sonar.task, resampling = rdesc,par.set = ps,control = ctrl)

, которые приводятся в сообщении предупреждения

Warning messages: 
1: In checkValuesForDiscreteParam(id, values) : 
number of items to replace is not a multiple of replacement length 
2: In checkValuesForDiscreteParam(id, values) : 
number of items to replace is not a multiple of replacement length

и ps выглядит следующим образом:

ps 
      Type len Def Constr Req Tunable Trafo 
hidden discrete - - 10,100 - TRUE  - 
rate discrete - - 0.1,0.5 - TRUE  -

, который не приводит к настройке скрытого параметра в качестве вектора. Я также пробовал использовать другую специальную конструкторскую функцию (например, makeNumericVectorParam), которая тоже не работала. Имеет ли кто-нибудь опыт в настройке (целых) векторов в mlr и может дать мне подсказку?

источник

2016-03-01 ptr_

Это звучит, как вам нужно использовать 'makeNumericVectorParam' здесь. Можете ли вы поделиться кодом, который вы пробовали, который не работает? –

Я только что добавил полный код –

Хмм, если вы хотите попробовать только эти конкретные значения, я бы представил параметр фиктивного типа, который является просто индексом в списке значений, чтобы попытаться проверить и преобразовать это в обертку для учащегося. –

Чтобы настроить "скрытый" использование параметра этот кусок кода в сетке:

makeDiscreteParam(id = "hidden", values = list(a = c(10,10), b = c(100,100)))

Проверьте это:

https://github.com/mlr-org/mlr/issues/1305

источник

2017-03-15 19:29:59 perevales

Тюнинг целочисленного вектора в mlr

ответ

Смежные вопросы