Q: КНН в R - странное поведение

Question

(в продолжение к этому post)

Кто-нибудь знает, почему ниже Knn R код дает разные предсказания для разных семян? Это странно, как K < -5, и поэтому большинство четко определено. Кроме того, плавающие числа являются большими - поэтому не возникает точность проблемы с данными + данные масштабируются и центрируются.

library(class) 

from = -(2^30) 
to = -(from) 

seed <- -229881389 
set.seed(seed) 

K <- 5 
m = as.integer(runif(1, K, 20)) 
n = as.integer(runif(1, 5, 1000)) 
train = matrix(runif(m*n, from, to), nrow=m, ncol=n) 
trainLabels = sample.int(2, size = m, replace=T)-1 
test = matrix(runif(n, from, to), nrow=1) 

sc<-function(x){(x-mean(x))/sd(x)} 
train<-apply(train,2,sc) 

test<-t(apply(test,1,sc)) 

seed <- as.integer(runif(1, from, to)) 
set.seed(seed) 
pred_1 <- knn(train=train, test=test, cl = trainLabels, k=K) 
message("predicted: ", pred_1, ", seed: ", seed) 

seed <- as.integer(runif(1, from, to)) 
set.seed(seed) 
pred_2 <- knn(train=train, test=test, cl = trainLabels, k=K) 
message("predicted: ", pred_2, ", seed: ", seed) 

Ручная проверка:

euc.dist <- function(x1, x2) sqrt(sum((x1 - x2)^2)) 
result = vector(mode="numeric", length=nrow(train)) 
for(i in 1:nrow(train)) { 
    result[i] <- euc.dist(train[i,], test) 
} 
a <- data.frame(result, trainLabels) 
names(a) = c("RSSE", "labels") 
b <- a[with(a, order(result, decreasing =T)), ] 
headK <- head(b, K) 
message("Manual predicted K: ", paste(K," class:", names(which.max(table(headK[,2]))))) 
print(b) 

даст предсказание 0, для Top K (= 5).

Answer 1

Есть несколько ошибок:

• У вас есть ошибка в использовании неправильно тестовый набор в KNN - использовать test_ в качестве центрированного, масштабной переменной.
• при создании b нет никакой переменной sums, вы можете просто использовать простой заказ, который заказывает в порядке возрастания по умолчанию.
• Заказ должен быть , увеличивая на расстоянии, так как вы ищете ближайших соседей, посмотрите на самое маленькое расстояние.
• с использованием set.seed, прежде чем код, который не имеет ничего стохастического (случайного), влияет на оценку.

Так что это в основном то же самое, что я пытался объяснить в previous post.