如何将整洁的模型PCA纳入模型的工作流程并进行预测

编程问答 2022-06-10

问题描述

我正在尝试将整洁的模型PCA合并到模型的工作流程中。我想要一个将PCA用作预处理步骤的预测模型，然后使用该模型进行预测。

我尝试了以下方法，

diamonds <- diamonds %>%
  select(-clarity,-cut,- color)

diamonds_split <- initial_split(diamonds,prop = 4/5)

diamonds_train <- training(diamonds_split)
diamonds_test <- testing(diamonds_split)

diamonds_test <-vfold_cv(diamonds_train)

diamonds_recipe <- 
  # La fórmula básica y todos los datos (outcome ~ predictors)
  recipe(price ~ .,data = diamonds_train) %>%
  step_log(all_outcomes(),skip = T) %>%
  step_normalize(all_predictors(),-all_nominal()) %>% 
  step_pca(all_predictors())

preprocesados <- prep(diamonds_recipe)

linear_model <- 
  linear_reg() %>%
  set_engine("glmnet") %>%
  set_mode("regression")

pca_workflow <- workflow() %>%
  add_recipe(diamonds_recipe) %>%
  add_model(linear_model)

lr_fitted_workflow <-  pca_workflow %>%  #option A workflow full dataset
  last_fit(diamonds_split)

performance <- lr_fitted_workflow %>% collect_metrics()

test_predictions <- lr_fitted_workflow %>% collect_predictions()

但是我得到这个错误：

x Resample1：模型（预测）：错误：penalty应该是单个数值。 ... 警告信息： “所有模型都在[fit_resamples（）]中失败。请参阅.notes列。”

在其他教程之后，我尝试使用这种其他方法，但是我不知道如何使用该模型进行新的预测，因为新数据以原始（非pca）形式出现。所以我尝试了这个：

pca_fit <- juice(preprocesados) %>%  #option C no work flow at all
  lm(price ~ .,data = .)

prep_test <- prep(diamonds_recipe,new_data = diamonds_test)

truths <- juice(prep_test) %>%
          select(price)

ans <- predict(pca_fit,new_data = prep_test)

tib <- tibble(row = 1:length(ans),ans,truths)

ggplot(data = tib) +
  geom_smooth(mapping = aes(x = row,y = ans,colour = "predicted")) +
  geom_smooth(mapping = aes(x = row,y = price,colour = "true"))

它可以打印出合理的接缝，但是到那时我已经失去了信心，一些指导将不胜感激。 ：D

解决方法

问题不在您的配方或工作流程中。如chapter 7 of TidyModels with R中所述，用于拟合模型的函数为fit，要使其起作用，您必须提供拟合过程所需的数据（此处为diamonds）。折衷方案是您不必prep编写食谱，因为工作流将自行处理。

因此，稍微减少您的代码，下面的示例将起作用。

library(tidymodels)
data(diamonds)
diamonds <- diamonds %>%
  select(-clarity,-cut,- color)

diamonds_split <- initial_split(diamonds,prop = 4/5)

diamonds_train <- training(diamonds_split)
diamonds_test <- testing(diamonds_split)

diamonds_recipe <- 
  # La fórmula básica y todos los datos (outcome ~ predictors)
  recipe(price ~ .,data = diamonds_train) %>%
  step_log(all_outcomes(),skip = T) %>%
  step_normalize(all_predictors(),-all_nominal()) %>% 
  step_pca(all_predictors())

linear_model <- 
  linear_reg() %>%
  set_engine("glmnet") %>%
  set_mode("regression")

pca_workflow <- workflow() %>%
  add_recipe(diamonds_recipe) %>%
  add_model(linear_model)

pca_fit <- fit(pca_workflow,data = diamonds_train)

对于交叉验证，必须使用fit_resamples，并且应该分割训练集而不是测试集。但是在这里，我目前遇到了同样的错误（如果我弄清楚原因，我的答案将会更新）

编辑

现在我做了一些深入的研究，交叉验证的问题源于引擎为glmnet。我猜想在许多不同方面都以某种方式错过了这一方面。我已经向workflows包github网站添加了possible issue。通常，答案很快就会出现，因此，其中一位开发人员可能很快就会收到答复。

对于交叉验证，假设您适合使用?linear_reg中描述的任何其他引擎，那么我们可以这样做

linear_model_base <- 
  linear_reg() %>%
  set_engine("lm") %>%
  set_mode("regression")
pca_workflow <- update_model(pca_workflow,linear_model_base)
folds <- vfold_cv(diamonds_train,10)
pca_folds_fit <- fit_resamples(pca_workflow,resamples = folds)

，并且在需要关注度量的情况下，确实可以像使用collect_metrics

一样收集这些度量 
pca_folds_fit %>% collect_metrics()

如果我们对预测感兴趣，则必须告诉模型要在拟合过程中保存这些预测，然后使用collect_predictions 

pca_folds_fit <- fit_resamples(pca_workflow,resamples = folds,control = control_resamples(save_pred = TRUE))
collect_predictions(pca_folds_fit)

但是请注意，这实际上是每个fold的预测，因为您实际上适合10个模型。

通常，交叉验证用于比较多个模型或调整参数（例如，随机森林与线性模型）。然后将选择最佳的交叉验证性能模型（collect_metrics，并使用test数据集来评估该模型的准确性。 这些都在TMwR chapter 10 & 11

中进行了描述
pcapredictionrrtidymodels