4

我正在尝试RFECV使用 SciKit 处理转换后的数据。

为此,我创建了一个管道并将管道传递给RFECV. 除非我有ColumnTransformer一个管道步骤,否则它工作正常。它给了我以下错误:

ValueError: Specifying the columns using strings is only supported for pandas DataFrames

我已经检查了这个问题的答案,但我不确定它们是否适用于这里。代码如下:

import pandas as pd
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import Normalizer
from sklearn.pipeline import Pipeline
from sklearn.feature_selection import RFECV
from sklearn.linear_model import LinearRegression

class CustomPipeline(Pipeline):
    @property
    def coef_(self):
        return self._final_estimator.coef_
    @property
    def feature_importances_(self):
        return self._final_estimator.feature_importances_

X = pd.DataFrame({
    'col1': [i for i in range(100)] , 
    'col2': [i*2 for i in range(100)],
})
y = pd.DataFrame({'out': [i*3 for i in range(100)]})
ct = ColumnTransformer([("norm", Normalizer(norm='l1'), ['col1'])])

pipe = CustomPipeline([
    ('col_transform', ct),
    ('lr', LinearRegression())
])

rfecv = RFECV(
    estimator=pipe, 
    step=1,
    cv=3,
)
#pipe.fit(X,y) # pipe can fit, no problems
rfecv.fit(X,y)

显然,我可以在管道之外执行此转换步骤,然后使用转换后的 X,但我想知道是否有任何解决方法。

我还想将此作为RFECV设计问题提出(它首先将 X 转换为 numpy 数组,而其他具有内置交叉验证的方法,例如GridSearchCV不这样做)

4

0 回答 0