您可以在sklearn 文档中找到超参数优化的一般指南。
一种可以用于优化 LightFM 模型的简单但有效的技术是随机搜索。大致上，它由以下步骤组成：
- 将数据拆分为训练集、验证集和测试集。
- 为您要优化的每个超参数定义一个分布。例如，如果您正在优化学习率，您可以使用均值为 0.05 的指数分布；如果您正在优化损失函数，您可以从
['warp', 'bpr', 'warp-kos'].
- 在优化的每次迭代中，对所有超参数进行采样，并使用它们将模型拟合到训练数据上。评估模型在验证集上的性能。
- 执行多个优化步骤后，选择具有最佳验证性能的一个。
要衡量最终模型的性能，您应该使用测试集：只需评估测试集上的最佳验证模型。
以下脚本说明了这一点：
import itertools
import numpy as np
from lightfm import LightFM
from lightfm.evaluation import auc_score
def sample_hyperparameters():
"""
Yield possible hyperparameter choices.
"""
while True:
yield {
"no_components": np.random.randint(16, 64),
"learning_schedule": np.random.choice(["adagrad", "adadelta"]),
"loss": np.random.choice(["bpr", "warp", "warp-kos"]),
"learning_rate": np.random.exponential(0.05),
"item_alpha": np.random.exponential(1e-8),
"user_alpha": np.random.exponential(1e-8),
"max_sampled": np.random.randint(5, 15),
"num_epochs": np.random.randint(5, 50),
}
def random_search(train, test, num_samples=10, num_threads=1):
"""
Sample random hyperparameters, fit a LightFM model, and evaluate it
on the test set.
Parameters
----------
train: np.float32 coo_matrix of shape [n_users, n_items]
Training data.
test: np.float32 coo_matrix of shape [n_users, n_items]
Test data.
num_samples: int, optional
Number of hyperparameter choices to evaluate.
Returns
-------
generator of (auc_score, hyperparameter dict, fitted model)
"""
for hyperparams in itertools.islice(sample_hyperparameters(), num_samples):
num_epochs = hyperparams.pop("num_epochs")
model = LightFM(**hyperparams)
model.fit(train, epochs=num_epochs, num_threads=num_threads)
score = auc_score(model, test, train_interactions=train, num_threads=num_threads).mean()
hyperparams["num_epochs"] = num_epochs
yield (score, hyperparams, model)
if __name__ == "__main__":
from lightfm.datasets import fetch_movielens
data = fetch_movielens()
train = data["train"]
test = data["test"]
(score, hyperparams, model) = max(random_search(train, test, num_threads=2), key=lambda x: x[0])
print("Best score {} at {}".format(score, hyperparams))
