如何在张量流中微调ftrl优化器的超参数

时间:2017-01-12 02:40:31

标签: tensorflow

我发现FTRL优化器的初始参数是:

learning_rate_power: -0.5, 
initial_accumulator_value: 0.1, 
l1_regularization_strength: 0.0, 
l2_regularization_strength: 0.0

但我怎样才能微调参数以使其更好?

1 个答案:

答案 0 :(得分:0)

您应该执行超参数调整 - 在侧面保留测试数据集,然后将您的火车数据集拆分为训练和交叉验证集。

然后,您可以使用验证数据集来调整这些参数,或直接在火车数据集上执行此操作。您可以对所有参数或https://en.wikipedia.org/wiki/Hyperparameter_optimization

中的任何其他方法进行网格搜索

您只需选择性能最佳的参数