Master Hyperparameter Tuning: Bayesian Optimization & TPE

精通超参数调优：贝叶斯优化与TPE

你将学到

• 理解贝叶斯优化如何找到优质的超参数组合
• 解释TPE如何定位超参数空间中的最优区域
• 阐述高斯过程如何对预期性能与不确定性进行建模
• 分析获取函数如何平衡探索与利用
• 对比高斯过程、TPE以及基于随机森林的优化算法

前置要求

• 掌握机器学习基础，了解常见预测模型
• 熟悉超参数，理解模型调参的目的
• 了解网格搜索、随机搜索会有帮助，但非必需
• 熟悉机器学习模型评估指标

课程简介 欢迎学习 Master Hyperparameter Tuning: Bayesian Optimization & TPE。这是一门侧重理论的课程，帮你搞懂高级超参数优化工具背后的运行原理。

现在各类库和AI代码助手几秒就能搭建好优化流程。但想要放心使用输出结果，你必须理解搜索的运行逻辑、算法为何选择某些参数组合，以及给出的参数方案是否适配你的业务场景。

本课程不止教你调用调参函数。你会深入学习基于序列模型的优化（SMBO）、贝叶斯优化、高斯过程、获取函数、树结构Parzen估计器（TPE）、基于随机森林优化背后的思想与运行机制。

通过清晰的分步讲解，你将掌握：

• 理解贝叶斯优化的定义，以及它搜索超参数的方式
• 解释SMBO如何从过往实验中学习，挑选下一组待测试参数
• 理解代理模型在超参数优化中发挥的作用
• 掌握高斯过程对模型性能与不确定性的建模方式
• 理解获取函数如何平衡探索与利用
• 理解TPE如何划分超参数空间内的优质区域与劣质区域
• 对比高斯过程、TPE、基于随机森林的优化方案
• 针对你的机器学习问题选择合适的优化策略
• 审查、验证由代码库或AI代码助手生成的调参流程

本课程不含Python编程实操。课程不绑定特定工具库，只为你搭建概念基础，适配你使用的任意工具，同时可以评判Claude Code、Codex这类AI助手生成的工作流。

课程面向数据科学家、机器学习从业者、分析师、技术负责人以及竞赛参与者，帮助大家理解高级超参数优化，不受特定编程库约束。

如果你已经在用Optuna这类工具，或是依靠AI代码助手搭建机器学习流程，但希望弄懂工具底层原理，这门课会非常适合你。

课程结束后，你会明白现代优化算法如何搜寻更优模型配置、算法内部如何做决策，并且可以在真实项目中更可靠地使用调参结果。

即刻学习，告别盲目调用优化工具，做到理解、评估、主导参数搜索过程。

适合人群

• 希望搞懂贝叶斯优化底层原理的数据科学家与机器学习从业者
• 调优预测模型，想要跳出网格搜索、随机搜索的分析师与技术人员
• 使用Optuna等优化库，想要理解输出结果背后理论的从业者
• 使用AI代码助手，需要校验、评估AI生成超参数调优流程的用户
• 希望系统入门高斯过程、获取函数、TPE、SMBO的学生与科研人员