《Python深度学习基于PyTorch(第2版)》—习题集第5集
【提要】动手操作优化器
为后续更深入讲解优化器做铺垫。操作过程中,可以选择不同优化器(包括传统的SGD,最新的AdamW等),选择不同初始值,不同的超参数等,希望以此达到对各种优化器的优缺点有个直观理解,为后续进一步学习优化器打下一个坚实基础。
一、优化的目标函数为凸函数
1.目标函数解析式:

2.可视化目标函数
3.动手操作优化器

对应脚本:
优化器-凸函数-2D.html
还有三维的程序

二、目标函数为非凸函数
1.目标函数解析式

2.可视化目标函数

3.动手操作优化器

脚本:优化器-非凸函数-2D.html


还有三维的:

视频连接:
抖音账号:84911487035
B站主页:https://space.bilibili.com/391424656
获取电子文档及PyTorch、html等代码:
微信公众号:大模型大智慧
【附件】
下载《python深度学习基于PyTorch(第2版)》习题集第2集互动小程序,包括本书对应数据和代码,可直接连接百度网盘: https://pan.baidu.com/s/11yk8UleP3zbukfyqUaGTGg 提取码:w42f