不要指望取得明显的、飞速的进步,你要寻求的是每天前进一小步。
当你取得一次进步后,其他的进步才会接踵而来,这是取得进步的唯一方式。
——丹尼尔·科伊尔《像高手一样行动》桌上的日历格言,跟小组的书单<一起理解世界>很接近,后半句说的挺好,“慢慢更新自己”。
最近布置了个年中总结的作业,看了挺多小伙伴分享自己的年中总结和计划,大家的分享对我感触都挺大的。在 N 年前,曾做过年终总结和计划,但也是没有最终复盘,最后都不了了之。我在想,是时候再次对自己做一次总结和复盘了,并且希望把这些分享出来,不再不了了之。?
4. 个人总结
4.1 技术总结
写博客确实有助于提醒自己时刻保持学习。
在深度学习中,数据是重中之重,如果数据很好的情况下,大部分模型都可以跑到很好的结果。算法模型的选择对于最终的指标提升远不如调整数据。
我个人对于超参数的调整非常少(几乎是不调整),大部分都是沿用作者给出的配置文件。我个人认为作者给出的参数配置都是在复杂数据上选出的最优配置,对于本地数据的具有一定兼容性。如果想大幅度的提高指标,最先应该调整的是数据。最后,才是模型的超参数调整。
对于多类目标,样本平衡很重要,最好是对原始数据调整,其次是模型采样策略,最后是损失函数调整。