当前位置: 首页 > news >正文

上海公司网站制作价格站长工具永久

上海公司网站制作价格,站长工具永久,wordpress 4.9.5 太卡,七牛云动静分离wordpress作业数据是所有数据都有标签的版本。 李宏毅 2022机器学习 HW3 boss baseline 上分记录 1. 训练数据增强2. cross validation&ensemble3. test dataset augmentation4. resnet 1. 训练数据增强 结论:训练数据增强、更长时间的训练、dropout都证明很有效果&…

作业数据是所有数据都有标签的版本。

李宏毅 2022机器学习 HW3 boss baseline 上分记录

    • 1. 训练数据增强
    • 2. cross validation&ensemble
    • 3. test dataset augmentation
    • 4. resnet

1. 训练数据增强

结论:训练数据增强、更长时间的训练、dropout都证明很有效果,实验效果提升至接近strong baseline

增强1:crop + geometry
增强2:crop + geometry + gray
另外epochs数目增加到100,patience增加到10个epochs,FC层增加 dropout(0.3)

增强代码如下

#训练数据增强代码train_tfm = transforms.Compose([# Resize the image into a fixed shape (height = width = 128)# transforms.Resize((128, 128)),transforms.RandomResizedCrop(size=(128, 128), scale=(0.8, 1)),# 几何变换transforms.RandomHorizontalFlip(p=0.5),transforms.RandomVerticalFlip(p=0.5),transforms.RandomRotation(degrees=180),transforms.RandomAffine(degrees=30),#像素变换transforms.RandomGrayscale(p=0.2), # You may add some transforms here.# ToTensor() should be the last one of the transforms.transforms.ToTensor(),
])

具体实验结果如下:
在这里插入图片描述

2. cross validation&ensemble

使用5-fold cross validation,划分的时候使用分层抽样,
2.1)epochs=100, patience=10
训练时发现通常在60 epochs左右就early stop了,最终public score不如之前,但private score有提升,说明cross validation在过拟合上还是有效果的。
在这里插入图片描述
2.2)epochs=100, patience=16,再看看效果
patience增大后,效果有了一个非常明显的提升,超过strong baseline。具体看实验过程,会发现之前patience=10的时候,基本60epochs就停了,而现在patience=100的时候,early stop没有起作用,都是训练满100个epochs。猜测应该是使用5-fold的cross validation时,对比默认的train/valid,一方面训练数据更多,另一方面valid数据变少波动性更大,所以应该给更多的时间训练。
在这里插入图片描述

3. test dataset augmentation

结论:此方式有效,分数进一步提升
在这里插入图片描述
测试数据的具体增强方式如下:
在步骤2的基础上,对test数据集使用了train数据集的数据增强方式,生成5张图片预测,对预测结果值平均,然后再用这个结果与原预测结果平均。以下为作业PPT相关部分。
在这里插入图片描述

4. resnet

使用torchvision自带的resnet模型(按照作业要求,pretrained=False),尝试了resnet18和resnet50,效果进一步有了明显提升。public榜上超过bossline,但是从private榜上,可以看出存在一定过拟合。 另外resnet50的效果并没有比resnet18好,可能是小数据集的原因。这里均使用epochs=200,patience=16, lr=0.0003, weight_decay=1e-5。
在这里插入图片描述
在这里插入图片描述

两个注意点:
1,图片size设成224x224(论文中使用的图片尺寸),对比了128和224,两者差别很大。
2,resnet中的全连接层需要从原来的1000改成此次任务预测的类别数目11,代码如下:

def model_resnet():resnet = resnet18(pretrained=False)resnet.fc = nn.Sequential(nn.Linear(resnet.fc.in_features, 512),nn.ReLU(),nn.Dropout(0.3),nn.Linear(512, 11))return resnet
http://www.ds6.com.cn/news/13678.html

相关文章:

  • 西安做网站公司报价怎样做网络推广
  • 东戴河网站建设网站做外链平台有哪些
  • 做新闻网站如何重庆百度seo代理
  • 建设一个网站首先需要品牌策划推广方案
  • 网站域名根目录在哪里国内做网站的公司
  • 中国建设银行下载安装网站优化外包
  • 辽宁城市建设网站北京中文seo
  • 网站建设图文教程seo网站营销推广
  • 市场部职能中的网站建设最牛餐饮营销手段
  • 用来做问卷调查的网站速推网
  • 自己做网站2008R2好还是win7网络服务费计入什么科目
  • 都安网站建设站长之家查询网
  • 个人可以做网站推广google adwords关键词工具
  • 小程序做跳转微网站以下属于网站seo的内容是
  • 网线制作工具有哪些济南网站推广优化
  • 网站建设销售ppt模板长沙网络推广外包
  • 赣州市网站开发网络防御中心
  • 网站开发无形资产南宁百度seo排名价格
  • 开发软件网站建设排名第一的手机清理软件
  • 天津网站优化建设友缘在线官网
  • 爱站网 关键词挖掘工具站百度网站推广关键词怎么查
  • 什么软件制作视频最好aso搜索优化
  • 网站开发 国际网站专业郑州企业网站建设
  • 上海成品网站站长综合查询工具
  • 请人做网站多少钱全国防疫大数据平台
  • 东营做网站优化公司google推广怎么做
  • 哪些网站做兼职可靠推广营销网络
  • 北京房产网站建设如何做百度关键词推广
  • 做h视频在线观看网站厦门seo屈兴东
  • aspx网站做app宁波免费seo在线优化