阿里云Pai平台深度学习框架支持caffe mxnet tensorflow三种,caffe和tensorflow阿里云官方都给出了demo,我在复现实验时,遇到了一些小问题,特别是caffe实现ciffar图像分类时,所以在这里将自己遇到的一些问题与大家分享出来.
我把所有的数据都在github上备份了一份,地址:
https://github.com/hutcs/Pai_Caffe_cifar10
caffe图像分类前,要先转换图像类型,如下图
先转换训练数据集
图片列表文件OSS路径
oss://dl-images.oss-cn-shanghai-internal.aliyuncs.com/cifar10/caffe/images/cifar10_train_image_list.txt
文件前缀
train
resize_height
32
resize_width
32
编码类型
jpg
输出oss目录
oss://hutcs.oss-cn-shanghai-internal.aliyuncs.com/cifar/train/
shuffle 勾选
image mean 勾选
文件前缀和输出目录的具体位置,请根据自己的位置更改
训练测试数据
图片列表文件OSS路径
oss://dl-images.oss-cn-shanghai-internal.aliyuncs.com/cifar10/caffe/images/cifar10_test_image_list.txt
文件前缀
test
resize_height
32
resize_width
32
编码类型
jpg
输出oss目录
oss://hutcs.oss-cn-shanghai-internal.aliyuncs.com/cifar/test/
shuffle 勾选
image mean 勾选
文件前缀和输出目录的具体位置,请根据自己的位置更改
我的bucket名字为hutcs
这个实验我存储在了cifar文件夹下,训练数据生成之后,存在了train目录下,测试数据转换之后存放在了test文件夹下。
格式转换之后,在train目录下生成train_file_list.txt train_mean.binaryproto 两个文件
在test目录下生成test_file_list.txt test_mean.binaryproto 两个文件
caffe下的net.prototxt文件和solver.prototxt 可以直接到刚才我提到的github项目里下载
举个粒子 hutcs/cifar/train/train_mean.binaryproto
这一处,hutcs是bucket的名字,在net.prototxt和solver.prototxt文件中,不用加那一串oss:// 的具体地址。