专利名称:一种基于遗传算法的分布式参数服务器更新方法专利类型:发明专利发明人:叶彦,李欣鑫,吴维刚申请号:CN201810093443.8申请日:20180129公开号:CN108494576A公开日:20180904
摘要:本发明提供一种基于遗传算法的分布式参数服务器更新方法,该方法在工作节点前向传播计算出损失函数的损失值Loss后,就将损失值发送给参数服务器,参数服务器此时就可以利用损失值进行遗传算法的选择,并等待各工作节点后向传播计算出各层参数的梯度,发送回来。即利用了同步等待的时间,来根据损失值对工作节点的参数进行评估,进行一定的筛选,并使用交叉变异增加随机性,使得参数更新时不再使用所有的梯度的加和,而是对于收敛性好的工作节点的参数会保留,对于收敛性差的工作节点的参数进行丢弃。每一次迭代时同样经历一代筛选,经过多代筛选后,得到最优的个体基因型,将其对应到工作节点的梯度选用上,从而运用到参数更新中。
申请人:中山大学
地址:510275 广东省广州市海珠区新港西路135号
国籍:CN
代理机构:广州粤高专利商标代理有限公司
代理人:林丽明
更多信息请下载全文后查看
因篇幅问题不能全部显示,请点此查看更多更全内容