1、训练神经网络时如何确定batch的大小？
（1）GPU对2的幂次的patch可以发挥更佳的性能，因此设置成16、32、64、128.时往往要比设置为整10、整100的倍数时表现更优
（2）b...
训练神经网络时如何确定batch的大小
1193 views
分类标签归档：自然语言处理
共享数据集
1183 views
所有数据集均来源于网络，只做整理供大家提取方便，如果有侵权等问题，请及时联系我们删除。
** 需要以下数据，可以评论区留言**
1 NLP数据集
(1) 分类数据
(2) 实体识别
(3) 关于...
神经网络调参经验大汇总-NLP
1194 views
1 熟悉数据
2 端到端训练+获取基线
3 过拟合
4 正则化
5 调模型
- 随机网格搜索
- 超参数优化
6 再挤挤
- 集成模型
- 继续训练
Transformer位置编码
1186 views
1 绝对位置编码
- 训练式: BERT、GPT
- 三角式:
$$ \left{\begin{array}{l} \boldsymbol{p}{k, 2 i}=\sin \left(k / 1000...
相对位置编码-NAZHA
1009 views
正弦位置编码
2122 views
绝对位置编码-BERT
1005 views
- 参考苏剑林老师的bert4keras中的代码
from keras.layers import Layer
import keras.backend as K
from keras impo...keras基础教程
1014 views
1 基本概念
- 优先使用函数式API，而不是keras中其他风格的创建模型的方法
- 优先使用keras预定义的fit/fit_generator方法，而不是自定义训练流程
2 张量
张量（多维数...
word2vector-情感分析demo
1929 views
import numpy as np
import keras
import gensim
import json
from sklearn.model_selection import tr...word2vector-gensim工具包
970 views