1 熟悉数据
2 端到端训练+获取基线
3 过拟合
4 正则化
5 调模型
- 随机网格搜索
- 超参数优化
6 再挤挤
- 集成模型
- 继续训练
神经网络调参经验大汇总-NLP
1156 views
分类标签归档：自然语言处理
Transformer位置编码
1160 views
1 绝对位置编码
- 训练式: BERT、GPT
- 三角式:
$$ \left{\begin{array}{l} \boldsymbol{p}{k, 2 i}=\sin \left(k / 1000...
相对位置编码-NAZHA
961 views
正弦位置编码
2043 views
绝对位置编码-BERT
974 views
- 参考苏剑林老师的bert4keras中的代码
from keras.layers import Layer
import keras.backend as K
from keras impo...keras基础教程
970 views
1 基本概念
- 优先使用函数式API，而不是keras中其他风格的创建模型的方法
- 优先使用keras预定义的fit/fit_generator方法，而不是自定义训练流程
2 张量
张量（多维数...
word2vector-情感分析demo
1862 views
import numpy as np
import keras
import gensim
import json
from sklearn.model_selection import tr...word2vector-gensim工具包
943 views
1 在gensim中，word2vec 相关的API都在包gensim.models.word2vec中。和算法有关的参数都在类gensim.models.word2vec.Word2Vec中。...
word2vector- 阅读笔记
996 views
bert的理解-参数详细计算
725 views
考虑三种不同的embedding：
-
Token：tokenizer中一共涉及21128个字/词(vocab_size=21128)，参数量为21128∗768=16226304
-
Segm...