# 数据加载
from sklearn.datasets import fetch_california_housing
from sklearn.model_selection import...

Read more

论文：Unified Named Entity Recognition as Word-Word Relation Classification

代码：ljynlp/W2NER

1 创新思路

1...

Read more

1、训练神经网络时如何确定batch的大小？

（1）GPU对2的幂次的patch可以发挥更佳的性能，因此设置成16、32、64、128.时往往要比设置为整10、整100的倍数时表现更优

（2）b...

Read more

所有数据集均来源于网络，只做整理供大家提取方便，如果有侵权等问题，请及时联系我们删除。

** 需要以下数据，可以评论区留言**

1 NLP数据集

(1) 分类数据

(2) 实体识别

(3) 关于...

Read more

1 熟悉数据

2 端到端训练+获取基线

3 过拟合

4 正则化

5 调模型

• 随机网格搜索
• 超参数优化

6 再挤挤

• 集成模型
• 继续训练

[1] A Recipe for Training ...

Read more

1 绝对位置编码

• 训练式: BERT、GPT
• 三角式:
  $$ \left{\begin{array}{l} \boldsymbol{p}{k, 2 i}=\sin \left(k / 1000...

Read more

• 参考苏剑林老师的bert4keras中的代码

class RelativePositionEmbedding(Layer):
    """相对位置编码
   ...

Read more

• 参考苏剑林老师的bert4keras中的代码

class SinusoidalPositionEmbedding(Layer):
    """定义Sin-Co...

Read more

• 参考苏剑林老师的bert4keras中的代码

from keras.layers import Layer
import keras.backend as K
from keras impo...

Read more

1 基本概念

• 优先使用函数式API，而不是keras中其他风格的创建模型的方法
• 优先使用keras预定义的fit/fit_generator方法，而不是自定义训练流程

2 张量

张量（多维数...

Read more