- 参考苏剑林老师的bert4keras中的代码
class RelativePositionEmbedding(Layer):
"""相对位置编码
...相对位置编码-NAZHA
1009 views
正弦位置编码
2122 views
绝对位置编码-BERT
1005 views
- 参考苏剑林老师的bert4keras中的代码
from keras.layers import Layer
import keras.backend as K
from keras impo...keras基础教程
1014 views
1 基本概念
- 优先使用函数式API，而不是keras中其他风格的创建模型的方法
- 优先使用keras预定义的fit/fit_generator方法，而不是自定义训练流程
2 张量
张量（多维数...
word2vector-情感分析demo
1929 views
import numpy as np
import keras
import gensim
import json
from sklearn.model_selection import tr...word2vector-gensim工具包
970 views
1 在gensim中，word2vec 相关的API都在包gensim.models.word2vec中。和算法有关的参数都在类gensim.models.word2vec.Word2Vec中。...
word2vector- 阅读笔记
1040 views
bert的理解-参数详细计算
757 views
考虑三种不同的embedding：
-
Token：tokenizer中一共涉及21128个字/词(vocab_size=21128)，参数量为21128∗768=16226304
-
Segm...
bert的理解(bert4keras)-分词
766 views
1 分词逻辑
from bert4keras.tokenizers import Tokenizer,load_vocab,save_vocab
dict_path = 'vocab...卷积神经网络(CNN)的参数计算-keras
786 views
import numpy as np
import keras
from keras import layers,models
from keras.utils import plot_mode...