神经网络
word2vector
- 负采样
- 哈夫曼树-Huffman Tree
word2vector- 阅读笔记
996 views
分类目录归档：NLP
bert的理解-参数详细计算
725 views
考虑三种不同的embedding：
-
Token：tokenizer中一共涉及21128个字/词(vocab_size=21128)，参数量为21128∗768=16226304
-
Segm...
bert的理解(bert4keras)-分词
743 views
1 分词逻辑
from bert4keras.tokenizers import Tokenizer,load_vocab,save_vocab
dict_path = 'vocab...卷积神经网络(CNN)的参数计算-keras
769 views
import numpy as np
import keras
from keras import layers,models
from keras.utils import plot_mode...binary_cross_entropy和categorical_cross_entropy交叉熵损失
914 views
1 binary_cross_entropy
- 用于二分类损失，使用sigmoid激活函数
import tensorflow as tf
import numpy as np
import ...focal loss 的理解
738 views
- 直接上code
import keras
import keras.backend as K
import tensorflow as tf
label_num_list = [100,20...维比特解码-动态规划
687 views
crf 代码笔记 - loss的计算
694 views
- 参考 - https://zhuanlan.zhihu.com/p/119254570 这个是用例子详细描述了crf的计算过程
- 参考 - https://github.com/bojone/c...
孪生模型的简单实现-keras
722 views
Siamese Network 是一种神经网络的框架，而不是具体的某种网络，就像seq2seq一样，具体实现上可以使用RNN,CNN,也可以使用Transformer。
Siamese netw...
N-gram简单有效的统计语言模型
1393 views
1 N-gram统计语言模型
通常n采用1-3之间的值，它们分别称为unigram、bigram和trigram
- 计算demo: 现有给定训练语料合计三个文档如下：
D1： John re...