学无止境,精益求精! 十年河东,十年河西,莫欺少年穷! 学历代表你的过去,能力代表你的现在,学习代表你的将来!
 3 关系重叠?实体嵌套?曝光偏差?这个模型统统都搞得定!
 4 passion博客系统升级升级...
 8 利用过期或被吊销的数字证书给驱动签名,骗过微软64位系统驱动程序签名强制
 之前也没有仔细思考这个问题, 近几天重新看了一遍BERT模型,发现之前的理解确实有问题,所以过来填坑.
 在说明BERT的双向表示前,先回顾一下常见的双向表示
 首先区别于biLSTM那种双向, 那种是在网络结构上的双层
 例如 biLSTM来进行一个单词的双向上下文表示
 可以看到, 这种在网络结构上, 每个单词都从正向和反向都得到一个表示, 然后将此表示进行连接, 则此时认为这就是单词的双向表示
 在没有深思之前,我也一直以为BERT是使用上面的模式,而当我看到BERT的结构是这样的,说明我之前是错误的理解:
 请注意,BERT并没有说讲一个序列反向输入到网络中,所以BERT并不属于这种.
 BERT中的双向表示
 那么BERT 是如何说明是双向表示呢?