bert做閱讀理解的一個細節
如上圖所示，展示了如何用BERT來做信息抽取任務的結構圖。注意一下幾點即可： 1.將Question和Paragraph分別作為BERT的text1和text2輸入。 2.start/end span在Paragraph對應的輸出位置表示。 通常輸出會通過2個dense網絡 ...
原文：Tensorflow做閱讀理解與完形填空
catalogue . 前言 開始寫這篇文章的時候是晚上 點，突然想到幾點新的理解，趕緊記下來。我們用深度學習 例如tensorflow 的時候，一定要着重訓練自己的建模和抽象能力，即把一個復雜的業務問題抽象為一個數學模型問題。從本質上說，閱讀理解做完形填空和人機對話AI是一樣的，所不同的地方在於，前者的輸入一段長對話，且是帶有上下文的長對話，而輸出可能是一段短語，這要求神經網絡需要訓練出一個 長 ...
2017-02-24 17:14 0 3989 推薦指數：
相關推薦
用Tensorflow做蝴蝶檢測
報名了一個蝴蝶檢測比賽，一共給了700多張圖，包含94種蝴蝶類別，要求檢測出圖片中的蝴蝶並正確分類。 1.拿到數據集后，第一部就是將700多張圖分成了 483張訓練樣本和238張測試樣本（由於數據集 ...
SSD-tensorflow源碼閱讀
之前寫的一篇SSD論文學習筆記因為沒保存丟掉了，然后不想重新寫，直接進行下一步吧。SSD延續了yolo系列的思路，引入了Faster-RCNN anchor的概念。不同特征層采樣，多anchor. SSD源碼閱讀 https://github.com/balancap/SSD-Tensorflow ...
DeconvNet 論文閱讀理解
學習語義分割反卷積網絡DeconvNet 一點想法：反卷積網絡就是基於FCN改進了上采樣層，用到了反池化和反卷積操作，參數量2億多，非常大，segnet把兩個全連接層去掉，效果也能很好，顯著減少了參 ...
tensorflow源碼閱讀（c++)（一）
root/tensorflow/core |--common_runtime # 公共運行庫 |--distributed_runtime # 分布式執行模塊，含有grpc session, grpc worker, grpc master等 |--framework # 基礎功能模塊 ...
webrtc源碼閱讀理解一
webrtc是一個比較成熟的實時音視頻處理開源項目，一上來老大就扔給我一本webrtc native實踐，雖然狠下心“翻”完了一遍，但是還是雲里霧里的，在經過幾個月的摸索之后，我大概知道原因了，歸根到底，是基礎不在一個層次，理解不了的，所以我決定，嘗試寫一個接近我這種零基礎入門實時音視頻的記錄系列 ...
NLP中的用N-gram語言模型做英語完型填空的環境搭建
本文是對github上fork的xing_NLP中的用N-gram語言模型做完型填空這樣一個NLP項目環境搭建的一個說明，本來寫在README.md中。第一次用github中的wiki，想想嘗試一下也不錯，然而格式非常的混亂，自己都不滿意，所以先在博客園記錄一下，等github博客搭建 ...
邏輯填空
一說到言語，有的小伙伴可能說習慣用語感，怎么說呢，有好的語感在一定程度上是能幫助做題的，可是要想多對一點少錯一點還是要去掌握方法技巧的，用語感做題還會導致可能今天語感好做對了，那明天語感不好的時候就不知道該怎么做了 廢話不多說，直接進入正題 言語理解總體來說分為邏輯填空和片段閱讀。各個部分都有 ...