|
|
|
隨著深度學習理論的不斷發展以及 TensorFlow 的廣泛應用，基於深度學習的信號分析模型在不同領域產生了深遠的影響。本書為TensorFlow 2的使用指南，從軟體安裝、資料下載、檔管理等方面入手為初級開發者提供細緻而全面的介紹。在此基礎上，本書系統地介紹了TensorFlow 2在人工神經網路實戰專案中的應用，全面覆蓋了各種深度學習架構，內容涉及：入門級的二分類模型、回歸模型等；進階級的文本生成模型、圖像生成模型、機器翻譯模型、時序預測模型等；以及的Transformer模型等。在每個項目中，本書完整地展示了模型設計、網路搭建、模型訓練、模型保存、結果預測與顯示的全過程，並提供了詳細的實現代碼。
本書將深度學習理論與實際項目結合，為初學者搭建了進入人工智慧領域的學習平臺，為深度學習演算法開發者提供了較為全面的應用範例，充分滿足了不同群體的學習需求。
第1章TensorFlow快速入門001
1.1什麼是TensorFlow2.0002
1.1.1TensorFlow2.x平臺002
1.1.2訓練003
1.1.3模型保存005
1.1.4部署005
1.2TensorFlow2.x提供什麼006
1.2.1TensorFlow中的tf.keras006
1.2.2Eager執行006
1.2.3分散式運算007
1.2.4TensorBoard007
1.2.5視覺套件（VisionKit）008
1.2.6語音套件（VoiceKit）008
1.2.7邊緣套件（EdgeTPU）008
1.2.8AIY套件的預訓練模型009
1.2.9資料管道009
1.3安裝009
1.3.1安裝步驟009
1.3.2Docker安裝010
1.3.3無安裝010
1.4測試010
總結012
第2章深入研究TensorFlow013
2.1一個簡單的機器學習應用程式013
2.1.1創建Colab筆記本014
2.1.2導入015
2.1.3創建資料016
2.1.4定義神經網路018
2.1.5編譯模型018
2.1.6訓練網路018
2.1.7檢查訓練結果019
2.1.8預測021
2.1.9完整源碼022
2.2使用TensorFlow解決二分類問題024
2.2.1創建項目024
2.2.2導入024
2.2.3掛載Google雲盤025
2.2.4載入數據026
2.2.5資料處理027
2.2.6定義ANN030
2.2.7模型訓練032
2.2.8完整源碼036
總結039
第3章深入瞭解tf.keras040
3.1開始040
3.2用於模型構建的函數式API041
3.2.1序列化模型041
3.2.2模型子類043
3.2.3預定義層044
3.2.4自訂層044
3.3保存模型046
3.4卷積神經網路049
3.5使用CNN做圖像分類050
3.5.1創建項目051
3.5.2圖像資料051
3.5.3載入數據052
3.5.4創建訓練、測試資料集052
3.5.5準備模型訓練資料053
3.5.6模型開發055
3.5.7定義模型060
3.5.8保存模型073
3.5.9預測未知圖像073
總結075
第4章遷移學習076
4.1知識遷移076
4.2TensorFlowHub077
4.2.1預訓練模型078
4.2.2模型的使用079
4.3ImageNet分類器080
4.3.1創建項目080
4.3.2分類器URL080
4.3.3創建模型081
4.3.4準備圖像082
4.3.5載入標籤映射083
4.3.6顯示預測結果084
4.3.7列出所有類別085
4.3.8結果討論085
4.4犬種分類器085
4.4.1項目簡介086
4.4.2創建項目086
4.4.3載入數據086
4.4.4設置圖像和標籤088
4.4.5圖像預處理091
4.4.6處理圖像091
4.4.7關聯圖像與標籤092
4.4.8創建資料批次093
4.4.9顯示圖像函數094
4.4.10選擇預訓練模型095
4.4.11定義模型095
4.4.12創建資料集097
4.4.13設置TensorBoard099
4.4.14訓練模型100
4.4.15訓練日誌100
4.4.16驗證模型性能101
4.4.17預測測試圖像101
4.4.18視覺化測試結果103
4.4.19預測未知圖像105
4.4.20使用小資料集訓練106
4.4.21保存、載入模型107
4.5提交你的工作108
4.6進一步工作108
總結109
第5章使用神經網路處理回歸問題110
5.1回歸110
5.1.1定義110
5.1.2應用111
5.1.3回歸問題111
5.1.4回歸問題的類型111
5.2神經網路中的回歸問題112
5.2.1創建項目112
5.2.2提取特徵和標籤113
5.2.3定義、訓練模型113
5.2.4預測114
5.3分析葡萄酒品質114
5.3.1創建項目114
5.3.2數據準備114
5.3.3下載數據115
5.3.4準備資料集115
5.3.5創建資料集115
5.3.6數據歸一化116
5.3.7創建模型119
5.3.8視覺化評價函數119
5.3.9小模型120
5.3.10中模型122
5.3.11大模型124
5.3.12解決過擬合126
5.3.13結果討論129
5.4損失函數130
5.4.1均方誤差130
5.4.2平均絕對誤差131
5.4.3Huber損失131
5.4.4LogCosh損失131
5.4.5分位數損失131
5.5優化器132
總結132
第6章Estimators（估算器）134
6.1Estimators概述134
6.1.1API介面135
6.1.2Estimators的優點135
6.1.3Estimators的類型136
6.1.4基於Estimators的專案開發流程137
6.2設置Estimators139
6.3用於分類的DNN分類器139
6.3.1載入數據140
6.3.2準備數據140
6.3.3Estimators輸入函數141
6.3.4創建Estimators實例142
6.3.5模型訓練142
6.3.6模型評價143
6.3.7預測未知數據144
6.3.8實驗不同的ANN結構144
6.3.9項目源碼145
6.4用於回歸的LinearRegressor147
6.4.1項目描述147
6.4.2創建項目147
6.4.3載入數據148
6.4.4特徵選擇148
6.4.5數據清洗149
6.4.6創建資料集151
6.4.7建立特徵列152
6.4.8定義輸入函數154
6.4.9創建Estimators實例物件154
6.4.10模型訓練155
6.4.11模型評估155
6.4.12項目源碼156
6.5自訂Estimators158
6.5.1創建項目159
6.5.2載入數據159
6.5.3創建資料集159
6.5.4定義模型159
6.5.5定義輸入函數160
6.5.6將模型轉換為Estimator160
6.5.7模型訓練161
6.5.8模型評價161
6.5.9項目源碼161
6.6為預訓練模型定義Estimators163
6.6.1創建項目163
6.6.2導入VGG16163
6.6.3創建自訂模型163
6.6.4編譯模型165
6.6.5創建Estimator165
6.6.6處理資料165
6.6.7訓練、評價166
6.6.8項目源碼166
總結167
第7章文本生成169
7.1迴圈神經網路170
7.1.1樸素RNN170
7.1.2梯度消失和梯度爆炸171
7.1.3LSTM（一個特例）171
7.2文本生成174
7.2.1模型訓練174
7.2.2預測175
7.2.3模型定義176
7.3生成新生兒名字176
7.3.1創建項目176
7.3.2下載文本177
7.3.3處理文本177
7.3.4定義模型180
7.3.5編譯181
7.3.6創建checkpoints182
7.3.7訓練182
7.3.8預測182
7.3.9項目源碼-TextGenerationBabyNames184
7.3.10保存、重用模型188
7.4高級文本生成188
7.4.1創建項目189
7.4.2載入文本189
7.4.3處理資料190
7.4.4定義模型191
7.4.5創建checkpoints191
7.4.6自訂回檔類192
7.4.7模型訓練193
7.4.8結果193
7.4.9中斷點續訓練194
7.4.10過程觀察195
7.4.11項目源碼196
7.5進一步工作199
總結199
第8章語言翻譯200
8.1sequence-to-sequence模型200
8.1.1編碼器、解碼器201
8.1.2Seq2seq模型的缺點203
8.2注意力模型203
8.3英語翻譯為西班牙語204
8.3.1創建項目204
8.3.2下載資料集205
8.3.3創建資料集205
8.3.4數據預處理207
8.3.5GloVe詞嵌入212
8.3.6定義編碼器214
8.3.7定義解碼器215
8.3.8注意力網路216
8.3.9定義模型221
8.3.10模型訓練222
8.3.11預測222
8.3.12項目源碼229
總結237
第9章自然語言理解238
9.1Transformer簡介238
9.2Transformer詳解239
9.2.1下載原始資料240
9.2.2創建資料集240
9.2.3數據預處理240
9.2.4構建語料庫240
9.2.5準備訓練集數據243
9.2.6Transformer模型244
9.2.7多頭注意力（機制）245
9.2.8ScaledDot-Product注意力模組248
9.2.9編碼器結構249
9.2.10編碼器252
9.2.11解碼器結構254
9.2.12定義解碼器257
9.2.13Transformer模型259
9.2.14創建訓練模型261
9.2.15損失函數261
9.2.16優化器262
9.2.17編譯262
9.2.18訓練262
9.2.19預測263
9.2.20測試263
9.2.21項目源碼264
9.3下一步是什麼276
總結276
第10章圖像描述278
10.1項目簡介280
10.2創建項目280
10.3下載數據280
10.4解析Token文件282
10.4.1載入數據282
10.4.2創建列表283
10.5載入InceptionV3模型284
10.6準備資料集285
10.7提取特徵285
10.8創建詞彙表286
10.9創建輸入序列286
10.10創建訓練資料集287
10.11創建模型288
10.12創建編碼器288
10.13創建解碼器288
10.13.1Bahdanau注意力機制289
10.13.2解碼器功能289
10.13.3解碼器初始化289
10.13.4解碼器調用方法290
10.13.5注意力得分290
10.13.6注意力權重290
10.13.7上下文向量291
10.13.8解碼器實現291
10.14編碼器、解碼器產生實體294
10.15定義優化器和損失函數294
10.16創建checkpoints296
10.17訓練函數297
10.18模型訓練298
10.19模型預測298
10.20項目源碼301
總結310
第11章時間序列預測311
11.1時間序列預測簡介311
11.1.1什麼是時間序列預測311
11.1.2預測中的問題312
11.1.3時間序列組成312
11.1.4單變數與多變數312
11.2單變數時間序列分析313
11.2.1創建項目313
11.2.2準備數據313
11.2.3創建訓練集和測試集316
11.2.4創建輸入張量319
11.2.5構建模型320
11.2.6編譯和訓練320
11.2.7評估320
11.2.8預測下一個數據點322
11.2.9預測資料點區間323
11.2.10項目源碼325
11.3多變數時間序列分析330
11.3.1創建項目330
11.3.2準備數據331
11.3.3檢查平穩性331
11.3.4探索資料332
11.3.5準備數據333
11.3.6創建模型335
11.3.7訓練335
11.3.8評估335
11.3.9預測未來點336
11.3.10預測資料點區間337
11.3.11項目源碼339
總結343
第12章風格遷移344
12.1快速風格遷移345
12.1.1創建項目345
12.1.2下載圖像345
12.1.3準備模型輸入圖像347
12.1.4執行風格遷移348
12.1.5顯示輸出348
12.1.6更多結果348
12.1.7項目源碼350
12.2自訂風格遷移351
12.2.1VGG16結構352
12.2.2創建項目352
12.2.3下載圖像353
12.2.4顯示圖像354
12.2.5圖像預處理354
12.2.6構建模型355
12.2.7內容損失357
12.2.8風格損失357
12.2.9全變分損失357
12.2.10計算內容和風格損失358
12.2.11Evaluator類359
12.2.12生成輸出圖像359
12.2.13顯示圖像360
12.2.14項目源碼361
總結365
第13章圖像生成366
13.1GAN（生成對抗網路）366
13.2GAN如何工作366
13.3生成器367
13.4判別器367
13.5數學公式368
13.6數字生成369
13.6.1創建項目369
13.6.2載入資料集369
13.6.3準備資料集370
13.6.4定義生成器模型370
13.6.5測試生成器372
13.6.6定義判別器模型373
13.6.7測試判別器374
13.6.8定義損失函數375
13.6.9定義新訓練函數376
13.6.10項目源碼380
13.7字母生成385
13.7.1下載數據385
13.7.2創建單字母資料集385
13.7.3輸出結果386
13.7.4項目源碼387
13.8印刷體到手寫體392
13.9生成彩色卡通圖像392
13.9.1下載資料集392
13.9.2創建資料集392
13.9.3顯示圖像393
13.9.4輸出結果394
13.9.5項目源碼394
總結400
第14章圖像轉換401
14.1自動編碼器401
14.2色彩空間402
14.3網路配置402
14.3.1Vanilla模型403
14.3.2Merged模型403
14.3.3使用預訓練的Merged模型403
14.4自動編碼器404
14.4.1載入數據405
14.4.2創建訓練、測試資料集406
14.4.3準備訓練數據406
14.4.4定義模型407
14.4.5模型訓練410
14.4.6測試410
14.4.7未知圖像預測412
14.4.8項目源碼413
14.5編碼器的預訓練模型418
14.5.1項目簡介418
14.5.2定義模型418
14.5.3提取特徵418
14.5.4定義網路419
14.5.5模型訓練420
14.5.6預測421
14.5.7未知圖像預測421
14.5.8項目源碼422
總結426
