<jupyter_start><jupyter_text>转移学习的两个主要场景* 微调Convnet： 使用与训练的网络（如在imagenet 1000上训练而来的网络）来初始化自己的网络，而不是随机初始化。其他训练步骤不变。* 将Convnet堪称固定的特征提取器： 首先固定ConvNet出来最后的全连接层外的所有其他层。  最后的全连接层被替换称一个新的随机初始化的层，只有这个新的称会被训练【只有这层参数会在反向传播时被更新】<jupyter_code>from __future__ import print_function, division

import torch
import torch.nn as nn
import torch.optim as optim
from torch.optim import lr_scheduler
import numpy as np
import torchvision
from torchvision import datasets, models, transforms
import matplotlib.pyplot as plt
import time 
import os
import copy

plt.ion() # interactive mode 互动模式
# load dataset<jupyter_output><empty_output>
{'fraction_non_alphanumeric': 0.05663430420711974, 'fraction_numerical': 0.006472491909385114, 'mean_word_length': 8.671875, 'pattern_counts': {'":': 0, '<': 5, '<?xml version=': 0, '>': 5, 'https://': 0, 'lorem ipsum': 0, 'www.': 0, 'xml': 0}, 'pii_count': 0, 'substrings_counts': 0, 'word_list_counts': {'cursed_substrings.json': 0, 'profanity_word_list.json': 0, 'sexual_word_list.json': 0, 'zh_pornsignals.json': 0}}
{'chain_length': '1', 'dir': 'jupyter-structured-clean-dedup', 'id': '236231', 'license': 'MIT', 'n_tokens_mistral': 305, 'n_tokens_neox': 346, 'n_words': 53, 'path': 'Three_Part_Moudule/pytorch/migration learning.ipynb', 'repo_name': 'QAlexBall/Learning_Py', 'size': '618'}