- 返回上层目录
- 深度学习概论
- ANN人工神经网络
- Hopfield神经网络
- 知识点
- CNN卷积神经网络
- BNN贝叶斯神经网络
- RNN循环神经网络
- LNN液态神经网络Liquid Neural Network
- GNN图神经网络
- 深度生成模型
- Few-shot Learning小样本学习
===
在工作的时候，你完全可能会遇到一个相对陌生的模型，所以你需要具备快速把握一个模型的能力，这里推荐大家积累的具体能力有两个。一个是通过netron阅读模型的onnx能力。在你掌握上一段说的理论内容之后，你可以下载一个模型的onnx文件试着打开看看，刚开始也许还是蛮痛苦的，看过的应该都懂，但你应该积累出的能力是，打开一个陌生模型的onnx文件，很快能够看出这个模型大致包括哪些基本结构模块，进而理解优化要点有哪些。
从过去往最近回忆
- word2vec，开山之作没的说，后面的bert，gpt都有他的影子
- resnet，何恺明yyds
- transformer，虽然attention不是transformer最先提出的，但动态权重影响深远
- BERT，transformer的encoder
- GPT，transformer的decoder，也别是gpt3直接开启大模型时代
- CLIP，跨模态的超神之作
- MoCo，对比学习
- stable diffusion，文生图
- ViT
- RWKV，线性大模型，复兴RNN