regression2chatgpt/ch13_others

概述

虽然神经网络在人工智能领域备受瞩目，但它并非该领域的唯一关键模型。人工智能包括众多经典模型，难以逐一详细介绍。因此，本章将深入讨论几个具有启发性的模型，它们或与神经网络关系密切，或适合与神经网络搭配使用。这些模型分别是决策树及其衍生模型、隐马尔可夫模型，以及无监督学习。

1. 决策树是一种直观且易于理解的模型，也是模型联结主义的杰出代表。在实际应用中，决策树往往与其他模型组合在一起使用。我们不仅可以借助决策树来提取关键特征，也可以利用它的清晰结构来提高整个模型的可解释性。此外，决策树还能够像神经网络一样自我集成，形成更强大的衍生模型，例如随机森林和梯度提升决策树。
2. 隐马尔可夫模型曾经风靡一时，在语音识别、金融市场等领域广受欢迎。特别是在金融领域，被誉为“历史上最赚钱的量化基金”——大奖章基金（Medallion Fund）就使用过隐马尔可夫模型。这个模型可以看作循环神经网络的一种特例，这也是本章选择介绍它的原因。
3. 之前讨论的模型，无论是简单的线性回归还是复杂的大语言模型，均属于监督学习的范畴。也就是说，这些模型要求数据中有标签变量。然而，在实际应用中，存在没有标签变量的情况，这时就需要无监督学习模型发挥作用了。本章将重点介绍三类无监督学习模型，分别是聚类、降维和奇异值分解。

本章内容可能稍显独立，可用于扩展视野，也有助于我们更深入地理解神经网络中某些技术的起源和内涵。

代码说明

代码	说明
dt_example.ipynb	决策树模型
dt_logit.ipynb	决策树与逻辑回归的联结，使用决策树来提取特征
gbts.ipynb	梯度提升决策树
viterbipy.py	viterbi算法的实现
stock_analysis.ipynb	使用隐马尔可夫模型对A股数据进行分析
kmeans.ipynb	聚类算法——KMeans
kmeans_choose_k.ipynb	如何选择聚类个数
pca.ipynb	降维算法——主成分分析