我无法忘记大学第一次学习线性代数时的感觉，那是一种脱离实际的抽象，以及让人应接不暇且毫无意义的关系，每个细小的问题都可以找到一个角度去看，但是这些角度却没有什么实际意义。最让人痛苦的是并没有一个统一的角度来抽象这些东西，同时也让我惊讶于在如此讲究逻辑的数学中看到的东西竟然如此混沌。而这种无法掌控,随着时间会完全遗忘，仿佛从未学过的感觉一直让我失去再次拜读那些如经文一般的课本的冲动。毕业的时候，我…

根据我自己做项目和写文章的经验来看，输入数据之间如果存在很强的共线性，通常会对传统的线性回归算法产生“毁灭级”的影响；对于一般的浅层机器学习算法，比如BPNN、SVM、随机森林（RF）、极限学习机（ELM）等，通常也会产生不可忽视的影响。 咱们首先统一思想，来明确一下变量之间多重共线性的含义： 如果某两个或多个解释变量之间出现了相关性，则称为多重共线性（Multicollinearity）。以下图为例 对于某一个以农业为主的小…