Ресурсы для изучения ML

Математика машинного обучения

https://mml-book.github.io/

Книга по всей (или почти всей) математике, необходимой для машинного обучения: от аналитической геометрии до методов оптимизации. Объем достаточно большой, но можно вполне использовать в качестве справочного материала. Здесь же есть и задачи, поэтому можно после чтения очередной главы попрактиковаться.

2. http://cs229.stanford.edu/section/cs229-linalg.pdf

http://cs229.stanford.edu/section/cs229-prob.pdf

Краткие справочные материалы по линейной алгебре и теории вероятностей от создателей курса CS229. Здесь только самое необходимое, поэтому все неясные моменты можно прояснять в mml-book.

3. https://www.deeplearningbook.org/contents/linear_algebra.html

https://www.deeplearningbook.org/contents/prob.html

Классные материалы из книги Deep Learning Book. Как и в предыдущих конспектах, в этих главах только самые основные аспекты линейной алгебры и теории вероятностей.

4. https://gwthomas.github.io/docs/math4ml.pdf

Отличный обзор математики в контексте машинного обучения от Беркли. В основном здесь про линейную алгебру и теорию вероятностей. В конце даны ссылки на учебники, где темы освещены более подробно.

5. https://explained.ai/matrix-calculus/index.html

Краткий разбор основ матричного дифференцирования. В ML тяжело обойтись без матричных вычислений и дифференцирования векторных функций, поэтому хорошо иметь такую шпаргалку под рукой.

6. https://www.math.uwaterloo.ca/~hwolkowi/matrixcookbook.pdf

Коллекция фактов и свойств, связанных с матрицами.

7. https://sgfin.github.io/files/cheatsheets/probability_cheatsheet_blackwhite.pdf

Шпаргалка по теории вероятностей и статистике.

8. http://vmls-book.stanford.edu/vmls.pdf

Учебник по прикладной линейной алгебре. Все применительно к машинному обучению.

9.http://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf

Курс по выпуклой оптимизации (Boyd & Vandenberghe)

10. https://seeing-theory.brown.edu/

Визуализированный курс по статистике. Очень необычно и полезно для понимания.

11. https://the-learning-machine.com/article/machine-learning/linear-algebra

https://the-learning-machine.com/article/machine-learning/calculus

https://the-learning-machine.com/article/machine-learning/unconstrained-optimization

Великолепные курсы по линейной алгебре, математическому анализу (точнее, калькулюсу — здесь больше вычислительных аспектов) и оптимизации. Можно не только почитать теорию, но и пощупать все руками.

12. https://probabilitycourse.com/

Толковый и бесплатный (самое главное) курс по теории вероятностей и математической статистике. Здесь и теория, и задачи с решениями, и задачи для самостоятельной практики.

13. https://ipvs.informatik.uni-stuttgart.de/mlr/marc/teaching/18-Maths/paper.pdf

Неплохой обзорный курс от университета Штутгарта.

Python, Numpy, Pandas, IPython