Комментировать

На практике для реализации

На практике для реализации метода Гаусса (LU и Cholesky факторизации) используются блочные алгоритмы, смотрите, например, их реализацию в библиотеке LAPACK --- процедуры sgetrf и sportf. В блочных алгоритмах большинство операций совершается в умножении матриц и других, аналогичных процедурах из BLAS3. Блочные алгоритмы потребляют гораздо меньше пропускной способности памяти, поэтому работают значительно быстрее на современных машинах при больших размерах матриц.

Задачи матфизики разные бывают. В некоторых и плотные линейные системы алгебраических уравнений надо решать, и находить решение в смысле наименьших квадратов, и собственные значения искать и SVD --- всё там есть. Разреженные матрицы тоже встречаются очень часто, для них существуют отдельные библиотеки.