EigenはC++で使える線形代数ライブラリです。
Xcodeを使う
usr/local/include
あたりにHeader Search Pathsを設定
ダウンロードしたブツのEigen以下を設置
#include <iostream>
#include <Eigen/Core>
#include <Eigen/Geometry>
int main() {
using namespace Eigen;
Matrix3d A, B;
A << 3.0, 6.0, 3.0,
2.0, 1.0, 2.0,
1.0, 2.0, 1.0;
int k = 0;
B << 1.0, 0.0, 0.0,
-A(k+1,k)/A(k,k), 1.0, 0.0,
-A(k+2,k)/A(k,k), 0.0, 1.0;
std::cout << "m\n" << B * A << std::endl;
}