点aの近くで定義された2つの関数,f(x),g(x)に対して
|f(x)| \leq C|g(x)|
(Cはある正の定数)が成り立つとき
$f(x)=\mathcal{O}(g(x)) (x→a)$と書き，この式が成り立つとき，aの近くでf(x)はg(x)で押さえられてるといいます．
この$\mathcal{O}$をランダウの記号といいます．
具体例
$f(x) = 1 + x + \frac{1}{2}x^2+\frac{1}{6}x^3 \cdots \frac{1}{n!}x^n$を考えます．
これをランダウの記号を用いていて，2次の項まで書くと
$f(x) = 1 + x + \frac{1}{2}x^2+\mathcal{O}(x^3)$と書くことができます．
xを大きくしていったときに定数の影響はほとんど受けないので，定数を無視してしまおうというアイデアです．
コンピュータサイエンスでもlognのオーダを$\mathcal{O}(log(n))$などと表します．つまり暗黙的にでてきたこの記号は定数はオーダに影響しないので無視しようという意味だったともいえるのです．