$g(801)-2g(800)+g(799)$は$\lbrace g(801)-g(800)\rbrace-\lbrace g(800)-g(799)\rbrace$と変形できるので、まず$g(n+1)-g(n)$の形を考えます。
$g(n+1)-g(n)$
$=\Sigma_{s=1}^{n+1}\Sigma_{t=1}^{n+1}f(s,t)-\Sigma_{s=1}^n\Sigma_{t=1}^n f(s,t)$
$=f(n+1,n+1)+\Sigma_{s=1}^n f(s,n+1)+\Sigma_{t=1}^n f(n+1,t)$ $…①$
$①$を$[A]$ $f(n+1,n+1),$ $[B]$ $\Sigma_{s=1}^n f(s,n+1),$ $[C]$ $\Sigma_{t=1}^n f(n+1,t)$に分けます。
$[A]$ $f(n+1,n+1)$
$n+1$は$n+1$で割り切れるので$0$です。
$[B]$ $\Sigma_{s=1}^n f(s,n+1)$
$s<n+1$の関係において、$s$を$n+1$で割った余りは$s$です。
よって、$\Sigma_{s=1}^n s$です。
$[C]$ $\Sigma_{t=1}^n f(n+1,t)$
ひとまずこのまま持っておきます。
続いて、$\lbrace g(801)-g(800)\rbrace-\lbrace g(800)-g(799)\rbrace$を考えます。
$①$の$[A],[B],[C]$より、
$[A]$の差分
$=0$
$[B]$の差分
$=\Sigma_{s=1}^{800} s-\Sigma_{s=1}^{799} s$
$=800$
$[C]$の差分
$=\Sigma_{t=1}^{800} f(801,t)-\Sigma_{t=1}^{799} f(800,t)$
$=\Sigma_{t=1}^{800} \lbrace f(801,t)-f(800,t)\rbrace-f(800,800)$
$=\Sigma_{t=1}^{800} \lbrace f(801,t)-f(800,t)\rbrace $ $…②$
$②$について考えます。
$801$を素因数分解すると、$3^2×89$です。
$t$を$1$から順に見ていきます。
$801-800≡0$ $(mod$ $1)$
$801-800≡1$ $(mod$ $2)$
$801-800≡-2$ $(mod$ $3)$
$801-800≡1$ $(mod$ $4)$
$801-800≡1$ $(mod$ $5)$
$801-800≡1$ $(mod$ $6)$
:
:
$801-800≡1-3^2$ $(mod$ $3^2)$
:
:
$801-800≡1-89$ $(mod$ $89)$
:
:
$801-800≡1-3×89$ $(mod$ $3×89)$
:
:
$801-800≡1$ $(mod$ $3^2×89-1)$
上記より、
$[C]$
$=\Sigma_{k=1}^{800}1-[801$の約数の和$]+801$
と変形できます。
これを解くと、
$=800-(1+3+3^2)×(1+89)+801$
$=431$
になります。
したがって解は、
$[A]+[B]+[C]$
$=0+800+431$
$=1231$
です。