はじめに

基本的にタイトル通り。分かっている人にとっては簡単なことだと思うが、過去の自分みたいに分からない人の助けになれば幸いである。
以下、厳密じゃない表現もあるかと思うが、ご容赦いただきたい。 間違っていることがあったらコメントで教えてください。

結論（というか内容）

$f(x) = x^2$のとき、$\frac{d}{dx_i}\sum^n_{j=1}f(x_j)$は以下のようになる。
$$\frac{d}{dx_i}\sum^n_{j=1}x_j^2 = \frac{d}{dx_i}(x_1^2 + x_2^2 + ...+ x_i^2 +...+ x_n^2)$$
ここで、$\sum^n_{j=1}x_j^2$を$x_i$で微分すると、$x_i$が含まれる項以外はすべて定数なので0になる（例えば、$j=3$のときは$x_1^2$、$x_2^2$、$x_4^2$、$x_5^2$、$...$はすべて定数なので0になる）。
$$\therefore \frac{d}{dx_i}\sum^n_{j=1}x_j^2 =0 + 0 + ... + \frac{d}{dx_i}x_i^2 + ... + 0 = \frac{dx_i^2}{dx_i} = 2x_i$$

以上