$$
\newcommand{\bm}[1]{\boldsymbol{#1}}
\newcommand{\jiko}[1]{\bm{\dot{#1}}}
\newcommand{\pt}[0]{\partial}
$$
スカラーポテンシャルは使えない？！
別記事で，スカラーポテンシャル（電位）を使った静電界の求め方を紹介させていただきました．
具体的には，電界のスカラーポテンシャル$V$を求め，その勾配により$\bm{E}=-\nabla V$から電界を求める方法でした．これと同様のアイディアで，磁界版のスカラーポテンシャル$U$なるものが存在すれば，その勾配により$\bm{H}=-\nabla U$から磁界が求められそうですね！
ところで，スカラーポテンシャルを利用するためには条件がありました．電界$\bm{E}$であれば次の通りです．
$$
\nabla \times \bm{E} = \bm{0}
$$
同様に，磁界$\bm{H}$にも
$$
\nabla \times \bm{H} = \bm{0} \tag{1}
$$
なる条件が課せられます．マクスウェル方程式（拡張されたアンペールの法則）によると，時間変動のない磁界$\bm{H}$が満たす方程式は次の通りです．
$$
\nabla \times \bm{H} = \bm{j} \tag{2}
$$
そのため，条件(1)から$\bm{j}=\bm{0}$なる制約がついてしまいます．このため，電流$\bm{j}$が存在する地点では磁界のスカラーポテンシャル$U$から磁界$\bm{H}$を求めることはできません．
ベクトルポテンシャルの登場
電流$\bm{j}$が存在する地点でも磁界$\bm{H}$を求めたい...そこで登場するのが，ベクトルポテンシャルです．
アイディア
マクスウェル方程式（磁束密度に関するガウスの法則）によると，
$$
\nabla \cdot \bm{B} = 0 \tag{3}
$$
という性質がありましたね．ここで，ベクトル解析によると，次の関係が常に成立します．
$$
\nabla \cdot (\nabla \times \bm{A}) = 0 \tag{4}
$$
式(3)と(4)を見比べると，次の関係が成立します．
$$
\bm{B}=\nabla \times \bm{A} \tag{5}
$$
すなわち，$(\nabla \times \bm{A})$なる$\bm{A}$が見つけられれば，直接$\bm{B}$を求めなくても，その回転$(\nabla \times \bm{B})$から$\bm{A}$が求められます．このベクトル$\bm{A}$をベクトルポテンシャルと呼びます．
ベクトルポテンシャルのイメージ
電流$\bm{j}$の周りの磁束$\bm{B}$の大きさは電流から離れるほど小さくなります．この磁束の大きさの違いが渦を生みます．この渦こそがベクトルポテンシャルを表しています [前野，よくわかる電磁気学，東京図書，2014年]．
電流が作るベクトルポテンシャル
いよいよ電流$\bm{j}$が作るベクトルポテンシャル$\bm{A}$を求めていきます．$\bm{B}=\nabla \times \bm{A}$の両辺に回転を施します．
$$
\nabla \times \bm{B} = \nabla \times (\nabla \times \bm{A} )
$$
ここで，時間変動のない，拡張されたアンペールの法則の法則（式(2)）の両辺を$\mu$倍すると次のようになります．
$$
\nabla \times \bm{H} = \bm{j}
\quad(\mu倍)\rightarrow\quad
\nabla \times \mu \bm{H} = \nabla \times \bm{B} =\mu \bm{j}
$$
したがって，$\nabla \times \bm{B}$について
\begin{eqnarray}
\begin{cases}
\nabla \times \bm{B} = \nabla \times (\nabla \times \bm{A} )\\
\nabla \times \bm{B} =\mu \bm{j}
\end{cases}
\end{eqnarray}
なる関係が立ちます．
$$
\nabla \times (\nabla \times \bm{A} )
= \mu \bm{j} \tag{6}
$$
この式(6)の右辺についてはベクトル解析の公式「$\nabla \times (\nabla \times \bm{A} )= \nabla(\nabla \cdot \bm{A})-\nabla^2 \bm{A}$」が使えます．そのため，次のベクトルポテンシャル$\bm{A}$に関する方程式を得ます．
$$
\nabla(\nabla \cdot \bm{A})-\nabla^2 \bm{A} = \mu \bm{j}
$$
ここで，$\nabla \cdot \bm{A}=0$とします（クーロン条件といいます）．
$$
\nabla^2 \bm{A} = - \mu \bm{j} \tag{7}
$$
この方程式を解きます．冒頭で紹介した別記事（スカラーポテンシャルによる静電界の求め方）で紹介しましたが，式(7)はポアソン方程式によく似ています．両者を書き並べると
\begin{eqnarray}
\begin{cases}
\nabla^2 V= - \cfrac{\rho}{\epsilon} \\
\nabla^2 \bm{A} = - \mu \bm{j}
\end{cases}
\end{eqnarray}
ポアソン方程式の解は
$$
V = \cfrac{1}{4 \pi \epsilon} \int_V \cfrac{\rho}{r} dv
$$
です．これを参考にすると，式(7)の解（=ベクトルポテンシャル$\bm{A}$）が次のように与えられます．
$$
\bm{A} = \cfrac{\mu}{4 \pi} \int_V \cfrac{\bm{j}}{r} dv \tag{8}
$$
ここまでの手順を図にまとめてみます（磁束$\bm{B}$の求め方）．同図には，電流$\bm{j}$が存在しない場合の手順も掲載しています．
(補足)ビオ・サバールの法則
高校物理などで学ぶビオ・サバールの法則
$$
\bm{B} = \cfrac{\mu}{4\pi} \int_V \cfrac{\bm{j} \times (\bm{r'}-\bm{r})}{ |\bm{r}-\bm{r'}|^3}
$$
は，ベクトルポテンシャルから計算できます．具体的には式(8)からビオ・サバールの法則を導出してみます．