結果的には簡単なことでしたが、検索してもズバリの回答が見当たらなかったので記事にしてみます。
同じマウントポイントに複数回マウントをかけてしまいました。
例えば、下記のようにmountコマンドを2回実施したと思ってください。
mountは管理者でないとできないので、rootになっています。
2019.9.8追記：マウントポイントは、普通 /mnt 配下ですよね... ということで、修正しました。（元は/home/user 配下でマウントする例になっていました。）
# mount -t cifs -o user=hoge,password=fuga //192.168.0.2/taeget_dir /mnt/mountpoint
# mount -t cifs -o user=hoge,password=fuga //192.168.0.2/taeget_dir /mnt/mountpoint
後から気づいて一般ユーザのままで解除しようとしたところ、下記メッセージが表示されアンマウントできません。
（そもそも一般ユーザではアンマウントできないのですが、この時点では気づいておらず。）
$ umount /mnt/mountpoint
umount: /mnt/mountpoint は複数マウントされているようです
ここで一般ユーザのままであることに気づけばよかったのですが、しばらく検索するなど遠回りをしてしまいました。
結果的には、rootでumountすることでアンマウントできました。
# umount /mnt/mountpoint
1つずつアンマウントされるので、複数マウントされているのをすべて解除するには、複数回umountを実行する必要があります。
ちなみに
複数マウントされた状態でなければ、一般ユーザでumountしようとすると次のメッセージが表示されます。これならミスに気づきやすいですね。
$ umount /mnt/mountpoint
umount: /mnt/mountpoint は fstab にありません (さらに、あなたは root ではありません)