無効化は出来るが削除できないという話。

いつの間にか導入されてしまうより、管理した上で無効にした方がましという判断？

手動で削除する方法についてはここが参考になった。
http://www.howtogeek.com/140448/how-to-manually-uninstall-a-globally-installed-firefox-extension/
例として Logitech SetPoint の拡張機能を削除する方法を示している。

拡張機能については以下のレジストリに記録されている。
32bit版
HKEY_LOCAL_MACHINE\SOFTWARE\Wow6432Node\Mozilla\Firefox\Extensions
64bit版
HKEY_LOCAL_MACHINE\SOFTWARE\Mozilla\Firefox\Extensions

{GUID} を {GUID}_ に書き換えるなどして認識されないようにすることで削除できる。(単に削除してもよい。)

プラグインについては以下のレジストリに記録されている。
32bit版
HKEY_LOCAL_MACHINE\SOFTWARE\Wow6432Node\MozillaPlugins
HKEY_CURRENT_USER\SOFTWARE\MozillaPlugins
64bit版
HKEY_LOCAL_MACHINE\SOFTWARE\MozillaPlugins
HKEY_CURRENT_USER\SOFTWARE\MozillaPlugins

不要なプラグインの項目を削除するなどする。

レジストリの変更を反映するには Firefox の再起動が必要。

Mozilla Firefox 43.0.4 で確認。

ドキュメントでは削除できる事になっているが、[削除]ボタンなんて無い。
https://support.mozilla.org/en-US/kb/disable-or-remove-add-ons#w_how-to-remove-extensions-and-themes
https://support.mozilla.org/ja/kb/disable-or-remove-add-ons#w_oakieaclaecickczacooocaoaoaeag