環境

Virtualbox 5.2.4 r119785
Windows10 Pro

ほとんど興味本位だが、VirtualboxのmacOSからWindowsホストへリモートデスクトップの検証がしたくなり、Virtualbox上にHigh sierraをインストールしたのが始まり

結論

>VBoxManage setextradata "mac" VBoxInternal2/EfiHorizontalResolution 1440
>VBoxManage setextradata "mac" VBoxInternal2/EfiVerticalResolution 900

いろんな情報が溢れているが、どうも公式マニュアルに一見書かれていない上記が正解のようだ。
私の環境は上記で解決した。

以下は設定は入っている？(enumerateだと出る)が意味がない？かもしれない

>VBoxManage.exe setextradata "mac" "VBoxInternal2/EfiGraphicsResolution" "1440x900"

今の設定の読み出し方は以下

>VBoxManage.exe getextradata "mac" enumerate
Key: GUI/LastCloseAction, Value: PowerOff
Key: GUI/LastNormalWindowPosition, Value: 2778,215,1024,810
Key: VBoxInternal/Devices/efi/0/Config/DmiBoardProduct, Value: Mac-2BD1B31983FE1663
Key: VBoxInternal/Devices/efi/0/Config/DmiSystemProduct, Value: MacBookPro11,3
Key: VBoxInternal/Devices/efi/0/Config/DmiSystemVersion, Value: 1.0
Key: VBoxInternal/Devices/smc/0/Config/DeviceKey, Value: ourhardworkbythesewordsguardedpleasedontsteal(c)AppleComputerInc
Key: VBoxInternal/Devices/smc/0/Config/GetKeyFromRealSMC, Value: 1
Key: VBoxInternal2/EfiGopMode, Value: 4
Key: VBoxInternal2/EfiHorizontalResolution, Value: 1440
Key: VBoxInternal2/EfiVerticalResolution, Value: 900
Key: VboxInternal2/EfiGraphicsResolution, Value: 1440x900

なんで以下で取り出せないかはよくわからない

>VBoxManage.exe getextradata "mac" VBoxInternal2/EfiGraphicsResolution
No value set!

有効でないキーだと取り出せないのかもしれない

>VBoxManage.exe getextradata "mac" VBoxInternal2/EfiHorizontalResolution
Value: 1440

これは取り出せた

参考