こんにちは。
ご連絡いただいている内容からすると、仮想マシンのビデオメモリの割り当てが不足していることが原因な気がします。
仮想マシンの構成の編集→ハードウェアタブのビデオカードの項目でビデオメモリを設定することができるので、現在の割り当てよりも増やしてみてはいかがでしょうか？
計算機ボタンを使用すると、解像度やディスプレイ数から目安となる数値を算出することができます。
ご心配されているのは、CPUやメモリのオーバーコミットが原因になっているかどうかということでしょうか？
CPU Readyの数値やバルーニング回数が多く無いようであれば特にオーバーコミットがパフォーマンスに影響を出すことはありません。
vSphere環境では、物理搭載CPUやメモリの合計値よりも多くのvCPUやvRAMを複数の仮想マシンの合計値として割り当てて使用することができます。
その際に、性能劣化が起こらないようにメモリ管理の観点ですと、透過的ページシェアリングやバルーニング、メモリ圧縮、スワップという機能が備わっていますし、CPUに関してはタイムシェアリングでスケジュール管理されています。
CPUに関して枯渇状態になっている場合はGUIでの体感的なパフォーマンスだけではなく、SSHによるログインも遅くなりますし、CPU ready（割り当て待ち）時間が長くなっていたりします。
ですので、おっしゃる現象を総合するとビデオメモリが不足している可能性のほうが大きいです。