Em seguida clique em Monitor, altere a memória de vídeo para 128MB (Requisito mínimo de vídeo para as transparencias) e clique no dropdown onde está escrito Controladora Gráfica:
Por padrão, o VirtualBox usa para Ubuntu e derivados o VMSVGA, controladora de vídeo do VMWare player, que oferece um suporte básico ao Wayland, mas que é problemática com o KDE 5 em suas ultimas versões (daí os crashes do KWin que temos no VMWare), Basta mudar de VMSVGA para VBoxSVGA e apertar o botão OK. (não esqueça de instalar os adicionais de convidados em sua máquina virtual).
Uma dica opcional, caso seu processador seja um quad-core ou superior, é ir na guia Sistema, depois clicar em processador e aumentar o numero de núcleos dedicados à máquina Virtual, isso aumentará em muito o desempenho.