Для анализа проблемы стоит собрать логи из гостевой системы (можно - с помощью того же hw-probe) после того, как попробовали переключиться на OpenGL и это не сработало.
Плюс - VirtualBox'овский лог виртуалки с хостовой системы на тот момент, а так же - файл конфигурации виртуалки (<name>.vbox).
Можно это всё сюда выложить, либо - на bugs.rosalinux.ru завести баг про это и прикрепить все данные туда.
С OpenGL в VirtualBox уже бывали проблемы, некоторые разработчиками VirtualBox до конца так и не решены. Надо смотреть, что в этом конкретном случае происходит.