Для использования VDPAU в VLC требуется установить пакет поддержки VDPAU в VA-API

Устанавите пакет vdpau-va-driver.

Установите VLC любым способом, например через Центр приложений.

С помощью gedit, kate или любого другого текстового редактора, запущенного с правами администратора, внесите в файл /etc/environment нижеследующую строку:

LIBVA_DRIVER_NAME="vdpau"

Затем в настройках VLC:

Настройки → Ввод и кодеки → Использовать видеоускоритель включаем