В файле настройки самбы /etc/samba/smb.conf в секции [global] надо прописать правильные кодировки.

Для дистрибутивов с локалью KOI8-R опции будут такими

dos charset = 866
unix charset = koi8-r
display charset = LOCALE

Для локали UTF8, соответсвенно, будет

dos charset = 866
unix charset = UTF8
display charset = LOCALE

Внимание! Возможно, что вместо слова LOCALE (третья строчка) надо писать
конкретное название локали. Это так непонятно написана документация.
Видимо, надо указывать ту же кодировку, что и для unix charset.