How can I apply filename filter in sftp server?

Нет. В OpenSSH такой возможности нет. Единственный вариант, о котором я могу думать, - это автоматический скрипт, проверяющий содержимое каталога загрузки и перемещающий файлы с правильными символами в правильное целевое место. Это может выполняться при выходе пользователя из системы или периодически с помощью cron .