Во всех текущих файловых системах Unix каталог может содержать практически неограниченное количество файлов. Принимая во внимание, что "неограниченный" ограничен дисковым пространством и inodes - независимо от того, что заканчивается сначала.
С более старыми проектами файловой системы (ext2, UFS, HFS +) вещи имеют тенденцию становиться медленными, если у Вас есть много файлов в каталоге. Обычно вещи начинают становиться болезненными приблизительно 10 000 файлов. С более новыми файловыми системами (ReiserFS, XFS, ZFS, UFS2) у Вас могут быть миллионы файлов в каталоге, не видя общие узкие места производительности.
Но наличие такого количества файлов в каталоге не хорошо тестируется и существует много инструментов, которые приводят это к сбою. Например, периодические сценарии обслуживания системы могут блевать на нем.
Я счастливо использовал каталог с несколькими миллионами файлов на UFS2 и не видел проблем, пока я не хотел удалить каталог - который занял несколько ДНЕЙ.