Количество файлов в каталоге ограничено, прежде всего, максимальным размером файла, разделенным на размер записи каталога. Поскольку максимальный размер файла находится в диапазоне терабайт, нет никакого практического предела на размер каталога. В зависимости от того, какие ext3 функции Вы используете, может ухудшиться производительность, поскольку каталог растет.
Существует предел 32 000 подкаталогов.
Cisco IPS в основном использует "подписи", которые являются не чем иным как регулярными выражениями.