Войдите в Windows/Mac OS X, авторизованный против пользователей на сервере Linux
С таким трафиком Ваш сервер должен больше, чем быть достаточным с 768 МБ RAM. Даже 256 МБ будут достаточно. То, что необходимо будет сделать, должно настроить рабочие сервисы. Можно, вероятно, настроить Apache или избавиться от него полностью и заменить его одним из более легких веб-серверов как lighttpd или nginx серверы. Ограничьте количество порожденных потоков FastCGI и также ограничьте Ваше использование памяти PHP.
Сторона окон легка: Просто установите Debian, чтобы использовать OpenLDAP для аутентификации, настроить Samba как контроллер домена, поместить поля Windows в домен, и Вы сделаны. Это - довольно стандартный материал, и Вы найдете много учебных руководств о том, как он сделан.
Сторона Mac более сложна. Обычно можно пройти проверку подлинности против любого сервера LDAP, но чтобы это работало приятно из поля, сервером LDAP должен быть OpenDirectory (Сервер MacOS) или Active Directory, поскольку они лучше всего поддерживаются Apple. Чтобы OpenLDAP полностью работал, необходимо будет добавить множество пользовательской конфигурации к серверу LDAP и полям Mac, но я предполагаю, что будет значительно легче, если Вам не будут нужны профили роуминга.