Да, поможет аудит на том, и каждодневный просмотр выборки из отчета. Потому как по расширению может быть и можно отловить негодяя (через скрипт, например), но проблему это не решит. Ведь переименует файл, а потом еще будет злорадно ухмыляться, что админа провел.
Я делаю обычно квоту на каталог юзера, один каталог для общего доступа, но оттуда все файлы сносятся каждую полночь (по скрипту). В общий каталог пользователи могли заливать все что хотели днем (квота 10 гиг), но ночью все удалялось. Кто не успел распихать все в домашний каталог, сам виноват. А на рабочих станциях дисков нет........ А квота на личный каталог 500 мег. Есть правда каталоги совместного доступа для разных проектов, но там начальная квота в 50 мег, а дальше по требованию руководителя проекта...
В общем, вот такие вот полуадминистративные меры. А иначе никак.