Прежде всего, wget может использоваться только для извлечения файлов, обслуживаемых веб-сервером. В вопросе, который вы публикуете, неясно, имеете ли вы в виду фактические файлы или веб-страницы. Я бы предположил, что вы сформулировали свой вопрос о том, что вы намерены загружать файлы сервера, а не веб-страницы, обслуживаемые Django. Если это правильно, то wget не будет работать. Вам нужно использовать что-то вроде rsync или scp.
Если вы хотите использовать wget для извлечения всех сгенерированных страниц из Django, это будет работать, только если ссылки указывают на эти каталоги. Таким образом, вам нужна страница с кодом типа:
<ul>
<li><a href="/web/project1">Project1</a></li>
<li><a href="/web/project2">Project2</a></li>
<li><a href="/web/project3">Project3</a></li>
<li><a href="/web/project4">Project4</a></li>
<li><a href="/web/templates">Templates</a></li>
</ul>
wget не является экстрасенсом; он может только тянуть страницы, о которых он знает.
см. Http://stackoverflow.com/questions/273743/using-wget-to-recursively-fetch-a-directory-with-arbitrary-files-in-it – Jayan