De un manual de Apache:
If no file from the DirectoryIndex directive can be located in the directory, then mod_autoindex can generate a listing of the directory contents
Cuando se pide una dirección sin especificar un archivo, Apache (configurado en cierto modo) genera un html con la lista de los archivos. El siguiente comando descarga todos los archivos de la lista de archivos generada por Apache.
wget --execute="robots = off" --mirror --convert-links --no-parent --wait=2 http://dominio.com/directory