Respondendo as suas perguntas:

*Rede cabeada é mais estável que wifi, cada cabo em uma portinha do modem.

*Melhor topologia depende muito, para usar wifi o ideal seria o modem da net em um lugar mais alto e o resto pegando as ondas geradas, pois e assim que uma antena de televisão fica, ela nao fica no nivel da rua por exemplo.

*Nada de hub , switch ou um roteador configurado como repetidor de sinal.

• TRocar o modem, vai ficar restrito aos que a operadora disponibiliza, eles fecham a rede, pode ate conversar com o técnico e ver qual modelo da net ele pode indicar e colocar.

*Ganho de velocidade depende da sua região e da rota do provedor, algo do qual voce não tem controle, se a sua região a Net é regular, nao espere jogar a 10 fps por exemplo.

Te comentei sobre reposicionar o modem no lugar mais alto, mas as vezes o primeiro ponto que chega da rua fica no andar de baixo, então colocando o mais alto e central possivel ajuda.

Comente suas conclusões e dúvidas.

Talvez não seja necessário comprar um switch, confira se seu roteador tem portas livres. Rede cabeada é sempre mais estável, mas como uma rapida modificação pode melhorar o wi-fi, como muda o canal para um canal menos poluído.