Como o Rodrigo falou, seu hardware não é suportado.
Eu vejo 2 opções;
1. Compre uma placa compatível - Intel baratinha no ML
2. Tente injetar o driver/VIB na ISO.
Veja se esse driver não funciona para vc >> https://rodrigolira.eti.br/isos-do-esxi-com-drivers-realtek-update-esxi-6-7/
Outra opção é criar um ISO ja com os dados injetados.
Alguns links:
https://www.altaro.com/vmware/esxi-image-vmware-image-builder/
https://vinfrastructure.it/2015/05/create-esxi-6-0-custom-iso/
https://www.v-front.de/p/esxi-customizer-ps.html
VC