– je les ai aidés du mieux dont j’en suis capable
– …  que j’en suis capable
– … que/dont j’en sois capable
– au mieux … ??

Pourquoi vous ne pouvez pas employer « dont » et « en » en même temps.
Les deux signifient la même chose : de cela
Pour mieux comprendre prenons un autre exemple :
Je les ai aidé avec la gentillesse dont je suis capable . « Dont je suis capable » = je suis capable de cette efficacité
Je les ai aidé avec gentillesse ; j’en suis capable. « j’en suis capable » = je suis capable de cette gentillesse
« dont » et « en » sont deux pronoms qui remplacent « gentillesse » et ont la même fonction : COI
La différence est que le pronom « dont » est en plus, relatif, c’est à dire qu’il a une fonction (un rôle) de plus par rapport à « en », il relie deux propositions, faisant de celle qu’il introduit, la subordonnée de l’autre.
Employer les deux est faire pléonasme.

Subjonctif ou pas ?
je les ai aidés du mieux dont je suis capable/ du mieux dont je sois capable
Les deux modes sont corrects. Le subjonctif insiste sur l’intention. L’indicatif sur la réalité du fait n°2

Au mieux ?
Oui : je les ai aidés au mieux est correct. « Au mieux » a valeur adverbiale.