Question déjà traitée ici et là.
L’invariabilité de grand (ici adverbe) n’est pas fautive (Grevisse), mais l’accord est recommandé (Thomas, Dictionnaire des difficultés de la langue française) et très largement préféré à l’invariabilité.
« ouvert », adjectif, s’accorde nécessairement avec le substantif.
Donc : elle avait la bouche grande ouverte.