Le mot grand est ici un adverbe (grandement) modifiant l’adjectif ouverte. À ce titre il devrait donc rester invariable mais l’usage a introduit un accord « sauvage » que les lettrés et l’Académie ont reconnu depuis longtemps.
On dit et écrit donc : elle avait la bouche grande ouverte.
Cette anomalie est la même pour quelques adverbes-adjectifs : bon, frais, large en particulier.
Ils sont arrivés bons (=bien) premiers, des fleurs fraiches (=fraichement) coupées.

Question déjà traitée ici et là.
L’invariabilité de grand (ici adverbe) n’est pas fautive (Grevisse), mais l’accord est recommandé (Thomas, Dictionnaire des difficultés de la langue française) et très largement préféré à l’invariabilité.
« ouvert », adjectif, s’accorde nécessairement avec le substantif.
Donc : elle avait la bouche grande ouverte.