La majuscule n’a pas lieu d’être pour un mot isolé inséré dans le texte courant.
Pour la ponctuation, vous avez le choix entre l’italique simple pour l’onomatopée seule  (« …il faisait mouh quand on le caressait. ») et les guillemets si le segment est plus riche en longueur ou ponctuation (« …il faisait « mouh, mouh ! » quand on le caressait. »). Le second cas s’apparente un peu à une citation en style direct.
Dans tous les cas, il faut éviter de cumuler inutilement les signes.