Commençons par dire que l’usage est de parler des mathématiques : professeur de mathématiques.

Mais vous mettez le doigt sur un débat qui a agité le (petit) monde de cette discipline. La recherche de l’unification de toutes les branches de cette science en un seul corpus axiomatisé a conduit ceux qui y aspiraient (entre autres les éminents mathématiciens à l’origine du groupe Bourbaki) à parler de la mathématique .

Mais, en dehors de cela, l’usage est vraiment de parler des mathématiques au pluriel.