On jette un sort à quelqu’un –> on lui jette un sort –> ils lui ont jeté un sort.

Le PP employé avec le verbe avoir s’accorde en genre et en nombre avec le COD s’il est placé avant.
Ils ont jeté quoi ? Un sort, COD, placé après « ont », donc on n’accorde pas.

Dans votre deuxième phrase, manger se construit différemment :
on mange quelque chose –> on le mange.
Cette fois le COD est placé avant l’auxiliaire, donc on accorde en genre et en nombre.

Donc, si vous suivez le même raisonnement, vous comprendrez les raisons des accords suivants :
Ils ont mangé un gâteau –> ils l’ont mangé
Ils ont mangé une salade –> Ils l’ont mangée
Ils ont mangé des gâteaux –> ils les ont mangés
Ils ont mangé des salades –> ils les ont mangées
Ils ont mangé des salades et des gâteaux –> ils les ont mangés