Bonjour,

Lorsque vous avez un doute sur  la nature de l’association pronom-verbe et la règle d’accord qui en découle, tentez de remplacer se sont par les ont ou par leur ont.
Si le résultat n’a pas de sens ou n’a plus du tout le même sens, alors ce n’est pas une construction pronominale réfléchie. Le participe passé s’accorde avec le sujet, ici le masculin pluriel : Ils se sont essayés à parler en public.
Si le remplacement par les ont est possible sans changement de sens du verbe, alors c’est une construction pronominale réfléchie (réflexive ou réciproque) dont le pronom est complément d’objet direct. Comme celui-ci est placé avant le verbe, le participe passé s’accorde avec ce pronom cod : Ils les ont lavés / Ils se sont lavés. Ils les ont rencontrés / Ils se sont rencontrés.
Si le remplacement par leur ont est possible sans changement de sens du verbe, alors c’est une construction pronominale dont le pronom est complément d’objet indirect. Le participe passé est alors invariable : Ils leur ont parlé / Ils se sont parlé.