Quand vous écrivez « l’emploi du déterminant leur signifierait… », vous parlez du déterminant leur sous ses deux nombres (leur/leurs), ou seulement du déterminant leur au singulier ?
Si vous voulez exclure uniquement le singulier pour la raison qu’il y a plusieurs choses, plusieurs réalités, l’argument est invalide : ils parlent à leur femme, ils parlent à leurs femmes.
Si vous pensez qu’on est dans un cas où le déterminant possessif est impossible, il faut donc trouver une autre raison que celle de la chose non partagée.

Les deux nombres leur/leurs  sont à exclure pour les raisons que je donne en réponse à Marcel. Il y a en effet deux objets distincts : une 3e participation et une 5e participation qui ne peuvent pas être introduits par un même déterminant possessif, ni au singulier puisque le référent de la 3e comme de la 5e est unique, ni au pluriel puisqu’il ne s’agit pas du même objet. « Ils parlent respectivement à leur(s) première et deuxième femme(s). » n’a pas de sens.

C’était sans doute maladroitement expliqué et cela m’a tracassé pendant la nuit. Il y a incompatibilité entre l’adverbe respectivement qui répartit le lot de chacun et un déterminant possessif pluriel immédiatement subséquent comme leurs qui rassemble autour d’un objet identique. Il faut donc inverser l’ordre pour que le propos demeure cohérent.
La phrase correctement énoncée et accordée doit ainsi être : « Untel et untel vivaient leurs respectivement troisième et cinquième participations. » puisque les adjectifs ordinaux ne peuvent pas être rejetés après le substantif comme dans l’exemple leurs chapeaux respectivement bleu et vert.