Au choix, mais dans les deux cas il y a ambiguïté :
leur coquille : on ne sait pas si chaque escargot a une coquille ou s’ils en ont une à partager !
leurs coquilles : on ne sait pas si chaque escargot a une ou plusieurs coquilles.
Si on veut lever l’ambiguïté, on dira Chaque escargot était dans sa coquille.