Sandrine,
Je donnerais la préférence à « Des boucles châtain » (cf. le « Grevisse », ci-dessous).
Mais sachez que « châtaine » n’est peut-être pas aussi rare que cela (cf. ci-dessous)
et qu’en tout cas, rare ne signifie pas « incorrect »…
Le Bon usage actuel :
Châtain a un statut un peu particulier et d’ailleurs
instable. Employé avec un nom ou un pronom masc., il varie presque toujours en nombre
.
Avec un nom ou un pronom fém., il peut, soit garder sa forme (et dans ce cas les auteurs lui refusent ordinairement aussi la marque du pluriel), soit prendre la forme fém. châtaine , qui est moins rare que ne le dit l’Ac. 2001, mais qui n’est pas généralisée, même dans l’usage familier.
Cheveux châtains (Vigny, Stello, xxxiv ). — Yeux châtains (Colette, Chambre d’hôtel, p. 30). — Une Minerve châtain (Malraux, Condition hum., p. 101). — Tignasse châtain (Chr. de Rivoyre, Belle Alliance, p. 37). — Boucles châtain (Mallet-Joris, Rempart des Béguines, p. 107). — Chevelure châtaine (Balzac, Curé de vill., p. 183). — Tresses châtaines (Hugo, Misér., II, iii , 8). — Aisselle châtaine (Colette, op. cit. , p. 62). — Moustache châtaine (Druon, Bonheur des uns…, p. 314). — Tonalités châtaines [de l’entrée d’une habitation] (dans le Monde des livres, 25 mai 2012, p. 1). »