Le pronom est analysable et il est en effet COI (éventuellement COD, les deux constructions étant acceptées*, mais avec la forme interrogative, il semble que la construction indirecte soit la plus fréquente). On peut d’ailleurs le remplacer par un syntagme nominal :

Qu’est-ce qui a pris à ton frère de dire ça ?
Qu’est-ce qui lui a pris de dire ça ?

Pour de dire ça, je dirais que c’est un complément du pronom sujet qui.

* Quelque chose prend à quelqu’un ou Quelque chose prend quelqu’un. Avec les pronoms de la troisième personne, la différence est marquée : Quelque chose lui-leur prend / Quelque chose le-les prend.