Voici ce que j’ai trouvé à ce sujet :

« On énonce parfois une « règle » voulant qu’en français, la ligature « œ » se prononce comme « eu »  quand elle est suivie d’une voyelle, et comme « é » quand elle est suivie d’une consonne. Il s’agit là d’un procédé mnémotechnique qui peut être utile, mais reste susceptible d’exceptions, et surtout, sans aucune valeur linguistique.
La seule règle rigoureuse est celle de l’étymologie latine (prononciation : /ø/ ou /œ/) ou grecque (prononciation : /e/ ou /ɛ/) dans tous les cas. »

Et encore :
« La ligature œ se prononce
– Comme un « é » dans : Œdipe, œdipien, œdème, œnologie, œnologue, (…) fœtus.
Ces noms sont d’origine grecque, ils étaient formés avec une double voyelle [oi] et ils sont passés par une transcription latine. Certains d’entre eux possèdent une double graphie avec réduction du digramme. Les noms qui commencent par la séquence cœ- se prononcent [sé] comme si le « c » n’avait pas besoin de cédille du fait de la présence du digramme notant une seule voyelle.

– Comme un « eu » dans : bœuf, chœur, cœur, œuf, mœurs, nœud, œil, sœur, vœu…
Ces mots sont d’origine latine, la lettre « o » est étymologique, elle a été ajoutée à la Renaissance pour indiquer la filiation de ces mots avec les dérivés d’origine savante : bovin, choral, cordial, ovaire, moral, nodosité, oculaire, sororal, voter. «