Le Dictionnaire des pièges et difficultés de la langue française (Bordas) et le TLFi ayant déjà été cités, j’y vais de ma petite contribution. Cela me permettra également de répondre à Cathy Levy au sujet de « commencer de ».

Le bon usage, au paragraphe 907, dresse la liste des verbes « construisant d’habitude l’infinitif avec à ». Continuer y est mentionné, mais des précisions sont données un peu plus loin.
« Continuer de est plus fréquent encore que commencer de dans la langue écrite, même non littéraire, et le choix est donc plus libre encore : Elle continue D’exister (Code civil, art. 694). — Il continua DE galoper vers la cantinière (STENDHAL, Chartr., III). […] »

Dans l’ouvrage La préposition (Grevisse, 6e édition revue par I. M. Kalinowska), le nota bene de l’entrée « Continuer » nous dit ceci :
« Les deux constructions sont également correctes, même si “continuer de” semble d’un usage plus fréquent dans la langue écrite. »

On nous renvoie d’autre part au § 904 du BU, dont je cite un extrait :
« Un nombre assez considérable de verbes présentent plusieurs constructions différentes pour l’infinitif qui leur sert de complément essentiel.
[…] Des grammairiens ont essayé de découvrir des nuances sémantiques pour d’autres verbes : par ex., entre commencer à et commencer de, continuer à et continuer de (§ 907) ; entre s’efforcer de et s’efforcer à, tâcher de et tâcher à (§ 906). Il est assez naturel que des écrivains sentent des différences, mais celles-ci ne sauraient être considérées comme générales et constantes. Le plus souvent, c’est l’usage écrit, surtout littéraire, qui a d’autres possibilités que la langue commune et qui, en particulier, maintient plus ou moins en vie des tours classiques ; en outre, la préposition de a l’avantage, pour les auteurs qui ont l’oreille délicate, d’éviter les hiatus qu’amène la préposition à (Il continua à apporter). »

Pour finir, et pour rebondir sur « commencer de », voici ce qu’indique Grevisse :
« Commencer de est très fréquent dans la langue écrite, au point que l’on peut considérer qu’elle a le libre choix, du moins quand ce verbe est au passé [R8] […] »

La remarque associée explique enfin :
« Sur les 60 ex. de de que nous avons notés, commencer est seulement trois fois à l’indic. prés., et le de paraît alors plus affecté : Le simiesque commence DE se tempérer pour annoncer l’humain (J. ROSTAND, Pens. d’un biol., p. 86). »