Bonjour,

Dans un texte en  français, je les écrirais en italique.

A mon sens, et d’après mon expérience de lecteur, l’italique est mieux pour les mots inventés.
Bien sûr, il ne faut pas qu’une phrase se retrouve avec un mot sur deux en italique, mais si leur usage est sporadique, c’est mieux que les guillemets qui alourdissent trop la lecture.

Un mot inconnu des dictionnaires! Un intrus! Est-il  conforme aux règles orthographiques? En tous cas, c’est un marginal! Y aurait-il moyen de l’interdire? De le marginaliser, avec des guillemets par exemple? Bah oui, mais alors, quel genre de guillemets? Des guillemets français, anglais ou javanais? De quelle couleur ces guillemets?
Certes, dans une recette de cuisine, un mode d’emploi ou un programme politique, ce genre de fantaisie ferait un peu tache… Mais dans tout autre texte non didactique et à fortiori dans un roman, place à la fantaisie et à l’imagination. Je pense donc qu’il n’y a pas lieu de « montrer du doigt » ces mots imaginés par leurs auteurs qui seront majoritairement des noms voire des adjectifs. Laissons les donc exister dans les romans au même titre que les autres mots, les vrais, ceux qui sont dans les dictionnaires. Le problème se poserait par contre vraiment si un auteur se mettait à inventer des conjonctions des adverbes ou encore des signes de ponctuation, d’autant qu’un signe de ponctuation encadré par des guillemets aurait une drôle d’allure et poserait pas mal de problèmes aux imprimeurs.

Pouvez vous expliciter « sans que le lecteur sache si c’est un tel mot ou non » s’il vous plait?

En principe, un néologisme (c’est la même chose qu’un mot inventé) s’écrit entre guillemets.
Cela suffit à faire comprendre au lecteur que le mot est inventé ou détourné. Cela correspond à  « si je peux dire / si je peux m’exprimer ainsi ».

Dans le guide du rédacteur on trouve ceci :

7.3.5 Niveaux de langue

On peut encadrer de guillemets les mots et les expressions qui s’écartent du langage régulier, comme les néologismes, les régionalismes, les mots impropres ou insolites, les jeux de mots, les tours populaires, familiers ou de tout autre niveau de langue — joualisant, technique, archaïque, ironique, etc. — ainsi que les mots qu’on emploie dans un sens spécial. Certains auteurs favorisent l’italique pour cette fonction (voir 5.3.5 Niveaux de langue), mais l’emploi des guillemets reste très vivant :

• Inutile de vous dire qu’ils se sont fait « maganer ».
• Le secteur de l’énergie est le plus gros « buveur » d’eau.
• Le « raccrochage scolaire » augmente avec le retour aux études d’un nombre record d’adultes.
• Elle a eu le « plaisir » de se voir assigner cette corvée.
• Un oiseau est un « porte-plumes » (J.-P. Colignon).