Pour le mathématicien, il n'y a guère le choix, s'il souhaite être cohérent.bourricot a écrit :En ce qui concerne le signe moins ou pas, en fait je pense que ça dépend de l'utilisateur
En effet, la transformation de Fourier sur $ \mathbb{R} $ ou sur $ \mathbb{R}/2\pi $ est un cas particulier d'une théorie plus générale de l'analyse harmonique sur les groupes. C'est dans ce cadre que les définitions sont naturelles ; lorsqu'on les applique dans le cas particulier de $ \mathbb{R} $, on a $ \widehat{f}(\xi)=\int_{\mathbb{R}}^{}f(x)\,\text{e}^{-\text{i}x\xi}\,\text{d}x $.
On peut aussi se dire que pour les séries de Fourier, on pose $ \widehat{f}(n)=\frac{1}{2\pi}\int_{-\pi}^{\pi}f(t)\,\text{e}^{-\text{i}nt}\,\text{d}t $ (avec le -) pour que $ \widehat{f}(n) $ soit le produit scalaire de $ f $ avec $ t\mapsto \text{e}^{\text{i}nt} $. Du coup, il serait bizarre de ne pas mettre de - pour la transformée sur $ \mathbb{R} $.
Quant-à la raison pour laquelle les probabilistes utilisent $ F_X(t)=\mathbb{E}[\text{e}^{\text{i}tX}] $ pour leur fonction caractéristique, je l'ignore. Sans doute pour la même raison qu'ils emportent une bombe avec eux quand ils prennent l'avion, puisque la probabilité qu'il y ait deux bombes dans le même avion est quasi nulle. Ils ne raisonnent pas comme les autres.

[Edit] : Il est aussi possible que, puisque les mesures de probabilité et les variables aléatoires (en général) sont réelles, le signe + ou - ne fait que conjuguer la fonction caractéristique. Une modification vraiment mineure.