Le problème semble être que Swing se déclare par défaut comme étant conscient des DPI, donc Windows ne le met pas à l'échelle. Utilisez ce paramètre pour désactiver ce comportement et Windows commencera à mettre à l'échelle votre application Swing :
-Dsun.java2d.dpiaware=false
[ÉDITION : Malheureusement, ce paramètre ne semble plus fonctionner en Java 8 ; je le testais en Java 6. Il semble que ce soit un problème connu.]
[ÉDITION 2 : Vous pouvez modifier une installation Java 8 pour qu'elle fonctionne correctement, en utilisant un programme pour modifier les manifestes EXE. J'ai changé le paramètre de true à false dans les manifestes à l'intérieur de j