Ответ 1
Я решил половину своего вопроса через сообщение в форуме NetBeans. Добавление командной строки JVM arg из -Dvisualvm.display.name=FooBar
делает VisualVM показом приложения как "FooBar". Но я все еще не могу понять, как повлиять на значок.
UPDATE: Увы, я думаю, что нашел свой ответ на значок. Значки жестко закодированы в VisualVM через MainClassApplicationTypeFactory в источнике VisualVM, вызывается из статического метода ApplicationTypeFactory.getApplicationTypeFor(Application). Я не вижу никакого способа вставить новый значок в VisualVM, кроме как создав плагин VisualVM, который мог бы зарегистрировать новый тип factory - плагин Glassfish делает это через GlassFishApplicationTypeFactory.initialize(), например.