Hallo rollo67,
solange der IE und Outlook seine Configs auf den Stick ablegen und auch wieder von dort lesen können, geht das.
Ich bin mittlerweile auch auf PortableFirefox umgestiegen und habe mein Problem gelöst: Man muss im Root ein Verzeichnis /Firefox anlegen und dort die Dateien hinkopieren. Dann funktionierts. Der Author hat ausserdem die dll's gekürzt. Was leider nicht geht, sind Updates von Firefox...