Ton probleme vient du fait que advance mame ne gere plus certaines resolutions depuis quelques versions. Deux solutions s'offrent à toi: utilise une version antérieure d'advance mame (la 0.76 est parfaite), et regle les resolutions de tes jeux du mieux que tu peux. Ensuite, remplace cette version par la plus récente en conservant ton fichier advmame.rc (c'est ce fichier qui est le centre névralgique d'avance mame: controles, resolutions, tout y est!), ca devrait passer. Plus simple, efface simplement ton fichier advmame.rc et lance advcfg.exe en entrant les parametres demandés, il te recréera un fichier advmame.rc bien configuré au niveau résolution. N'oublie pas de spécifier de nouveau le répertoire par defaut des roms, car par defaut il repasse à "rom" au lieu de "roms".
Advance mame est assez chiant a configurer depuis quelques versions, aussi je te conseille de passer sous windows XP, tu t'épargnera beaucoup de sueur...