Your Federal Quarterly Tax Payments are due April 15th Get Help Now >>

Heuristiques, m�taheuristiques et syst�mes de voisinage by oUEnRF

VIEWS: 49 PAGES: 62

									 Heuristiques, métaheuristiques
   et systèmes de voisinage
 Application à des problèmes théoriques et
industriels de type TSP et ordonnancement.

         Présenté par Laurent Deroussi
                 LIMOS CNRS UMR 6158
         Equipe Modélisation et Aide à la Décision

         - META-Bermudes - Lille - 07/02/2003 -
Préambule
[Lin & Kernighan, 1973]

             "An Effective Heuristic Algorithm
             for the Traveling Salesman Problem"


             Améliorer la performance
              des métaheuristiques



      Méthodes de               Systèmes de
       résolution                voisinage

                                                   2
    Sommaire

   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         3
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         4
INTRODUCTION
Systèmes de voisinage
Performance des systèmes de voisinage ?

Construction de systèmes de voisinage efficaces ?

Robustesse ?




                                                    5
INTRODUCTION
Algorithmes stochastiques

 Méthodes délaissées par la littérature


     Avantage :
           efficacité.

     Inconvénients :
           lenteur,
           paramétrage.

                                          6
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         7
                             II. OPTIMISATION COMBINATOIRE


Problème d’optimisation combinatoire



   Ω    :     espace des solutions (fini)
   c    :     ΩR
   Rechercher une solution ω* de Ω telle que :

                 
               c   min c( )
                   *
                       



                                                       8
                                II. OPTIMISATION COMBINATOIRE


Méthodes de résolution
Principales méthodes de résolution


        Méthodes                    Méthodes
         exactes                   approchées



 Séparation / évaluation      Heuristiques de construction
 Méthodes de coupe            Méthodes de recherche locale
…                             Métaheuristiques
                               Méthodes hybrides
                               …
                                                          9
                                   II. OPTIMISATION COMBINATOIRE


 Méthodes de résolution
 Méthodes à voisinage
 Méthodes de recherche locale

 Métaheuristiques
  •   méthodes de recherches locales itérées,
  •   recuit simulé,
  •   méthode tabou,
  •   …
 Méthodes hybrides
  • métaheuristiques / recherche locale,
  • métaheuristiques / métaheuristiques,
  •…                                                         10
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         11
                                   III. SYSTEMES DE VOISINAGE


Généralités
Quelques définitions
 Système de voisinage (SdV) (Hao et al., 1999)

     V :   P          
 Minimum global

           , c   c 
                                  


 Minimum V-local

     V  V   V V , cV   c 
                                                         12
                                   III. SYSTEMES DE VOISINAGE


Généralités
Notion de performance

Un SdV est performant s’il permet d’obtenir
rapidement des minima locaux de bonne qualité.



Deux notions antagonistes :


         Rapidité                      Qualité


                                                         13
                                    III. SYSTEMES DE VOISINAGE


Opérateurs internes aux SdV
Guidage

  Restriction du SdV aux voisins les "plus prometteurs"



                                                      V  


   ω
                                                     V  


                                                          14
                                 III. SYSTEMES DE VOISINAGE


Opérateurs internes aux SdV
Couplage
      Réunion de plusieurs SdV




  ω


                                                     V2  
       V1  
                                                        15
                                    III. SYSTEMES DE VOISINAGE


 Construction de SdV performants
 Proposition d’une méthodologie

Méthodologie en trois étapes :

      recensement des mouvements de base "pertinents",
      guidage des mouvements de base,
      couplage des mouvements guidés.




                                                          16
                                    III. SYSTEMES DE VOISINAGE


Construction de SdV performants
Avantages de la méthodologie proposée
Recensement des mouvements de base "pertinents"
    s’appuyer sur les propriétés propres
    à chacun des mouvements
Guidage des mouvements de base
    améliorer le temps d’exécution avec une perte
    de qualité raisonnable pour les minima locaux
Couplage des mouvements guidés
    obtenir des minima locaux de meilleure qualité
    avec une perte raisonnable en temps d’exécution

                                                          17
                                    III. SYSTEMES DE VOISINAGE


Justification théorique du couplage
Théorème de caractérisation
des minima globaux
                                                       V2
          
          V           (finie)
              V 


Soit V le couplage de V1 et V2 ,
alors, on a :

       V  V1  V2                                      
                                                       
                                     V1                   18
                            III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Existant : étude des paysages

                                      Plat
                                      lisse

                                      Vallée
                                       lisse

                                       Plat
                                     rugueux


                                      Vallée
                                    rugueuse


                                                  19
                                     III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Existant : étude des paysages
Evaluation de nombreux critères :

   la distribution de la fonction coût,
   la rugosité du paysage,
   le nombre de minima locaux,
   la distribution des minima locaux dans l’espace de
     recherche,
   la structure des bassins d’attraction des minima locaux,
  …


                                                           20
                                      III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Existant : étude des paysages

  + Connaissance très pointue de l’espace de recherche

  + Très utile pour l’étude d’un problème particulier

  - Mise en œuvre délicate

  - Difficilement applicable pour vérifier le caractère
    générique de la méthodologie proposée

                                                            21
                                III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Combinatoire et profondeur des SdV
Deux notions antagonistes :

       Rapidité                   Qualité




    Combinatoire :              Profondeur :
     taille des Sdv              Proximité
                              entre V et  


                                                      22
                                   III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Combinatoire des SdV

 Combinatoire : nombre moyen de solutions voisines


                   V  
            1
        V 
                 

 Cas particulier des SdV "homogènes"

        V  V  
                                                         23
                             III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Profondeur des SdV
  Méthode de recherche
   locale associée à V
                                      1  2  3

      HV :     V  V
                                      HV
  Domaine d’attraction
  d’un minimum local ωV

         / HV    V                    V

                                                   24
                                       III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Profondeur des SdV

 Profondeur (première définition) :
 qualité moyenne des minima locaux


               pV             c 
                        1
                       V
                                          V
                              V V


 MAIS
         V est inconnu,
         minima locaux plus ou moins accessibles.

                                                             25
                                      III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Profondeur des SdV

 Profondeur : qualité moyenne des minima locaux,
 pondérée par la taille de leur domaine d’attraction


        pV            H    c 
                1              1

                
                               V     V          V
                      V V


 On montre que :

        pV      cHV  
                1
                 
                                                            26
                                       III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Profondeur des SdV

Evaluation absolue


Evaluation relative

        minimum global,
        meilleure borne inférieure,
        meilleure borne supérieure.




                                                             27
                                         III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Combinatoire et profondeur du couplage
               k
Soit   V  Vi , le couplage de k SdV Vi , alors
            i 1
                         k
Combinatoire :     V   Vi                     Vrai
                        i 1


Profondeur :       pV   min pVi          Faux en général
                               i 1..k



                                                               28
                                       III. SYSTEMES DE VOISINAGE


Evaluation des SdV
profondeur du couplage

• en théorie
  L’inégalité   pV   min pVi    n’est vérifiée que
                        i 1..k
  si la méthode de recherche locale HV vérifie certaines
  propriétés concernant la politique d’exploration
  (i.e. l’ordre dans lequel les voisins sont explorés)

• en pratique
  Vérifier expérimentalement que le couplage a un effet
  positif sur la profondeur
                                                             29
                                            III. SYSTEMES DE VOISINAGE


Evaluation des SdV
Politique d’exploration


                    4      3                         10
                                            2
                         11
                    13                               7
                                   9
  ω
                1        6     8       12        5
                                                              V2  
      V1  


                                                                   30
                              III. SYSTEMES DE VOISINAGE


Etude expérimentale
Voyageur de commerce à 9 villes


            SdV       comb   prof      temps
           2-opt       27    0.77%      39 s
    EP1   insertion    63    2.62%      49 s
          couplage     90    0.45%      45 s
           2-opt       27    1.78%      39 s
    EP2   insertion    63    1.90%      49 s
          couplage     90    0.07%      45 s

                                                    31
                                       III. SYSTEMES DE VOISINAGE


Etude expérimentale
Voyageur de commerce à 9 villes

+ Amélioration significative de la profondeur

+ Hausse modérée du temps d’exécution



- Influence de la politique d’exploration

- Caractère imprévisible de la politique d’exploration



                                                             32
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         33
                                   IV. VOYAGEUR DE COMMERCE


Conception du système de voisinage
Mouvements de base
Mouvements retenus

      Mouvement 2-opt
      Mouvement de Or (insertion généralisée)
      Mouvement LK

Mouvements non retenus
      Mouvement de permutation



                                                        34
                                       IV. VOYAGEUR DE COMMERCE


 Conception du système de voisinage
 Guidage des mouvements
Basé sur l’ensemble des "meilleurs" voisins de chaque ville

   TSP symétrique euclidien        TSP asymétrique

 Propriétés du plan euclidien        Distance

 Distance




                                                              35
                                  IV. VOYAGEUR DE COMMERCE


Conception du système de voisinage
Méthodes de résolution
Méthode existante :
        algorithme du kangourou (KA)


Nouvelle métaheuristique :

        variante du kangourou (ISKA)
       "Improved Solution Kangaroo Algorithm"

Algorithmes stochastiques  Comportement moyen

                                                       36
                     Ecart
     D1




                    0,1
                    0,2
                    0,3
                    0,4
                    0,5
                    0,6
                    0,7
                    0,8
                    0,9




                      0
        98
  LI          (1
    N           )
        31
          8
              (1
   FL         )
      41
 PC 7 (1
     B4      )
        42
           (1
    U5       )
        74
           (2
     P6       )
RA 54
   T7 (2)
      83
 DS      (2
    J1 ,5)
                                    Comparaison KA / ISKA




      00
  PR 0 (5
     10       )
        02
   U1 (5)
      06
PC       0
   B1 (5)
      17
         3
   D1 (5)
      29
         1
           (5
              )
                             KA
                             ISKA




  37
                                                            RESULTATS POUR LE TSP SYMETRIQUE
                                                                                               IV. VOYAGEUR DE COMMERCE
                                     IV. VOYAGEUR DE COMMERCE


 RESULTATS POUR LE TSP SYMETRIQUE
 Synthèse

ISKA :
      est plus performant que KA,
      trouve une solution optimale pour 10
      des 12 instances testées,
      concurrence les méthodes de la littérature
            ILK (Johnson, 1997)
            GLS (Merz, 1997)
            GLS + FLS (Voudouris, 1999)


                                                          38
                                    IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Approches possibles


 Heuristiques dédiées au ATSP,

 Heuristiques adaptées du STSP au ATSP,

 Transformation du ATSP en STSP.




                                                         39
                                    IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Espace de recherche
La transformation du ATSP en STSP
double le nombre de villes !              ΩS


                                                ΩA
               Pour n=5 villes
                ΩS=181440
                ΩA=24




                                                         40
                                       IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Espace de recherche

Transformation  pénalisation de certaines arêtes.

Subdivision de ΩS en trois sous-espaces.

Optimisation multi-critères hiérarchisés.




                                                            41
                                       IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Système de voisinage multiple

La réutilisation de ISKA fournit des résultats corrects.

                         MAIS

      Problèmes de comportement dans ISKA




                                                            42
                                    IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Système de voisinage multiple

Certains mouvements sont parfois inefficaces

Exemple :


                      2-opt          Solution
   Solution
                                       non
  admissible
                                    admissible



                                                         43
                                  IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Système de voisinage multiple
Solutions :

    Adaptation du système de voisinage
     selon le sous-espace exploré

    Conception du mouvement "zéro-insertion"




                                                       44
                                      IV. VOYAGEUR DE COMMERCE


LE TSP ASYMETRIQUE
Résultats

 27 instances de la TSPLIB (17 – 443 villes)

 25 solutions optimales

Robustesse ?
   RBG443  0% entre 1 et 14 minutes

   RBG323  entre 1.2% et 1.8% en 25 minutes


                                                           45
                                     IV. VOYAGEUR DE COMMERCE


LE TSP
Conclusion

Apport de la méthodologie ?

     + Très bons résultats obtenus

     - Domination du mouvement LK




                                                          46
                                     IV. VOYAGEUR DE COMMERCE


LE TSP
Perspectives

TSP symétrique

Utiliser LKH avec d’autres métaheuristiques


TSP asymétrique

Améliorer le calcul des bornes inférieures du ATSP
Adapter LKH pour la ATSP

                                                          47
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         48
                           V. SYSTEMES FLEXIBLES DE PRODUCTION


LE PROBLEME
Définition

Job Shop avec transport



                               Machine
                 Station
                   L/U

Pièces

                    Véhicule
                                                          49
                           V. SYSTEMES FLEXIBLES DE PRODUCTION


LE PROBLEME
Complexité

Résolution conjointe de deux problèmes NP-complets :

         Job Shop Problem,

         Vehicle Scheduling Problem.




                                                          50
                     V. SYSTEMES FLEXIBLES DE PRODUCTION


LE PROBLEME
Couplage heuristique / simulation


                         Makespan
       Méthode de
        résolution
                                   Simulation à
  Système de                    événements discrets
   voisinage

                         évaluer
         Solution

                                                    51
                       V. SYSTEMES FLEXIBLES DE PRODUCTION


Conception du système de voisinage
Mouvements de base

Mouvements retenus

      Mouvement d’insertion
      Mouvement de permutation




                                                      52
                            V. SYSTEMES FLEXIBLES DE PRODUCTION


Conception du système de voisinage
Guidage

Permutation :
     temps de calcul divisé par 3,
     aucune perte de qualité.

Insertion :
      temps de calcul divisé par 5,
      perte sensible de qualité (1%).


                                                           53
                           V. SYSTEMES FLEXIBLES DE PRODUCTION


ETUDE EXPERIMENTALE
Jeux d’essai
[Ulusoy & Bilge, 1993]

40 instances :
     4 machines, 2 véhicules
10 jeux de données :
     5 à 8 pièces, 13 à 23 opérations
4 topologies


                                                          54
                          V. SYSTEMES FLEXIBLES DE PRODUCTION


ETUDE EXPERIMENTALE
Jeux d’essai
            Exemple d’une topologie



       M1          M2            M3             M4




                     LU
                                                         55
                          V. SYSTEMES FLEXIBLES DE PRODUCTION


ETUDE EXPERIMENTALE
Méthodes de résolution


  méthode de recherche locale itérée,

  recuit simulé,

  méthode hybride.




                                                         56
                               V. SYSTEMES FLEXIBLES DE PRODUCTION


 ETUDE EXPERIMENTALE
 Résultats : comparaison avec la littérature

 Les trois méthodes sont toujours au moins aussi
 bonnes que le meilleur résultat de la littérature.

 23 nouvelles bornes supérieures (sur 40 instances)

Instance Littérat.   Résult.       Instance Littérat.   Résult.
 Ex24       113       108            Ex71      118       111
 Ex31       105        99            Ex72       85        79
 Ex44       126       121           Ex104      164       159
                                                                  57
                             V. SYSTEMES FLEXIBLES DE PRODUCTION


 ETUDE EXPERIMENTALE
 Résultats : comparaison des méthodes

 Méthode hybride

        retrouve 100% des meilleures bornes supérieures,
        temps d’une réplication : de 19 à 46 secondes,
        robustesse.


                        Minimum    Moyenne       Maximum
Résultats moyens        108,48      108,85        109,73
pour les 40 instances   (0 %)      (0.34 %)      (0.93 %)
                                                            58
   I     INTRODUCTION
   II    OPTIMISATION COMBINATOIRE
   III   SYSTEMES DE VOISINAGE
   IV    VOYAGEUR DE COMMERCE (TSP)
   V     SYSTEMES FLEXIBLES DE PRODUCTION
   VI    CONCLUSION ET PERSPECTIVES

                                         59
CONCLUSION


Déterminer un bon paramétrage a priori,

Concevoir un système de voisinage performant,

         Pratique
             3 problèmes : TSP, ATSP, SFP
              4 méthodes : KA, ILS, SA, SALS
         Théorique
              Proposition d’outils mathématiques
                                                   60
PERSPECTIVES

Etudier l’effet du couplage sur le paysage.

Application de la méthodologie :
       à d’autres problèmes,
       avec d’autres méthodes.

Méthodes à individus vs. méthodes à population ?

Méthodes stochastiques vs. méthodes déterministes ?


                                                      61
    FIN
    (Lourenzo, Martin & Stützle, 2001)
             "Iterated Local Search"

"When designing a metaheuristic, it is preferable that it be
simple, both conceptually and in practice. Naturally, it also
must be effective, and if possible general purpose. …
… The ideal case is when the metaheuristic can be used
without any problem-specific knowledge. …
… Problem-specific knowledge must now be incorporated
into metaheuristics in order to reach the state of the art level. …
… We run the risk of loosing both simplicity and generality."

                                                                62

								
To top