Boosting Constraint Acquisition via Generalization Queries - PowerPoint PPT Presentation

1/18 ¡ ì ¡ Boosting ¡Constraint ¡Acquisition ¡via ¡ Generalization ¡Queries ¡ Chris'an ¡Bessiere 1 ¡ ¡Remi ¡Cole1a 1 ¡ ¡Abderrazak ¡Daoudi 12 ¡ Nadjib ¡Lazaar 1 ¡ ¡Younes ¡Mechqrane 12 ¡El ¡Houssine ¡Bouyakhf 2 ¡ ¡ ¡ ¡ 1 University ¡of ¡Montpellier, ¡France ¡ 2 ¡LIMIARF/FSR, ¡University ¡Mohammed ¡V ¡Agdal, ¡Rabat, ¡Morocco ¡ ¡ UM5-Agdal

2/18 ¡ Context ¡ CSP ¡ solu'on ¡

3/18 ¡ Context ¡ CSP ¡ solu'on ¡ Ques'on: ¡ ¡How ¡does ¡the ¡user ¡write ¡down ¡the ¡constraints ¡of ¡a ¡problem? ¡ • Limita'ons: ¡modelling ¡constraint ¡networks ¡requires ¡a ¡fair ¡exper'se ¡ • Need: ¡ ¡Simple ¡way ¡to ¡build ¡constraint ¡models ¡ è ¡Modeller-­‑assistant ¡ • How: ¡In ¡a ¡Machine ¡Learning ¡way ¡(passive/ac've, ¡offline/online, ¡by ¡reinforcement…) ¡ ¡ •

4/18 ¡ Context ¡ Learning ¡process ¡ solu'ons ¡ non-­‑solu'ons ¡ CSP ¡ solu'on ¡ Ques'on: ¡ ¡How ¡does ¡the ¡user ¡write ¡down ¡the ¡constraints ¡of ¡a ¡problem? ¡ • Limita'ons: ¡modelling ¡constraint ¡networks ¡requires ¡a ¡fair ¡exper'se ¡ • Need: ¡ ¡Simple ¡way ¡to ¡build ¡constraint ¡models ¡ è ¡Modeller-­‑assistant ¡ • How: ¡In ¡a ¡Machine ¡Learning ¡way ¡(passive/ac've, ¡offline/online, ¡by ¡reinforcement…) ¡ ¡ •

4/18 ¡ Context ¡ Constraint ¡ ¡ Learning ¡process ¡ Acquisi'on ¡ ¡ solu'ons ¡ Problem ¡ non-­‑solu'ons ¡ CSP ¡ solu'on ¡ Ques'on: ¡ ¡How ¡does ¡the ¡user ¡write ¡down ¡the ¡constraints ¡of ¡a ¡problem? ¡ • Limita'ons: ¡modelling ¡constraint ¡networks ¡requires ¡a ¡fair ¡exper'se ¡ • Need: ¡ ¡Simple ¡way ¡to ¡build ¡constraint ¡models ¡ è ¡Modeller-­‑assistant ¡ • How: ¡In ¡a ¡Machine ¡Learning ¡way ¡(passive/ac've, ¡offline/online, ¡by ¡reinforcement…) ¡ ¡ •

5/18 ¡ Constraint ¡Acquisition ¡Problem E - ¡ ∅ ì Inputs: • ( X, D ) : Vocabulary • B : Basis (version space/possible constraints) C T ¡ C L ¡ • C T : Target Network • ( E + , E − ) : positives and negatives ì Output: E + ¡ B • C L : Learned network such that: C L ⊂ B : C L ≡ C T

6/18 ¡ Constraint ¡Acquisition ¡Systems ¡ ì CONACQ ¡ Conacq1.0 ¡(passive ¡learning) ¡ [Bessiere ¡et ¡al. ¡ECML05] ¡ ì Conacq2.0 ¡(ac've ¡learning) ¡ [Bessiere ¡et ¡al. ¡IJCAI07] ¡ ì E -­‑ ¡ ModelSeeker ¡ [Beldicean ¡ C L ¡ u ¡and ¡Simonis, ¡CP12] ¡ A ¡passive ¡learnin ¡ E + ¡ ¡ Based ¡on ¡global ¡constraint ¡catalog ¡(more ¡than ¡400) ¡ Bu1om-­‑up ¡search ¡

6/18 ¡ Constraint ¡Acquisition ¡Systems ¡ ì CONACQ ¡ Conacq1.0 ¡(passive ¡learning) ¡ [Bessiere ¡et ¡al. ¡ECML05] ¡ ì Conacq2.0 ¡(ac've ¡learning) ¡ [Bessiere ¡et ¡al. ¡IJCAI07] ¡ ì ì ModelSeeker ¡ [Beldiceanu ¡and ¡Simonis, ¡CP12] ¡ A ¡passive ¡learning ¡ ì Based ¡on ¡global ¡constraint ¡catalog ¡(more ¡than ¡400) ¡ ì C L ¡ Bu1om-­‑up ¡search ¡ ì QUACQ ¡ ¡ [Bessiere ¡et ¡al. ¡IJCAI13] ¡ E + ¡ Ac've ¡learning ¡approach ¡ Based ¡on ¡par'al ¡queries ¡to ¡elucidate ¡the ¡scope ¡of ¡the ¡constraint ¡to ¡learn ¡

6/18 ¡ Constraint ¡Acquisition ¡Systems ¡ ì CONACQ ¡ Conacq1.0 ¡(passive ¡learning) ¡ [Bessiere ¡et ¡al. ¡ECML05] ¡ ì Conacq2.0 ¡(ac've ¡learning) ¡ [Bessiere ¡et ¡al. ¡IJCAI07] ¡ ì E -­‑ ¡ ì ModelSeeker ¡ [Beldiceanu ¡and ¡Simonis, ¡CP12] ¡ A ¡passive ¡learning ¡ ì Based ¡on ¡global ¡constraint ¡catalog ¡(more ¡than ¡400) ¡ ì C L ¡ Bu1om-­‑up ¡search ¡ ì ì QUACQ ¡ ¡ [Bessiere ¡et ¡al. ¡IJCAI13] ¡ E + ¡ Ac've ¡learning ¡approach ¡ ì Based ¡on ¡par'al ¡queries ¡to ¡elucidate ¡the ¡scope ¡ ì of ¡the ¡constraint ¡to ¡learn ¡

7/18 ¡ Motivations ¡ ¡ Limita'on: ¡ E -­‑ ¡ • Hard ¡to ¡put ¡in ¡prac'ce: ¡ ¡ C L ¡ • ModelSeeker: ¡cannot ¡learn ¡on ¡unstructured ¡problems ¡ • CONACQ ¡and ¡QUACQ: ¡more ¡than ¡ 8000 ¡queries ¡to ¡ learn ¡the ¡Sudoku ¡model ¡ E + ¡ Need: ¡ • Reduce ¡the ¡dialogue ¡with ¡the ¡user ¡to ¡make ¡constraint ¡acquisi'on ¡more ¡ efficient ¡in ¡prac'ce ¡ How: ¡ Elici'ng ¡more ¡informa'on ¡by ¡asking ¡complex ¡queries ¡to ¡the ¡user ¡ ¡ •

8/18 ¡ Variables ¡and ¡Types ¡ ì A ¡type ¡is ¡a ¡subset ¡of ¡variables ¡defined ¡by ¡the ¡user ¡as ¡having ¡a ¡ common ¡property ¡ ì Example ¡(School ¡Timetabling ¡Problem) ¡ ¡ Teachers ¡ Students ¡ Rooms ¡ Courses ¡ ¡ T 7 ¡ O 2 ¡ R 3 ¡ C1 ¡ constraint ¡ Can ¡C1 ¡be ¡generalized ¡to ¡all ¡Teachers, ¡Rooms ¡and ¡Courses? ¡ ¡

9/18 ¡ Generalization ¡Query ¡ ì Let ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡a ¡learned ¡constraint ¡and ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡are ¡types ¡of ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡: ¡ c ( x, y ) X, Y x, y ì Generaliza'on ¡Query: ¡t ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ AskGen (( X, Y ) , c ) ì The ¡user ¡says ¡yes ¡iff ¡the ¡constraint ¡c ¡holds ¡on ¡all ¡possible ¡scope ¡ ( x i , y i ) ∈ ( X, Y ) ì Proper'es ¡ ¡ X’ ¡ Y’ ¡ super-­‑types ¡ types ¡ X ¡ Y ¡ X” ¡ Y” ¡ Sub-­‑types ¡

9/18 ¡ Generalization ¡Query ¡ ì Let ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡a ¡learned ¡constraint ¡and ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡are ¡types ¡of ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡: ¡ c ( x, y ) X, Y x, y ì Generaliza'on ¡Query: ¡t ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ AskGen (( X, Y ) , c ) ì The ¡user ¡says ¡yes ¡iff ¡the ¡constraint ¡c ¡holds ¡on ¡all ¡possible ¡scope ¡ ( x i , y i ) ∈ ( X, Y ) ì Proper'es ¡ ¡ X’ ¡ Y’ ¡ AskGen( ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡, ¡c) ¡= ¡YES ¡ X ¡ Y ¡ AskGen( ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡, ¡c) ¡= ¡YES ¡ X” ¡ Y” ¡

9/18 ¡ Generalization ¡Query ¡ ì Let ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡a ¡learned ¡constraint ¡and ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡are ¡types ¡of ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡: ¡ c ( x, y ) X, Y x, y ì Generaliza'on ¡Query: ¡t ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ AskGen (( X, Y ) , c ) ì The ¡user ¡says ¡yes ¡iff ¡the ¡constraint ¡c ¡holds ¡on ¡all ¡possible ¡scope ¡ ( x i , y i ) ∈ ( X, Y ) ì Proper'es ¡ ¡ AskGen( ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡, ¡c) ¡= ¡NO ¡ X’ ¡ Y’ ¡ AskGen( ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡, ¡c) ¡= ¡NO ¡ X ¡ Y ¡ X” ¡ Y” ¡

10/18 ¡ GENACQ ¡ ì Inputs ¡ A ¡learned ¡constraint ¡ ¡ ì Combina'on ¡of ¡possible ¡types ¡(i.e., ¡table) ¡ ì Output ¡ ì Set ¡of ¡constraints ¡ ¡ ì Zebra ¡Problem ¡ X ¡ variables ¡ types ¡ drink ¡ cigaret ¡ pet ¡ na'onality ¡ color ¡ X 3 ¡ X 4 ¡ X 5 ¡ X 1 ¡ X 2 ¡ X 1 ¡ X 1 ¡ X 1 ¡