Adaptive)Concretization)for) Parallel)Program)Synthesis) - PowerPoint PPT Presentation

Adaptive)Concretization)for) Parallel)Program)Synthesis) Jinseong(Jeon 1 ,)Xiaokang)Qiu 2 ,) Armando)Solar@Lezama 2 ,)and)Jeffrey)S.)Foster 1) ) 1.)University)of)Maryland,)College)Park) 2.)MIT)CSAIL )

Syntax@guided)Synthesis) bit[32] spec(bit[32] x) { program) return x – (x % 8); speciMication) } bit[32] foo(bit[32] x) starts)from) implements spec structural) { hypothesis) if (??) { // G (a.k.a.) template )) return x & ??; // A } else { unknown) return x | ??; // B 32@bit)integer) } } 2

Explicit)Search) • Stochastic/systematic)enumeration)of)candidate)space) bit[32] foo(bit[32] x) ... 65)(=1)+)32*2)) { if (true) { // G unknown)bits) return x & 0x00000000; // A } else { return x | 0x00000000; // B } } bit[32] foo(bit[32] x) bit[32] foo(bit[32] x) ... { implements spec if (true) { // G return x & 0x00000001; // A { } else { return x | 0x00000000; // B if (??) { // G } } return x & ??; // A ... } else { bit[32] foo(bit[32] x) ... return x | ??; // B { if (false) { // G } } return x & 0xffffffff; // A } else { return x | 0xffffffff; // B } } 3

Symbolic)Search) • Constraint)solving)via)SAT/SMT)solver) bit[32] spec(bit[32] x) { Sketch)solves) return x – (x % 8); in)50ms) } bit[32] foo(bit[32] x) eq(spec(x), bvSub(x, implements spec bvMod(x, 8))) { if (??) { // G eq(foo(x), spec(x)) return x & ??; // A eq(foo(x), } else { ite(G, return x | ??; // B bvAND(x, A), } } bvOR(x, B))) 4

Adaptive)Concretization) Explicit)search) Adaptive)Concretization) Symbolic)search) bit[32] foo(bit[32] x) ... ?) { if (true) { // G return x & 0x00000000; // A eq(spec(x), } else { bvSub(x, return x | 0x00000000; // B bvMod(x, 8))) } } eq(foo(x), spec(x)) bit[32] foo(bit[32] x) ... { eq(foo(x), if (true) { // G ite(G, return x & 0x00000001; // A } else { bvAND(x, A), return x | 0x00000000; // B ... bvOR(x, B))) } } 5

Symbolic)Constraints) bit[32] spec(bit[32] x) { return x – (x % 8); } bit[32] foo(bit[32] x) eq(spec(x), bvSub(x, implements spec bvMod(x, 8))) { if (??) { // G eq(foo(x), spec(x)) return x & ??; // A eq(foo(x), } else { ite(G, return x | ??; // B bvAND(x, A), } } bvOR(x, B))) 6

Low@level)SAT)Formula) #node)488) 50ms)to)solution) eq(spec(x), x0) x1) x2) x3) x4) x5) x6) x7) x8) x9) bvSub(x, bvMod(x, 8))) A_0) B_0) A_1) B_1) A_2) B_2) A_3) B_3) A_4) B_4) A_5) B_5) A_6) B_6) A_7) B_7) A_8) B_8) A_9) B_9) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) G) x)@)x)%)8) eq(foo(x), spec(x)) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) eq(foo(x), ite(G, bvAND(x, A), =) =) =) =) =) =) =) =) =) =) bvOR(x, B))) 7

CEGIS) • Synthesis:)) a ∃ c. ∀ x.Q ( x, c ). • Counter@Example)Guided)Inductive)Synthesis) • All)x)⇒)x i )in)E) m ∧ x i ∈ E Q ( x i , c ), • Candidate)solution)for)c)is)checked) • Counter)example)is)added)to)E;)and)repeat) • Reducing)the)formula)Q)is)a)big)win) E E’ E’’ x0) x1) x2) x3) x4) x5) x6) x7) x8) x9) x0) x1) x2) x3) x4) x5) x6) x7) x8) x9) x0) x1) x2) x3) x4) x5) x6) x7) x8) x9) A_0) B_0) A_1) B_1) A_2) B_2) A_3) B_3) A_4) B_4) A_5) B_5) A_6) B_6) A_7) B_7) A_8) B_8) A_9) B_9) A_0) B_0) A_1) B_1) A_2) B_2) A_3) B_3) A_4) B_4) A_5) B_5) A_6) B_6) A_7) B_7) A_8) B_8) A_9) B_9) A_0) B_0) A_1) B_1) A_2) B_2) A_3) B_3) A_4) B_4) A_5) B_5) A_6) B_6) A_7) B_7) A_8) B_8) A_9) B_9) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) G) x)@)x)%)8) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) &) |) G) x)@)x)%)8) G) x)@)x)%)8) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) ite) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) =) 8 =) =) =) =) =) =) =) =) =) =)

Highly)InMluential)Unknowns) • Key)observation:)Unknowns)are)not)all)equally)important) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( A_0( B_0( A_1( B_1( A_2( B_2( A_3( B_3( A_4( B_4( A_5( B_5( A_6( B_6( A_7( B_7( A_8( B_8( A_9( B_9( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( G( x(+(x(%(8( ite( ite( ite( ite( ite( ite( ite( ite( ite( ite( =( =( =( =( =( =( =( =( =( =( 9

Partial)Concretization) • Replacing)an)unknown)with)a)concrete)value) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( A_0( B_0( A_1( B_1( A_2( B_2( A_3( B_3( A_4( B_4( A_5( B_5( A_6( B_6( A_7( B_7( A_8( B_8( A_9( B_9( true &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( x(+(x(%(8( ite( ite( ite( ite( ite( ite( ite( ite( ite( ite( =( =( =( =( =( =( =( =( =( =( 10

Partial)Concretization) • Then)simplifying)the)formula) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( A_0( A_1( A_2( A_3( A_4( A_5( A_6( A_7( A_8( A_9( true &( &( &( &( &( &( &( &( &( &( x(+(x(%(8( =( =( =( =( =( =( =( =( =( =( #node)488)⇒)391) 50)⇒)30ms)to)solution) 11

Partial)Concretization) • BeneMicial)even)with)a)wrong)concrete)value) • Running)two)trials)(incorrect)one)and)then)correct)one))is) faster)than)pure)symbolic)search) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( B_0( B_1( B_2( B_3( B_4( B_5( B_6( B_7( B_8( B_9( false |( |( |( |( |( |( |( |( |( |( x(+(x(%(8( =( =( =( =( =( =( =( =( =( =( #node)488)⇒)391) 50)⇒)2ms)to)UNSAT) 12

InMluence)of)Unknowns) • Key)observation:)Unknowns)are)not)all)equally)important) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( A_0( B_0( A_1( B_1( A_2( B_2( A_3( B_3( A_4( B_4( A_5( B_5( A_6( B_6( A_7( B_7( A_8( B_8( A_9( B_9( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( G( x(+(x(%(8( ite( ite( ite( ite( ite( ite( ite( ite( ite( ite( =( =( =( =( =( =( =( =( =( =( 13

Unknowns)for)Computation) • Arithmetic)unknowns)are)best)left)to)the)solver) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( true A_0( B_0( A_1( B_1( A_2( B_2( A_3( B_3( A_4( B_4( A_5( B_5( A_6( B_6( A_7( B_7( A_8( B_8( B_9( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( G( x(+(x(%(8( ite( ite( ite( ite( ite( ite( ite( ite( ite( ite( =( =( =( =( =( =( =( =( =( =( 14

Unknowns)for)Computation) • Arithmetic)unknowns)are)best)left)to)the)solver) x0( x1( x2( x3( x4( x5( x6( x7( x8( x9( true A_0( B_0( A_1( B_1( A_2( B_2( A_3( B_3( A_4( B_4( A_5( B_5( A_6( B_6( A_7( B_7( A_8( B_8( B_9( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( &( |( |( G( x(+(x(%(8( ite( ite( ite( ite( ite( ite( ite( ite( ite( ite( =( =( =( =( =( =( =( =( =( =( #node)488)⇒)486) 50ms)to)solution/UNSAT) 15

InMluence)Estimation) • Key)observation:)Unknowns)are)not)all)equally)important) Low) inMluence) High) inMluence) • But,)this)inMluence)computation)is)an) estimate .) • We)opt)to) randomize !) 16

The)“V”,)Abstractly) Running(time( 0) ∞) 16) 32) 64) 128) 256) 512) 1024) 2048) 4096) 8192) degree)of)concretization) explicit) mixed) symbolic) 17

Estimated)Running)Time) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Starts)from)low)degrees) (to)avoid)long@running)high)degree) ) • Runs)trials)(in)parallel))and)estimates)running)time) 18

Comparing)Two)Degrees) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Wilcoxon)Signed@Rank)Test) • determines)if)two)data)sets)are)from)distinct)populations) 19

Widening) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Widen)the)range) • if)not)distinguishable) 20

Shifting) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Shift)to)the)next)range) • if)distinguishable)and)the)high)pivot)is)faster)(i.e.,)down@hill)) 21

Climbing) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Keep)climbing)until)the)up@hill)appears) • optimum)likely)lies)between)that)range) 22

Binary)Search) 16# 32# 64# 128# 256# 512# 1024# 2048# 4096# 8192# • Binary)search)between)the)rough)range) 23

Experiment) • 26)sketches)from)5)domains) • Pasket)–)framework)model)synthesis) • The)motivation)for)this)work) • Several)Pasket)examples)could)not)run)under)plain)Sketch) • Data)structure)manipulation) • Invariants)for)stencils)@)ScientiMic)computation) • SyGuS)2014) • Sketch)performance)benchmarks) • Did)13)runs)on)server)with)forty)2.4GHz)CPUs,)99GB)RAM,) Ubuntu)14.04.1)LTS) • 2@hour)timeout,)32GB)memory)bound) 24