Syntactic Transfer Using a Bilingual Lexicon Greg Durrett, Adam - PowerPoint PPT Presentation

Syntactic Transfer Using a Bilingual Lexicon Greg Durrett, Adam Pauls, and Dan Klein UC Berkeley

Parsing a New Language Mosambik hofft auf Handel mit anderen Mitgliedern

Parsing a New Language Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Parsing a New Language NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)]

Parsing a New Language NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language ? NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language ? NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Parsing a New Language ? NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members [Berg-Kirkpatrick and Klein (2010), Petrov et al. (2011)] [McDonald et al. (2011), Cohen et al. (2011)]

Token-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hopes for trade with other members [Hwa et al. (2005), Ganchev et al. (2009), McDonald et al. (2011)]

Token-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hopes for trade with other members Assumes access to parallel data [Hwa et al. (2005), Ganchev et al. (2009), McDonald et al. (2011)]

Token-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hopes for trade with other members Assumes access to parallel data Asymmetric train and test conditions [Hwa et al. (2005), Ganchev et al. (2009), McDonald et al. (2011)]

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern DE–EN dict Handel trade, deal hofft hope mit with

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern trade, deal with DE–EN dict Handel trade, deal hofft hope mit with

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern trade, deal with DE–EN dict EN trees ... trade with those regions ... Handel trade, deal NOUN ADP DET NOUN hofft hope ... a deal with China ... mit with DET NOUN ADP NOUN

Type-level Projection Feature: “Goodness in English” Value: high NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern trade, deal with DE–EN dict EN trees ... trade with those regions ... Handel trade, deal NOUN ADP DET NOUN hofft hope ... a deal with China ... mit with DET NOUN ADP NOUN

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern DE–EN dict Handel trade, deal hofft hope mit with

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern hope with DE–EN dict Handel trade, deal hofft hope mit with

Type-level Projection NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern hope with DE–EN dict EN trees Handel trade, deal no examples hofft hope mit with

Type-level Projection Feature: “Goodness in English” Value: low NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern hope with DE–EN dict EN trees Handel trade, deal no examples hofft hope mit with

Model Edge-factored discriminative parser, based on MSTParser (McDonald et al. 2005) D ELEX features: universal POS (McDonald et al. 2011) P ROJ features: “Goodness in English”

Model: D ELEX Features NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: D ELEX Features A TTACH NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: D ELEX Features A TTACH NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: D ELEX Features A TTACH Feature Value 1 NOUN → PREP NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: D ELEX Features A TTACH Feature Value 1 NOUN → PREP + indicators including direction and distance NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH Feature Value 1 Handel → mit NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features Insufficient target-language A TTACH supervised data to use X Feature Value 1 Handel → mit NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH Feature Value Handel → mit NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH Feature Value Score( Handel → mit) NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH Feature Value Score( Handel → mit) Query NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Model: P ROJ Features A TTACH Feature Value Score( Handel → mit) Goodness in English Query NOUN VERB PREP NOUN PREP ADJ NOUN Mosambik hofft auf Handel mit anderen Mitgliedern Mozambique hope on trade with other members

Query Score Computation → Score( Handel PREP ) = log p ( PREP | Handel )

Query Score Computation → Score( Handel PREP ) = log p ( PREP | Handel ) X p ( PREP | w s ) p ( w s | Handel ) = log w s

Query Score Computation → Score( Handel PREP ) = log p ( PREP | Handel ) X p ( PREP | w s ) p ( w s | Handel ) = log w s p ( w s | Handel ) p ( w s | trade 0.5 deal 0.5

Query Score Computation → Score( Handel PREP ) = log p ( PREP | Handel ) X p ( PREP | w s ) p ( w s | Handel ) = log w s w s = trade EN trees p ( w s | Handel ) p ( w s | ... trade with those regions ... trade 0.5 NOUN PREP DET NOUN deal 0.5 ... a good trade ... DET ADJ NOUN

Query Score Computation → Score( Handel PREP ) = log p ( PREP | Handel ) X p ( PREP | w s ) p ( w s | Handel ) = log w s w s = trade p ( x | p ( x | trade ) p ( w s | Handel ) p ( w s | PREP 0.5 trade 0.5 ADJ 0.5 deal 0.5