Language and Classifica/on Sravana Reddy Nov 9, 2015 - PowerPoint PPT Presentation

Language ¡and ¡Classifica/on ¡ Sravana ¡Reddy ¡ Nov ¡9, ¡2015 ¡ joyful ¡ pleasant ¡ happy ¡ lonely ¡ cloudy ¡ warm ¡ sad ¡

Why ¡isn't ¡the ¡future ¡here ¡already? ¡

Where ¡is ¡my ¡evil ¡robot ¡ ¡ space ¡travel ¡companion? ¡

How ¡close ¡are ¡we ¡to ¡this? ¡ hBps://www.youtube.com/watch?v=n1AjtIAje3o ¡ ¡

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 1. ¡Convert ¡voice ¡input ¡into ¡words ¡

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 2. ¡Convert ¡words ¡into ¡meaning ¡ Merhaba!

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 3. ¡Use ¡world ¡knowledge ¡to ¡ respond ¡ ¡

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 4. ¡Convert ¡response ¡into ¡words ¡

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 5. ¡Convert ¡words ¡into ¡natural-­‑ sounding ¡speech ¡

Machine ¡conversa/ons: ¡ Where ¡do ¡we ¡begin? ¡ 1. Convert ¡voice ¡input ¡into ¡words ¡ speech ¡recogni/on ¡ ¡ 2. Convert ¡language ¡into ¡meaning ¡ language ¡understanding ¡ ¡ 3. Use ¡world ¡knowledge ¡to ¡respond ¡ "core ¡AI", ¡search, ¡logic ¡ ¡ 4. Convert ¡response ¡into ¡words ¡ language ¡genera/on ¡ ¡ speech ¡synthesis ¡ 5. Convert ¡words ¡into ¡natural-­‑sounding ¡speech ¡

But ¡that's ¡just ¡the ¡minimum ¡ • Judge ¡emo/on ¡from ¡voice ¡and ¡word ¡usage ¡ ¡ • Iden/fy ¡the ¡general ¡topic ¡of ¡conversa/on ¡ ¡ • Iden/fy ¡the ¡speaker ¡ • Iden/fy ¡the ¡speaker's ¡gender ¡or ¡ethnicity ¡

E-­‑mail ¡Classifica/on ¡

E-­‑mail ¡Classifica/on ¡

E-­‑mail ¡Classifica/on ¡

Building ¡Classifiers ¡ Labeled ¡ Unlabeled ¡ ¡ Label ¡ Examples ¡ Example ¡ training ¡ applica/on ¡ Unlabeled ¡ ¡ Label ¡ Example ¡ Model ¡

Classifica/on ¡Algorithms ¡ ¡ • Naïve ¡Bayes ¡ • Logis/c ¡Regression ¡ • Perceptrons ¡ • Support ¡Vector ¡Machines ¡ • Decision ¡Trees ¡ • Gaussian ¡Mixture ¡Models ¡ • K ¡Nearest ¡Neighbors ¡ • Neural ¡Networks ¡ • … ¡

Sen/ment ¡Analysis ¡ hBps://www.csc.ncsu.edu/faculty/healey/ tweet_viz/tweet_app/ ¡ ¡ ¡ ¡ hBp://alt.qcri.org/semeval2016/task4/ ¡ ¡

Gender ¡(or ¡other ¡demographic) ¡ Predic/on ¡

Solving ¡Authorship ¡Mysteries! ¡ Alexander ¡Hamilton ¡ James ¡Madison ¡ The ¡Federalist ¡Papers ¡

Other ¡Features? ¡ • Fine-­‑grained ¡language: ¡ – Word ¡sequences ¡ – Grammar ¡ – Word ¡meanings ¡ ¡ • User ¡informa/on ¡ • Social ¡network ¡

Classifica/on ¡for ¡more ¡complex ¡tasks? ¡ 1. Convert ¡voice ¡input ¡into ¡words ¡ speech ¡recogni/on ¡ ¡ 2. Convert ¡language ¡into ¡meaning ¡ language ¡understanding ¡ ¡ 3. Use ¡world ¡knowledge ¡to ¡respond ¡ "core ¡AI", ¡search, ¡logic ¡ ¡ 4. Convert ¡response ¡into ¡words ¡ language ¡genera/on ¡ ¡ speech ¡synthesis ¡ 5. Convert ¡words ¡into ¡natural-­‑sounding ¡speech ¡

Classifiers ¡with ¡Structured ¡Outputs ¡ Data : ¡Audio. ¡ Label : ¡sentence ¡ Data : ¡Spanish ¡sentence. ¡ Label : ¡English ¡sentence ¡ Data : ¡Meaning. ¡ Label : ¡sentence ¡ Labeled ¡ Unlabeled ¡ ¡ Sentence ¡ Examples ¡ Example ¡ training ¡ applica/on ¡ Unlabeled ¡ ¡ Sentence ¡ Example ¡ Model ¡