Ar#ficial Intelligence: Introduc#on Byoung-Tak Zhang School - - PowerPoint PPT Presentation

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

4190.408 ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡2015-­‑Spring ¡

Ar#ficial ¡Intelligence: ¡Introduc#on ¡

Byoung-­‑Tak ¡Zhang ¡ School ¡of ¡Computer ¡Science ¡and ¡Engineering ¡ Seoul ¡NaEonal ¡University ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

4190.408 ¡Ar#ficial ¡Intelligence ¡

• Instructor: ¡Prof. ¡Byoung-­‑Tak ¡Zhang ¡(btzhang@bi.snu.ac.kr) ¡
• TA: ¡Hyo-­‑Sun ¡Chun ¡(hschun@bi.snu.ac.kr, ¡138-­‑115) ¡
• Classroom: ¡302-­‑107 ¡
• Time: ¡Tue ¡& ¡Thu ¡11:00-­‑12:15 ¡
• Objec#ves: ¡

– To ¡understand ¡the ¡theory ¡and ¡applicaEons ¡of ¡arEficial ¡intelligence ¡and ¡cogniEve ¡science ¡ – To ¡acquire ¡the ¡technical ¡tools ¡for ¡building ¡intelligent ¡agents, ¡such ¡as ¡Bayesian ¡networks, ¡deep ¡neural ¡ networks, ¡and ¡reinforcement ¡learning. ¡ – To ¡understand ¡the ¡history ¡and ¡future ¡prospects ¡of ¡arEficial ¡intelligence ¡

• Textbook ¡

– ArEficial ¡Intelligence: ¡A ¡Modern ¡Approach, ¡Stuart ¡Russell ¡and ¡Peter ¡Norvig, ¡2010. ¡

• References ¡

– A ¡Tutorial ¡on ¡Learning ¡with ¡Bayesian ¡Networks, ¡David ¡Heckerman ¡ – CogniEve ¡Neuroscience: ¡The ¡Biology ¡of ¡the ¡Mind, ¡Third ¡EdiEon, ¡M.S. ¡Gazzaniga, ¡R.B. ¡Ivry, ¡and ¡G.R. ¡ Mangun, ¡Norton ¡& ¡Company, ¡2008. ¡ – Hypernetworks: ¡A ¡molecular ¡evoluEonary ¡architecture ¡for ¡cogniEve ¡learning ¡and ¡memory, ¡IEEE ¡ ComputaEonal ¡Intelligence ¡Magazine, ¡3(3):49-­‑63, ¡2008. ¡

http://bi.snu.ac.kr/Courses/4ai15s/4ai15s.html ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

4190.408 ¡Ar#ficial ¡Intelligence ¡

• Evalua#on: ¡

– two ¡exams ¡(50%) ¡ – two ¡miniprojects ¡(30%) ¡ – project ¡presentaEon ¡(10%) ¡ – parEcipaEon ¡in ¡discussion ¡(10%) ¡

• Projects: ¡

– Project ¡1: ¡Bayesian ¡networks ¡ – Project ¡2: ¡Deep ¡neural ¡networks ¡

• Prac#ce ¡

– Bayesian ¡Network ¡(3/17 ¡& ¡3/19 ¡– ¡ classroom: ¡T.B.A.) ¡ – Deep ¡Neural ¡Network ¡(T.B.A.) ¡

• Topics ¡

– Brain, ¡Mind ¡& ¡AI ¡ – Bayesian ¡Networks ¡ – Natural ¡Language ¡Processing ¡ – Knowledge ¡RepresentaEon ¡and ¡ Reasoning ¡ – Logic, ¡Symbolic ¡AI, ¡and ¡CogniEve ¡ Science ¡ – Deep ¡Neural ¡Networks ¡ – Intelligent ¡Agents ¡ – CogniEve ¡Robots ¡ – Wearable ¡AI ¡ – Human-­‑level ¡AI ¡ http://bi.snu.ac.kr/Courses/4ai15s/4ai15s.html ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

4190.408 ¡Ar#ficial ¡Intelligence ¡ ¡ ¡2015-­‑Spring ¡

AI ¡History ¡and ¡Highlights ¡

Byoung-­‑Tak ¡Zhang ¡ School ¡of ¡Computer ¡Science ¡and ¡Engineering ¡ Seoul ¡NaEonal ¡University ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief ¡History ¡of ¡AI

• Early ¡enthusiasm ¡(1950’s ¡& ¡1960’s) ¡

– Turing ¡test ¡(1950) ¡ – 1956 ¡Dartmouth ¡conference ¡ – Emphasize ¡on ¡intelligent ¡general ¡problem ¡solving ¡

• Emphasis ¡on ¡knowledge ¡(1970’s) ¡

– Domain ¡specific ¡knowledge ¡ – DENDRAL, ¡MYCIN ¡

• AI ¡became ¡an ¡industry ¡(late ¡1970’s ¡& ¡1980’s) ¡

– Knowledge-­‑based ¡systems ¡or ¡expert ¡systems ¡ – Wide ¡applicaEons ¡in ¡various ¡domains ¡

• Searching ¡for ¡alternaEve ¡paradigms ¡(late ¡1980’s ¡-­‑ ¡early ¡1990’s) ¡

– AI’s ¡Winter: ¡limitaEons ¡of ¡symbolic/logical ¡approaches ¡ – New ¡paradigms: ¡neural ¡networks, ¡fuzzy ¡logic, ¡geneEc ¡algorithms, ¡arEficial ¡life ¡

• Resurge ¡of ¡AI ¡(mid ¡1990’s ¡– ¡present) ¡

– Internet, ¡InformaEon ¡retrieval, ¡data ¡mining, ¡bioinformaEcs ¡ – Intelligent ¡agents, ¡autonomous ¡robots ¡

• Recent ¡trends: ¡

– ProbabilisEc ¡computaEon ¡ – Biological ¡basis ¡of ¡intelligence ¡ – Brain ¡research, ¡cogniEve ¡science ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Turing’s ¡Dream ¡of ¡Thinking ¡Machines ¡(1950) ¡

• Can ¡machine ¡think? ¡
• Alan ¡Turing ¡proposes ¡the ¡Turing ¡test ¡to ¡decide ¡if ¡a ¡computer ¡is ¡exhibiEng ¡

intelligent ¡behavior ¡

– Turing, ¡Alan ¡M. ¡"CompuEng ¡machinery ¡and ¡intelligence." ¡Mind ¡(1950): ¡433-­‑460. ¡ ¡

• hjp://youtu.be/1uDa7jkIztw ¡

Alan ¡Turing ¡(1912-­‑1954) ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Birth ¡of ¡AI ¡(1956) ¡

• Dartmouth ¡Conference ¡1956: ¡"ArEficial ¡Intelligence“ ¡gained ¡its ¡name ¡

– organized ¡by ¡Marvin ¡Minsky, ¡John ¡McCarthy ¡and ¡two ¡senior ¡scienEsts: ¡Claude ¡Shannon ¡ and ¡Nathan ¡Rochester ¡of ¡IBM ¡ – proposal ¡included ¡this ¡asserEon: ¡"every ¡aspect ¡of ¡learning ¡or ¡any ¡other ¡feature ¡of ¡ intelligence ¡can ¡be ¡so ¡precisely ¡described ¡that ¡a ¡machine ¡can ¡be ¡made ¡to ¡simulate ¡it" ¡ ¡ – Proposal: ¡hjp://www-­‑formal.stanford.edu/jmc/history/dartmouth/dartmouth.html ¡ ¡

Five ¡of ¡the ¡ajendees ¡of ¡the ¡1956 ¡Dartmouth ¡Summer ¡Research ¡ Project ¡on ¡ArEficial ¡Intelligence ¡reunited ¡at ¡the ¡July ¡AI@50 ¡

• conference. ¡From ¡len: ¡Trenchard ¡More, ¡John ¡McCarthy, ¡Marvin ¡

Minsky, ¡Oliver ¡Selfridge, ¡and ¡Ray ¡Solomonoff. ¡ hjp://www.dartmouth.edu/~vox/0607/0724/ai50.html

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Deep ¡Blue ¡(1997)

• IBM’s ¡Deep ¡Blue ¡computer ¡beats ¡Garry ¡Kasparov, ¡the ¡world ¡chess ¡champion. ¡
• Deep ¡Blue ¡can ¡evaluate ¡200 ¡million ¡chess ¡posiEons ¡per ¡second ¡
• hjp://youtu.be/y9UMt-­‑8gfW8 ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

DARPA ¡Grand ¡Challenge ¡(2005)

• A ¡Stanford ¡vehicle ¡wins ¡the ¡DARPA ¡Grand ¡Challenge ¡
• Driving ¡autonomously ¡across ¡the ¡desert ¡for ¡131 ¡miles ¡
• Racing ¡Video: ¡hjp://youtu.be/M2AcMnfzpNg ¡
• Stanford ¡Racing ¡Team: ¡hjp://cs.stanford.edu/group/roadrunner//old/index.html ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

DARPA ¡Urban ¡Challenge ¡(2007)

• Tartan ¡Racing ¡(CMU+GM) ¡claimed ¡the ¡$2 ¡million ¡prize ¡ ¡
• 96 ¡km ¡urban ¡area ¡course, ¡to ¡be ¡completed ¡< ¡6 ¡hours ¡
• Challenge ¡involves ¡mission ¡planning, ¡moEon ¡planning, ¡behavior ¡generaEon, ¡

percepEon, ¡world ¡modeling ¡ ¡

• hjp://youtu.be/P0NTV2mbJhA ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Google’s ¡Driverless ¡Car ¡(2009)

• Uses ¡arEficial ¡technology ¡intelligence ¡and ¡makes ¡decisions ¡on ¡its ¡own ¡(if ¡mistake ¡is ¡

made ¡it ¡will ¡alert ¡driver) ¡

– ArEficial ¡Intelligence ¡/ ¡Computer ¡Vision ¡/ ¡GPS ¡/ ¡Google ¡Maps ¡/ ¡Various ¡Sensors ¡

• Test ¡Driving: ¡hjp://youtu.be/X0I5DHOETFE ¡
• Ted ¡by ¡SebasEan ¡Thrun: ¡hjp://youtu.be/r_T-­‑X4N7hVQ ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

IBM ¡Watson ¡wons ¡“Jeopardy!” ¡(2011)

• Watson, ¡a ¡supercomputer ¡built ¡by ¡IBM, ¡defeated ¡the ¡two ¡greatest-­‑ever ¡Jeopardy ¡

champions ¡ ¡

• Involves ¡natural ¡language ¡processing, ¡informaEon ¡retrieval, ¡knowledge ¡

representaEon ¡and ¡reasoning, ¡and ¡machine ¡learning ¡ ¡

• Jeopardy!: ¡hjp://youtu.be/WFR3lOm_xhE ¡
• CogniToy’s ¡dinosaur ¡connected ¡to ¡Watson: ¡hjp://youtu.be/1Q2v2rIpjTg ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Apple ¡Siri: ¡Personal ¡Assistant ¡(2011)

• an ¡intelligent ¡personal ¡assistant ¡and ¡knowledge ¡navigator ¡which ¡works ¡as ¡an ¡

applicaEon ¡for ¡Apple's ¡iOS ¡

• adapts ¡to ¡the ¡user's ¡individual ¡preferences ¡over ¡Eme ¡and ¡personalizes ¡results, ¡and ¡

performing ¡tasks ¡such ¡as ¡finding ¡recommendaEons ¡for ¡nearby ¡restaurants, ¡or ¡ ge{ng ¡direcEons

• hjp://youtu.be/8ciagGASro0 ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

The ¡Next ¡50 ¡Years: ¡Human-­‑Level ¡AI

• To ¡achieve ¡a ¡true ¡human-­‑level ¡intelligence, ¡brain-­‑like ¡informa#on ¡

processing ¡is ¡required

Crea#ve Adap#ve Sociable Versa#le Uncertain Inaeen#ve Emo#onal Illogical

1 + 2 = 5 ! 100 < 10 ?

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies ¡

• 2001 ¡a ¡Space ¡Odyssey ¡(1968) ¡

– HAL-­‑9000, ¡human-­‑level ¡arEficial ¡assistant ¡

• Bicentennial ¡Man ¡(1999) ¡

– Android ¡robot ¡Andrew, ¡household ¡robot ¡ – Emphasize ¡humanity ¡of ¡AI ¡robot ¡

• I, ¡Robot ¡(2004) ¡

– Humanoid ¡robots ¡serve ¡humanity ¡by ¡

• beying ¡“Three ¡Laws ¡of ¡RoboEcs” ¡

– Inspired ¡by ¡Issac ¡Asimov’s ¡short-­‑story ¡ collecEon ¡in ¡1942 ¡

• A.I. ¡(2006) ¡

– AI ¡robot ¡with ¡emoEon ¡

• Iron ¡Man ¡3 ¡(2008) ¡

– JARVIS, ¡an ¡AI ¡agent ¡communicaEng ¡and ¡ interacEng ¡with ¡humans ¡

• Her ¡(2013) ¡

– A ¡haman ¡falls ¡in ¡love ¡with ¡an ¡AI ¡computer ¡

• Transcendence ¡(2014) ¡

– A ¡supercomputer ¡into ¡which ¡human ¡ consciousness ¡is ¡uploaded ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

What ¡is ¡Ar#ficial ¡Intelligence(AI)? ¡

• Branch ¡of ¡computer ¡science ¡that ¡is ¡concerned ¡with ¡the ¡automaEon ¡
• f ¡intelligent ¡behavior ¡
• Design ¡and ¡study ¡of ¡computer ¡programs ¡that ¡behave ¡intelligently ¡
• Study ¡of ¡how ¡to ¡make ¡computers ¡do ¡things ¡at ¡which, ¡at ¡the ¡

moment, ¡people ¡are ¡bejer ¡

• Designing ¡computer ¡programs ¡to ¡make ¡computers ¡smarter ¡
• Develop ¡programs ¡that ¡respond ¡flexibly ¡in ¡situaEon ¡that ¡were ¡not ¡

specifically ¡

– e.g.) ¡House-­‑cleaning ¡robots ¡

• Perceive ¡its ¡surroundings ¡
• Navigate ¡on ¡the ¡floor ¡
• Respond ¡to ¡events ¡
• Decide ¡what ¡to ¡do ¡next ¡
• Space ¡exploraEon ¡
• Synonyms ¡of ¡AI: ¡machine ¡intelligence ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

What ¡is ¡Ar#ficial ¡Intelligence(AI)? ¡

• AI ¡is ¡a ¡collecEon ¡of ¡hard ¡problems ¡which ¡can ¡be ¡solved ¡by ¡humans ¡and ¡other ¡living ¡

things, ¡but ¡for ¡which ¡we ¡don’t ¡have ¡good ¡algorithms ¡for ¡solving. ¡ ¡

–

• e. ¡g., ¡understanding ¡spoken ¡natural ¡language, ¡medical ¡diagnosis, ¡circuit ¡design, ¡learning, ¡self-­‑

adaptaEon, ¡reasoning, ¡chess ¡playing, ¡proving ¡math ¡theories, ¡etc. ¡

• DefiniEon ¡from ¡R ¡& ¡N ¡book: ¡a ¡program ¡that ¡

– Acts ¡like ¡human ¡(Turing ¡test) ¡ – Thinks ¡like ¡human ¡(human-­‑like ¡pajerns ¡of ¡thinking ¡steps) ¡ – Acts ¡or ¡thinks ¡raEonally ¡(logically, ¡correctly) ¡

• Some ¡problems ¡used ¡to ¡be ¡thought ¡of ¡as ¡AI ¡but ¡are ¡now ¡considered ¡not ¡

–

• e. ¡g., ¡compiling ¡Fortran ¡in ¡1955, ¡symbolic ¡mathemaEcs ¡in ¡1965, ¡pajern ¡recogniEon ¡in ¡1970 ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Research ¡Areas ¡and ¡Approaches ¡

ArEficial ¡ Intelligence ¡ Research ¡

RaEonalism ¡(Logical) ¡ Empiricism ¡(StaEsEcal) ¡ ConnecEonism ¡(Neural) ¡ EvoluEonary ¡(GeneEc) ¡ Biological ¡(Molecular) ¡

Paradigm ¡ ¡ ¡ ApplicaEon ¡

Intelligent ¡Agents ¡ InformaEon ¡Retrieval ¡ Electronic ¡Commerce ¡ Data ¡Mining ¡ BioinformaEcs ¡ Natural ¡Language ¡Proc. ¡ Expert ¡Systems ¡ Learning ¡Algorithms ¡ Inference ¡Mechanisms ¡ Knowledge ¡RepresentaEon ¡ Intelligent ¡System ¡Architecture ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Paradigms ¡for ¡Ar#ficial ¡Intelligence ¡

Symbolic ¡AI ¡ ¡ Rule-­‑Based ¡Systems ¡ Connec#onist ¡AI ¡ ¡ Neural ¡Networks ¡ Evolu#onary ¡AI ¡ ¡ GeneEc ¡Algorithms ¡ ¡ Molecular ¡AI: ¡ ¡ DNA ¡CompuEng ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Paradigms ¡for ¡Computa#onal ¡Intelligence ¡

Symbolism ¡ Connec#onism ¡ Dynamicism ¡ Hyper-­‑ interac#onism ¡

Metaphor ¡ Symbol ¡ ¡ system ¡ Neural ¡ ¡ system ¡ Dynamical ¡ system ¡ Biomolecular ¡ system ¡ Mechanism ¡ Logical ¡ Electrical ¡ Mechanical ¡ Chemical ¡ DescripEon ¡ SyntacEc ¡ funcEonal ¡ Behavioral ¡ RelaEonal ¡ RepresentaEon ¡ Localist ¡ Distributed ¡ ConEnuous ¡ CollecEve ¡ OrganizaEon ¡ Structural ¡ ConnecEonist ¡ DifferenEal ¡ Combinatorial ¡ AdaptaEon ¡ SubsEtuEon ¡ Tuning ¡ Rate ¡change ¡ ¡ Self-­‑assembly ¡ Processing ¡ SequenEal ¡ Parallel ¡ Dynamical ¡ Massively ¡parallel ¡ Structure ¡ Procedure ¡ Network ¡ EquaEon ¡ Hypergraph ¡ MathemaEcs ¡ Logical, ¡ ¡ formal ¡language ¡ Linear ¡algebra, ¡ staEsEcs ¡ Geometry, ¡ calculus ¡ Graph ¡theory, ¡ probabilisEc ¡logic ¡ Space/Eme ¡ Formal ¡ SpaEal ¡ Temporal ¡ SpaEotemporal ¡

[Zhang, ¡IEEE ¡CIM, ¡2008] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

4190.408 ¡Ar#ficial ¡Intelligence ¡ ¡ ¡2015-­‑Spring ¡

AI ¡History ¡and ¡Highlights: ¡Appendix ¡

Biointelligence ¡Lab, ¡SNU ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Ac#ng ¡Humanly: ¡Turing ¡test ¡ ¡

• Turing ¡(1950) ¡“CompuEng ¡machinery ¡and ¡intelligence”: ¡

– “Can ¡machine ¡think?” ¡è ¡“Can ¡machine ¡behave ¡intelligently?” ¡ – OperaEonal ¡test ¡for ¡intelligent ¡behavior: ¡the ¡ImitaEon ¡Game ¡ – Predicted ¡that ¡by ¡2000, ¡a ¡machine ¡might ¡have ¡a ¡30% ¡chance ¡of ¡fooling ¡a ¡ lay ¡person ¡for ¡5 ¡minutes ¡ – AnEcipated ¡all ¡major ¡arguments ¡against ¡AI ¡in ¡following ¡50 ¡years ¡ – Suggested ¡major ¡components ¡of ¡AI: ¡knowledge, ¡reasoning, ¡language ¡ understanding, ¡learning ¡

• Problem: ¡Turing ¡test ¡is ¡not ¡reproducible, ¡construcEve, ¡or ¡amenable ¡

to ¡mathemaEcal ¡analysis ¡

[Stuart ¡Russell's ¡(Berkeley) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Thinking ¡Humanly: ¡Cogni#ve ¡Science ¡

• 1960s ¡“CogniEve ¡RevoluEon”: ¡informaEon-­‑processing ¡psychology ¡

replaced ¡prevailing ¡orthodoxy ¡of ¡behaviorism ¡

• Requires ¡scienEfic ¡theories ¡of ¡internal ¡acEviEes ¡of ¡the ¡brain ¡

– What ¡level ¡of ¡abstracEon? ¡“Knowledge” ¡or ¡“Circuits”? ¡ – How ¡to ¡validate? ¡Requires ¡

• PredicEng ¡and ¡tesEng ¡behavior ¡of ¡human ¡subjects ¡(top-­‑down) ¡
• Direct ¡idenEficaEon ¡from ¡neurological ¡data ¡(bojom-­‑up) ¡
• Both ¡approaches ¡(roughly, ¡CogniEve ¡Science ¡and ¡CogniEve ¡Neuroscience) ¡

are ¡now ¡disEnct ¡from ¡AI ¡

• Both ¡share ¡with ¡AI ¡the ¡following ¡characterisEc: ¡

– The ¡available ¡theories ¡do ¡not ¡explain ¡(or ¡engender) ¡anything ¡ resembling ¡human-­‑level ¡general ¡intelligence ¡

• Hence, ¡all ¡three ¡fields ¡share ¡one ¡principal ¡direcEon! ¡

[Stuart ¡Russell's ¡(Berkeley) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Thinking ¡Ra#onally: ¡Laws ¡of ¡Thought ¡

• NormaEve ¡(or ¡prescripEve) ¡rather ¡than ¡descripEve ¡
• Aristotle ¡(~ ¡450 ¡B.C.): ¡What ¡are ¡correct ¡arguments/thought ¡processes? ¡
• Several ¡Greek ¡schools ¡developed ¡various ¡forms ¡of ¡logic: ¡

– notaEon ¡plus ¡rules ¡of ¡derivaEon ¡for ¡thoughts; ¡ – May ¡or ¡may ¡not ¡have ¡proceeded ¡to ¡the ¡idea ¡of ¡mechanizaEon ¡

• Direct ¡line ¡through ¡mathemaEcs ¡and ¡philosophy ¡to ¡modern ¡AI ¡
• Problems: ¡ ¡

– Not ¡all ¡intelligent ¡behavior ¡is ¡mediated ¡by ¡logical ¡deliberaEon ¡ – What ¡is ¡the ¡purpose ¡of ¡thinking? ¡What ¡thoughts ¡should ¡I ¡have ¡out ¡of ¡all ¡the ¡ thoughts ¡(logical ¡or ¡otherwise) ¡that ¡I ¡could ¡have? ¡

[Stuart ¡Russell's ¡(Berkeley) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Ac#ng ¡Ra#onally: ¡The ¡Ra#onal ¡Agent ¡

• RaEonal ¡behavior: ¡doing ¡the ¡right ¡thing ¡
• The ¡right ¡thing: ¡that ¡which ¡is ¡expected ¡to ¡maximize ¡goal ¡achievement, ¡

given ¡the ¡available ¡informaEon ¡

• Doesn’t ¡necessarily ¡involve ¡thinking ¡– ¡e.g., ¡blinking ¡reflex ¡– ¡but ¡thinking ¡

should ¡be ¡in ¡the ¡service ¡of ¡raEonal ¡acEon ¡

• Aristotle ¡(Nicomachean ¡Ethics): ¡

– Every ¡art ¡and ¡every ¡inquiry, ¡and ¡similarly ¡every ¡acEon ¡and ¡pursuit, ¡is ¡thought ¡ to ¡aim ¡at ¡some ¡good ¡

[Stuart ¡Russell's ¡(Berkeley) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief history of AI - Golden years 1956-74

• Research:

– Reasoning as search: Newell and Simon developed a program called the "General Problem Solver". – Natural language Processing: Ross Quillian proposed the semantic networks and Margaret Masterman & colleagues at Cambridge design semantic networks for machine translation – Lisp: John McCarthy (MIT) invented the Lisp language.

• Funding for AI research:

– Significant funding from both USA and UK governments

• The optimism:

– 1965, Simon: "machines will be capable, within twenty years, of doing any work a man can do – 1970, Minsky: "In from three to eight years we will have a machine with the general intelligence of an average human being."

[Xiao-­‑Jun ¡Zeng’s ¡(Univ. ¡of ¡Manchester) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief history of AI - The first AI winter

• The first AI winter 1974−1980:

– Problems

• Limited computer power: There was not enough memory or

processing speed to accomplish anything truly useful

• Intractability and the combinatorial explosion. In 1972 Richard

Karp showed there are many problems that can probably only be solved in exponential time (in the size of the inputs).

• Commonsense knowledge and reasoning. Many important

applications like vision or natural language require simply enormous amounts of information about the world and handling uncertainty.

– Critiques from across campus

• Several philosophers had strong objections to the claims being made

by AI researchers and the promised results failed to materialize

– The end of funding

• The agencies which funded AI research became frustrated with the

lack of progress and eventually cut off most funding for AI research.

[Xiao-­‑Jun ¡Zeng’s ¡(Univ. ¡of ¡Manchester) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief history of AI - Boom 1980–1987

• Boom 1980–1987:

– In the 1980s a form of AI program called "expert systems" was adopted by corporations around the world and knowledge representation became the focus of mainstream AI research

• The power of expert systems came from the expert knowledge using

rules that are derived from the domain experts

• In 1980, an expert system called XCON was completed for the Digital

Equipment Corporation. It was an enormous success: it was saving the company 40 million dollars annually by 1986

• By 1985 the market for AI had reached over a billion dollars

– The money returns: the fifth generation project

• Japan aggressively funded AI within its fifth generation computer

project (but based on another AI programming language - Prolog created by Colmerauer in 1972)

• This inspired the U.S and UK governments to restore funding for AI

research

[Xiao-­‑Jun ¡Zeng’s ¡(Univ. ¡of ¡Manchester) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief history of AI - the second AI winter

• the second AI winter 1987−1993

– In 1987, the Lisp Machine market was collapsed, as desktop computers from Apple and IBM had been steadily gaining speed and power and in 1987 they became more powerful than the more expensive Lisp machines made by Symbolics and others – Eventually the earliest successful expert systems, such as XCON, proved too expensive to maintain, due to difficult to update and unable to learn. – In the late 80s and early 90s, funding for AI has been deeply cut due to the limitations of the expert systems and the expectations for Japan's Fifth Generation Project not being met – Nouvelle AI: But in the late 80s, a completely new approach to AI, based on robotics, has bee proposed by Brooks in his paper "Elephants Don't Play Chess”, based on the belief that, to show real intelligence, a machine needs to have a body — it needs to perceive, move, survive and deal with the world.

[Xiao-­‑Jun ¡Zeng’s ¡(Univ. ¡of ¡Manchester) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

Brief history of AI - AI 1993−present

• AI achieved its greatest successes, albeit somewhat

behind the scenes, due to:

– the incredible power of computers today – a greater emphasis on solving specific subproblems – the creation of new ties between AI and other fields working on similar problems – a new commitment by researchers to solid mathematical methods and rigorous scientific standards, in particular, based probability and statistical theories – Significant progress has been achieved in neural networks, probabilistic methods for uncertain reasoning and statistical machine learning, machine perception (computer vision and Speech), optimisation and evolutionary computation, fuzzy systems, Intelligent agents.

[Xiao-­‑Jun ¡Zeng’s ¡(Univ. ¡of ¡Manchester) ¡course ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡2001 ¡a ¡Space ¡Odyssey

• 2001 ¡a ¡Space ¡Odyssey ¡(1968, ¡Stanley ¡Kubrick) ¡
• HAL-­‑9000, ¡공상과학 영화 속의 인간수준 인공지능 비서 ¡

– 우주선 Discovery의 관제와 승무원 보호를 담당 ¡ – 현재 상황을 인식하고 추론, ¡미래를 예측하여 행동을 수행 ¡ – 미래를 예측하고 이를 바탕으로 행동하는 능력은 인간 수준 인공지능의 핵심적인 자질 [Movie clip] [HAL 9000: AI system]

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡Star ¡Trek

• Star ¡Trek ¡(1973 ¡~ ¡2013) ¡
• Lieutenant ¡Commander ¡Data ¡

– One ¡of ¡main ¡characters ¡of ¡ ¡ Star ¡Trek ¡ – ArEficial ¡intelligence ¡android ¡ ¡ with ¡self-­‑consciousness ¡

¡

Cold-minded Android Human-like Android Continuously learns ho w human acts [Movie clip] [Data: AI android]

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡Bicentennial ¡Man

• Bicentennial ¡Man ¡(1999) ¡
• Android ¡robot ¡Andrew ¡

who ¡is ¡purchased ¡as ¡a ¡ household ¡robot ¡

• Emphasize ¡“humanity” ¡
• f ¡AI ¡robot ¡

– If ¡a ¡robot ¡spends ¡enough ¡ Eme ¡around ¡humans, ¡can ¡ he ¡learn ¡to ¡become ¡one ¡

• f ¡them? ¡

– EmoEon, ¡CreaEvity, ¡ Curiosity, ¡Achievement ¡ Need, ¡Love ¡…

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡I, ¡Robot

• I, ¡Robot ¡(2004) ¡
• What ¡is ¡intelligence? ¡

– InformaEon ¡processing ¡ – CreaEvity, ¡dreaming, ¡free ¡will, ¡spirit ¡ – An ¡excepEonal ¡result ¡à ¡just ¡error? ¡ – A.I. ¡& ¡robot: ¡indispensability ¡for ¡each ¡other ¡

• Three ¡laws ¡of ¡roboEcs ¡(Isaac ¡Asimov, ¡1942) ¡

¡ ¡

– These ¡rules ¡might ¡occur ¡unexpected ¡problems. ¡ – A.I. ¡with ¡excepEonal ¡results ¡need ¡to ¡be ¡studied. ¡

1. A robot may not injure a human being or, through inaction, allow a hu man being to come to harm. 2. A robot must obey the orders given to it by human beings, except wh ere such orders would conflict with the First Law. 3. A robot must protect its own existence as long as such protection do es not conflict with the First or Second Law.

[Movie clip]

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡A.I.

• A.I. ¡(2006) ¡
• AI ¡robot ¡with ¡emoEon ¡

– “David” – PercepEon, ¡cogniEon, ¡ and ¡acEon ¡like ¡humans – Influence ¡of ¡the ¡ ¡ emoEon ¡on ¡thinking – AcEve ¡goal ¡se{ng ¡and ¡ planed ¡behavior – Learning ¡and ¡ ¡ self-­‑improving ¡from ¡ ¡ the ¡experiences

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡Iron ¡Man ¡3

l Iron Man 3 (2008) l J.A.R.V.I.S.

§ AI agent communicating and interacting with humans § Information gathering from sensors and internet § Priority § Speech recognition § Context-aware § Object recognition § Gesture recognition § Active learning § Future prediction based from the data

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡Surrogate ¡(2009)

• Surrogate ¡(2009) ¡
• ArEficial ¡lifeforms ¡

that ¡can ¡link ¡up ¡with ¡ humans ¡

– Mankind ¡stays ¡at ¡ home ¡and ¡operates ¡ surrogates ¡ – Go ¡out ¡into ¡the ¡world ¡ without ¡having ¡to ¡ deal ¡with ¡dangers ¡

• Surrogate ¡does ¡not ¡

have ¡AI ¡

• kind ¡of ¡another ¡body ¡

like ¡avatar ¡

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡

Bio Intelligence ¡

4190.408 ¡ ¡Ar#ficial ¡Intelligence ¡(2015-­‑Spring) ¡

AI ¡in ¡Movies: ¡Her

• Her ¡(2013) ¡
• A ¡human ¡falls ¡in ¡love ¡with ¡ ¡

an ¡AI ¡computer ¡

• Human-­‑like ¡intelligence ¡

– Personal ¡assistant, ¡companion, ¡lover, ¡ composer, ¡coach ¡ – Interact ¡with ¡us, ¡learn ¡with ¡us ¡and ¡ulEmately ¡ express ¡sen#ments ¡and ¡crea#vity ¡

l Learn

§ Concept § Understanding § Reasoning

l Creative

§ Artistic § Musical

l Interact

§ Cognition § Recognition § Consciousness

l Express

§ Perception § Self-aware § Communication

Human AI System

[Byoung-­‑Tak ¡Zhang’s ¡Doosan ¡seminar ¡slides] ¡