Introduction to EC, GA, GP

งานนำเสนอเรื่อง: "Introduction to EC, GA, GP"— ใบสำเนางานนำเสนอ:

1 Introduction to EC, GA, GP
Dr.Yodthong Rodkaew

2 Darwin ชาลส์ ดาร์วิน (อังกฤษ: Charles Darwin) (12 ก.พ – 19 เม.ย. 2425) เป็นนักธรรมชาติวิทยาชาวอังกฤษ ผู้ทำการปฏิวัติความเชื่อเดิม ๆ เกี่ยวกับที่มาของสิ่งมีชีวิต และเสนอทฤษฎีซึ่งเป็นทั้งรากฐานของทฤษฎีวิวัฒนาการสมัยใหม่ (Evolutionary Theory) และหลักการพื้นฐานของกลไกการคัดเลือกโดยธรรมชาติ (natural selection). เขาตีพิมพ์ข้อเสนอของเขาในปี พ.ศ (ค.ศ. 1859) ในหนังสือชื่อ "The Origin of Species" (กำเนิดของสรรพชีวิต), ซึ่งเป็นผลงานที่มีชื่อเสียงที่สุดของเขา. การเดินทางออกไปยังท้องทะเลทั่วโลกกับเรือบีเกิล (HMS Beagle) และโดยเฉพาะการเฝ้าสำรวจที่หมู่เกาะกาลาปากอส เป็นทั้งแรงบันดาลใจ และให้ข้อมูลจำนวนมาก ซึ่งเขานำมาใช้ในทฤษฎีของเขาเกี่ยวกับความหลายหลายของสิ่งมีชีวติ – DARWINIAN = ผู้เชื่อสนับสนุนในเรื่องของดาร์วิน src: wikipedia

3

4 christdefense.com © Copyright Glencoe McGraw-Hill, 2003

5

6 Survival of the fittest
Darwin's Evolution slogan "The fittest survial" natural selection การคัดเลือกตามธรรมชาติ = อะไรที่ปรับตัวเข้ากับสภาพแวดล้อมได้เหมาะสมกว่า ก็จะอยู่รอดจนมีลูกหลานสืบต่อไปได้ The fittest survial ผู้ที่เหมาะสมที่สุดจึงจะอยู่ต่อไป เข้มแข็งอยู่รอด อ่อนแอต้องตาย newer slogan "hit first, ask question later" evolve slogan "hit first, ask question never!"

7 Example — Darwin's Evolution slogan"The fittest survial" Examples
— Giraffs long neck, fitter!

8 Evolutionary Compuation (EC)
Evolutionary techniques mostly involve metaheuristic optimization algorithms such as: ** evolutionary algorithms (comprising genetic algorithms, evolutionary programming, evolution strategy, genetic programming and learning classifier systems) ** swarm intelligence (comprising ant colony optimization and particle swarm optimization) and in a lesser extent also: self-organization such as self-organizing maps, differential evolution artificial life (also see digital organism) cultural algorithms harmony search algorithm artificial immune systems Learnable Evolution Model

9 Evolutionary Algorithms (EA)
Evolutionary algorithms form a subset of evolutionary computation in that they generally only involve techniques implementing mechanisms inspired by biological evolution (การวิวัฒนาการทางชีววิทยา) such as reproduction การคัดลอก mutation การผ่าหล่า recombination (or CROSSOVER) การผสมข้ามพันธุ์ natural selection การคัดเลือกตามธรรมชาติ and survival of the fittest เข้มแข็งอยู่รอด อ่อนแอต้องตาย

10 Genetic Algorithm (GA)
Universal Problem Solver — Parameter Tuning — Search Space — Assist with other algorithms — Darwin's Evolution slogan"The fittest survial" Genetic Operators: ตัวปฎิบัติการเชิงพันธุ์กรรม Reproduction Crossover Mutation David E. Goldberg

11 Genetic Algorithm (GA)
— Individuals pick the best idv to use next generation, replace all idv, do it again and again Fitness Function Genetic Operator generation random new generation bad idv

12 Genetic Algorithm (GA)
Genetic Operator (GenOp) — Reproduction (Copy the best) — Mutation — Crossover crossover mutation Idv#1 Chromosome XXXXXXXXX Idv#5 Chromosome XXXXXXXXX Idv#2 Chromosome YYYYYYYYY Idv#3 Chromosome XXXXXYYYY Idv#6 Chromosome XXXXGXXXX Idv#4 Chromosome YYYYYXXXX

13 Natural Selection การคัดสรรทางธรรมชาติ
ประชากร แต่ละตัวจะมีค่าความเหมาะสม (ค่าความดี หรือ fitness) โอกาสที่จะถูกสุ่มเลือกจะขึ้นอยู่กับค่าความดีของประชากรนั้นๆ โดยทั่วไปใน EC ใช้การสุ่มเลือกแบบ วงล้อรูเล็ต(roulette wheel)

14 roulette wheel selection
แต่ละช่องของวงล้อ แทนประชากรแต่ละตัว ประชากรแต่ละตัว มีสิทธิ์ถูกเลือก เมื่อลูกรูเล็ตตกลงในช่องนั้นๆ ขนาดความกว้างของช่องรูเล็ตแต่ละช่องจะมีขนาดไม่เท่ากัน ตัวที่ดีกว่าจะมีช่องว่างกว้างกว่า โอกาสถูกเลือกมากกว่า fit =5 fit =3

15 A Simple Problem in GA 1 Max Problem
ให้หาว่าตัวไหนดีที่สุด กำหนดให้ fitness function ของปัญหานี้ คือ ถ้ามีเลข 1 เพิ่ม 1 คะแนนให้ idv นั้น ถ้ามีเลข 0 ไม่คิดคะแนนสำหรับ idv นั้น

16 กำหนดให้ fitness function ของปัญหานี้ คือ
ขั้นตอน 2 คำนวณ fitnest แต่ละตัว = fit 2 = fit 1 = fit 1 00101 = fit 2 11000 = fit 2 11100 = fit 3 ขั้นตอน 1 สุ่ม idv มาจำนวน 6 ตัว 01100 10000 00010 00101 11000 11100 กำหนดให้ fitness function ของปัญหานี้ คือ ถ้ามีเลข 1 เพิ่ม 1 คะแนนให้ idv นั้น ถ้ามีเลข 0 ไม่คิดคะแนนสำหรับ idv นั้น

17 crossover 80 % 11100 = fit 3 mutation 10% 00101 = fit 2
ขั้นตอน 3 ผ่าน genetic operator reproduction 10 % mutation 10% crossover 80 % ขั้นตอน 2 คำนวณ fitnest แต่ละตัว = fit 2 = fit 1 = fit 1 00101 = fit 2 11000 = fit 2 11100 = fit 3 ขั้นตอน 3.1 reproduction 10 % เลือกตัวที่ดีที่สุด 1 ตัว 11100 = fit 3 ขั้นตอน 3.2 mutation 10% สุ่มเลือก 1 ตัว มาสุ่มเปลี่ยน 00101 = fit 2  เปลี่ยน 00111 ขั้นตอน 3.3.2 crossover 80% สุ่มเลือกครั้งละ 2 ตัว มาสลับ 1000|0 = fit 1 0001|0 = fit 1  1000|0, 0001|0 ขั้นตอน 3.3.1 crossover 80% สุ่มเลือกครั้งละ 2 ตัว มาสลับ 00|101 = fit 2 11|000 = fit 2  00|000, 11|101

18 ตัวที่ดีที่สุด 11111 คือคำตอบ
ขั้นตอน 2 ของรุ่น 2 11100 = fit 3 00111 = fit 3 00000 = fit 0 11101 = fit 4 10000 = fit 1 00010 = fit 1 ขั้นตอน 4 นำผลลัพธ์ที่ได้มารวมกันเป็น generation ใหม่ (จาก reproduction) 11100 (จาก mutation) 00111 (จาก crossover) 00|000 11|101 1000|0 0001|0 จากนั้นกลับไปขั้นตอน 2 คือคำนวณ fitness แต่ละตัว สมมติว่าเลือก 00111 = fit 3 11101 = fit 4 มา crossover กัน 001|11 cross 111|01 ได้ 001|01 , 111|11 ตัวที่ดีที่สุด คือคำตอบ

19 symbolic regression ปัญหา คือ ต้องการหาสมการที่สามารถอธิบายกราฟที่กำหนดให้ x y GA ช่วยได้ กำหนดให้ y = f(x) = ax5+bx4+cx3+dx2+ex แล้วให้ idv = (a,b,c,d,e) แต่ละตัวเป็น float

20 symbolic regression y x y = f(x) = ax5+bx4+cx3+dx2+ex
เมื่อ idv = (a,b,c,d,e) แต่ละตัวเป็น float เช่น (0.5, 0.1, 0.2, 0.7,0.4) mutation เป็นการเพิ่มลดค่าโดยการสุ่ม เช่น (0.5, 0.1, 0.3, 0.7,0.4) crossover เป็นการสลับตำแหน่งเหมือนเดิม เช่น (0.5, 0.1, 0.2, | 0.7,0.4) cross (0.3, 0.4, 0.5,| 0.1,0.2) จะได้ (0.5, 0.1, 0.2, | 0.1,0.2) และ (0.3, 0.4, 0.5,| 0.7,0.4) fitness function เปรียบเทียบกราฟที่ได้จากสมการ กับกราฟที่ต้องการ และหา error ระหว่างค่า f(x) กับ f"(x) x y f(x) กราฟที่ต้องการ f"(x) กราฟจาก idv

21 Genetic Programming (GP)
Tree structure mutation crossover John R.Koza

22 Robot Arm Planning Problem
example 1 idv in GP

23 target

24 Creation of a Soccer-Playing Program that Won its First Two Games
in the Robo-Cup 1997 Competition

25 Synthesis of a NAND Circuit