一个讲得很清楚的博客:非常好理解的遗传算法的例子
用计算机模拟人类进化,适应环境(符合条件)的继续繁衍后代,不适应环境(不符合条件)的淘汰,从而逐步找到最优解。
随机挑选初始种群,根据适应度函数给初始种群中的个体“打分”,通过定义的规则进行选择,将选择出来的个体两两配对进行交叉,并在生成的对象中挑选变异点,将0变1,1变0,生成后代种群,如此循环找到最优个体即为最优解。
利用二进制(一般)表示最终解
例如:需要求解z=x^2+y^2的最大值,x={1,5,3,8},y={5,4,0,6}
用六位二进制数表示由x,y组成的解,例如:001100 表示x=1,y=4
001100 称为一条基因序列,表示的是该问题的一种解决方案
种群是包含多个基因序列(解决方案/个体)的集合
适应度函数可以理解成“游戏规则”,如果问题较为复杂,需要自定义适应度函数,说明如何区分优秀与不优秀的个体; 如果问题比较简单,例如上述求最大值的问题,则直接用此函数式作为适应度函数即可。作用:评定个体的优劣程度,从而决定其遗传机会的大小。
定义“适者生存不适者淘汰”的规则,例如:定义适应度高的被选择的概率更大
利用循环,遍历种群中的每个个体,挑选另一个体进行交叉。例如,通过遍历为基因序列A挑选出B配对,则取A的前半部分,B的后半部分,组合成新的个体(基因序列)C
随机挑选基因序列上的某一位置,进行0-1互换
在此附上莫烦的python实现代码(解决在多峰曲线函数中寻找最大值的问题,如图所示):
莫烦关于此部分的详细讲解视频/代码:遗传算法 莫烦源码
import numpy as np
import matplotlib.pyplot as plt
DNA_SIZE = 10 #序列长度
POP_SIZE = 100 #种群的个体数目
CROSS_RATE = 0.8 #选择多少个体进行交叉配对
MUTATION_RATE = 0.003 #变异的概率/强度
N_GENERATIONS = 100 #有多少代(主循环的迭代次数)
X_BOUND = [0,5] #输入数据的范围
#需要要找到哪个函数的最大值
def F(x): return np.sin(10*x)*x + np.cos(2*x)*x #返回y值(此例中为高度)
#用0-1按照定义的规模表示一代种群
pop = np.random.randint(1, size=(POP_SIZE, DNA_SIZE)) #默认从0开始,随机(提供选择的数值个数,重复次数(纵向,横向))
#print(pop)
#适应度函数(在本例中直接使用F函数就好,但是要处理返回值为负数的情况)
def get_fitness(pred):
return pred + 1e-3 - np.min(pred)
#DNA的翻译规则
def translateDNA(pop):
#把二进制翻译成十进制,并将其归一化至一个范围(0,5)
return pop.dot(2 ** np.arange(DNA_SIZE)[::-1]) / float(2**DNA_SIZE-1) * X_BOUND[1]
#适者生存不适者淘汰
#idx:种群中个体的编号
#p参数定义:按什么规格来选择(此例中按照比例来选择,适应度得分高的p越大)
def select(pop,fitness_score):
idx = np.random.choice(np.arange(POP_SIZE), size=POP_SIZE, replace=True,
p=fitness_score/fitness_score.sum())
return pop[idx]
#繁衍
#父母的DNA交叉配对(定义到底怎么个交叉法)
def crosscover(parent,pop):
if np.random.rand() < CROSS_RATE:
i_ = np.random.randint(0,POP_SIZE,size = 1)
cross_points = np.random.randint(0,2,size = DNA_SIZE).astype(np.bool)
parent[cross_points] = pop[i_,cross_points]
return parent
#变异(定义如何随机挑选0-1互换的位置)
def mutate(child):
for point in range(DNA_SIZE):
if np.random.rand() < MUTATION_RATE:
child[point] = 1 if child[point] == 0 else 0
return child
#画图
#plt.ion() # something about plotting
#x = np.linspace(*X_BOUND, 200)
#plt.plot(x, F(x))
for _ in range(N_GENERATIONS):
F_values = F(translateDNA(pop))
print(translateDNA(pop))
#print(F_values)
#计算适应度得分,适应度越高的越好(本例中,适应度就用y轴-高度,也就是F_value体现)
fitness_score = get_fitness(F_values)
#print("Most fitted DNA: ", pop[np.argmax(fitness_score), :])
#进行适者生存的选择(把种群和得分传入)
pop = select(pop,fitness_score)
#print(pop)
pop_copy = pop.copy()
#对于种群中所有个体,在种群中挑选另一个体进行配对:
for parent in pop:
child = crosscover(parent,pop_copy)
child = mutate(child)
parent[:] = child
#plt.ioff();plt.show()
为“升级版GA”,由Inman Harvey于2009年提出,原文:《The Microbial Genetic Algorithm》
主要解决遗传算法中,无法有效保留“好父母”的问题(Elitism):分析GA可是无论父母多么优秀,都不会被保留,只能将各自基因的一部分进行重组,但是重组后的子代并不会一定优于父母。
1.把种群中表现好的基因不做任何改变放入子代中
2.只对表现较差的基因序列进行交叉/变异处理
3.交叉方法:表现较差的在表现较好的基因序列中抽取一部分替换进来
4.变异方法:只在表现较差的基因序列中挑选变异点
注:表现好坏由fitness的得分决定
1.生成初始种群
2.在初始种群中随机抽取两个基因序列A/B,对比fitness(假定A的fitness值高)
3.从A中截取部分基因序列替换掉B中对应位置
4.随机在B中抽取位置,进行变异
5.将A与处理后的B‘放回种群中
6.自定义每一代进行多少次抽取/放回操作
对于前文提到的在多峰曲线函数中寻找最大值的问题,此处使用MGA解决:
来源:莫烦源码
import numpy as np
import matplotlib.pyplot as plt
DNA_SIZE = 10 # DNA length
POP_SIZE = 20 # population size
CROSS_RATE = 0.6 # mating probability (DNA crossover)
MUTATION_RATE = 0.01 # mutation probability
N_GENERATIONS = 200
X_BOUND = [0, 5] # x upper and lower bounds
def F(x): return np.sin(10*x)*x + np.cos(2*x)*x # to find the maximum of this function
class MGA(object):
def __init__(self, DNA_size, DNA_bound, cross_rate, mutation_rate, pop_size):
self.DNA_size = DNA_size
DNA_bound[1] += 1
self.DNA_bound = DNA_bound
self.cross_rate = cross_rate
self.mutate_rate = mutation_rate
self.pop_size = pop_size
# initial DNAs for winner and loser
self.pop = np.random.randint(*DNA_bound, size=(1, self.DNA_size)).repeat(pop_size, axis=0)
def translateDNA(self, pop):
# convert binary DNA to decimal and normalize it to a range(0, 5)
return pop.dot(2 ** np.arange(self.DNA_size)[::-1]) / float(2 ** self.DNA_size - 1) * X_BOUND[1]
def get_fitness(self, product):
return product # it is OK to use product value as fitness in here
def crossover(self, loser_winner): # crossover for loser
cross_idx = np.empty((self.DNA_size,)).astype(np.bool)
for i in range(self.DNA_size):
cross_idx[i] = True if np.random.rand() < self.cross_rate else False # crossover index
loser_winner[0, cross_idx] = loser_winner[1, cross_idx] # assign winners genes to loser
return loser_winner
def mutate(self, loser_winner): # mutation for loser
mutation_idx = np.empty((self.DNA_size,)).astype(np.bool)
for i in range(self.DNA_size):
mutation_idx[i] = True if np.random.rand() < self.mutate_rate else False # mutation index
# flip values in mutation points
loser_winner[0, mutation_idx] = ~loser_winner[0, mutation_idx].astype(np.bool)
return loser_winner
def evolve(self, n): # nature selection wrt pop's fitness
for _ in range(n): # random pick and compare n times
sub_pop_idx = np.random.choice(np.arange(0, self.pop_size), size=2, replace=False)
sub_pop = self.pop[sub_pop_idx] # pick 2 from pop
product = F(self.translateDNA(sub_pop))
fitness = self.get_fitness(product)
loser_winner_idx = np.argsort(fitness)
loser_winner = sub_pop[loser_winner_idx] # the first is loser and second is winner
loser_winner = self.crossover(loser_winner)
loser_winner = self.mutate(loser_winner)
self.pop[sub_pop_idx] = loser_winner
DNA_prod = self.translateDNA(self.pop)
pred = F(DNA_prod)
return DNA_prod, pred
plt.ion() # something about plotting
x = np.linspace(*X_BOUND, 200)
plt.plot(x, F(x))
ga = MGA(DNA_size=DNA_SIZE, DNA_bound=[0, 1], cross_rate=CROSS_RATE, mutation_rate=MUTATION_RATE, pop_size=POP_SIZE)
for _ in range(N_GENERATIONS): # 100 generations
DNA_prod, pred = ga.evolve(5) # natural selection, crossover and mutation
# something about plotting
if 'sca' in globals(): sca.remove()
sca = plt.scatter(DNA_prod, pred, s=200, lw=0, c='red', alpha=0.5); plt.pause(0.05)
plt.ioff();plt.show()