英特尔“演化算法”新框架：29个Python代码块，自动生成新算法

iabajofbwe

新智元报道
编辑：大明
【新智元导读】英特尔的研究人员提出一种新的自动算法生成器（AAD），利用演化算法框架，以Python语言的基本子集作为语法架构，能够对29个数组/向量问题的代码块进行组合，通过学习，自动生成更复杂问题的解决方案。

$ G  I, V& g2 f1 ^7 U本文介绍一种自动算法发现器（AAD），这是一种用于合成高复杂度计算程序的演化算法框架。此前的演化算法依赖于客观的适应函数，这在给算法设计上增加了难度。
本文提出的AAD采用问题式引导演化过程（PGE），这需要将一组问题一起引入，针对更简单问题发现解决方案，用于解决同一组问题中的更复杂的问题。 PGE还支持几种新的进化策略，并自然地应用于高性能计算（HPC）技术。
* j- e/ Y+ E) ]. Z6 u" N' ^; [
AAD可以为29个数组/向量问题生成Python代码，范围从min，max，reverse到更具挑战性的问题，如排序和矩阵向量乘法。此外，AAD显示出对受限环境/受限输入的强适应性，以及针对“开箱即用”的问题的解决能力。
) \0 m/ d3 V  D5 e+ O  [" ]AAD是将相对简单的问题解决组件自动组合程序，可以实现搜索由这些组件的所有可能排列所组成的整个空间，然后寻找满足给定要求的解决方案。目前已经提出了许多这样的搜索策略（例如枚举，基于演绎，约束求解，随机）来应对这类挑战。
+ P( p2 ~. W  y7 E5 C" T
使用AAD的分类算法代码块示例
2 o) U, z" u" x' K2 Q9 o7 h本文提出了一种基于演化算法的搜索策略，将其AAD中实现。AAD可以基于Python的子集作为语法结构，组合成复杂度相对较高的程序（循环，嵌套块，嵌套函数调用等），并生成可执行的Python代码。在本文中使用AAD来发现数组/向量问题的算法解决方案。

总的来说，AAD实现了以下目标：

" M! X: u- L2 n5 ~9 A: [
• 使用问题导向型的演化策略来消除算法中的目标函数。
  
• 使用多样化的演化策略（多环境解决方案，异花授粉和联合演化），并通过广泛的实验评估其有效性。
    h1 P: k& Q' ?5 A/ i! q' M. ?
• 利用AAD解决通用Python语言中的29个数组/向量问题，表明演化算法能够解决复杂的新问题。
  
• 支持循环模块，可以发现任何（非零）输入的算法。
  / W6 [- H" Y% a; K. }: a

AAD结构设计方案和原理
6 Q. v) U+ Y0 Q; N% p1 fAAD主要架构示意图，主要由问题生成器、解决方案生成器和检测器组成
* @  y6 t- v3 u+ A+ q& _问题生成器（ProbGen）
/ d0 s2 n" e' _) H$ O我们想要解决的每个问题都从问题生成器开始。 这部分负责：（1）指定输入和输出的数量和类型。（2）为给定的问题生成输入。例如，对于最大查找（Max），问题生成器指定Max将一个数组作为输入，并生成一个数字作为输出。另外，当请求为大小为N的问题生成输入时，会产生一个由N个数字组成的输入数组。
检测器（Checker）
检测器负责接受/拒绝为给定问题生成解决方案。 检测器使用问题生成器生成的输入执行生成的程序，并生成输出。检测器中包含接受/拒绝输出的逻辑。因此，检测器与给定的问题生成器对应，两者齐头并进。
- ~( [+ b3 C8 j& Z检测器不一定真正需要实现其想要发现的算法。比如，针对“排序问题”的检测器不必对真的对输入数组进行排序，而是可以比较输出数组中的每两个相邻元素，并查看这两个元素是否按预期顺序排列。一旦检测到未排序数据对，检测器会做出“失败”的声明。如果每对相邻元素都是有序的，并且输出数组中包含的元素与输入数组完全相同，则检测器宣布可接受该解决方案。
解决方案生成器（SolGen）
6 T: g- `8 V: D; ^# P, q: cSolGen主要由两部分组成：（1）表达式/短语存储，以及（2）演化器。
* K, t6 R6 S  q表达式/短语存储器（ExpStore）
解决方案生成器使用语法构造源程序。 AAD使用的Python语法子集存储在ExpStore中，如表1所示。在AAD中，语法规则使用类型信息进行扩充。
2 s9 Q5 P7 y% ?& EAAD支持四种数据类型：数字（NUM），布尔数（BOOL），数组（ARR）和数组的数组（AoA），它们可以对矩阵进行建模。此外，表达式的每个操作数都标记为Consumer（只读），Producer（只写）或ProdCon（读-修改-写）。
: _6 e7 ]* g! y! W6 c# ^( g演化器（Evolver）
+ i$ B$ t% U% f; q% J' H演化器负责对表达式和短语进行组合，以生成程序（或函数），以解决问题生成器提出的问题。演化器分三个阶段构建解决函数（SolFunc）。
4 [1 {1 o7 u* w5 ?$ U! E

• 阶段1：构建解决函数
  
• 阶段2：在“生产者”（只写数据）和“消费者”（只读数据）间建立联系
  
• 阶段3：操作和函数调用突变
  9 B& t4 ~' G: a: n

检查输出
一旦解决函数构建出来，就会执行这个函数，使用Python的exec函数生成输出结果。检测器负责检查输出，判定接受或拒绝输出。如果第一个输出被接受，则使用问题生成器生成的更多不同大小的、与输入测试相同的解决函数。如果检测器接受了所有测试，则该解决函数即被声明为该问题的解决方案。上述三个阶段构成了一个循序渐进的步骤。

上表所示为在问题集A中的调用者-被调用者的关系。比如SortDesc函数所在的行显示，SortAsc在57％的解决方案中调用了Max函数，在14％的解决方案中调用了Min函数，以此类推。Min，Max和ReverseArr函数没有调用任何其他函数。所有其他函数都依赖于一个或多个函数来得到解决方案，显示出函数组合的重要性。


; i8 R- h: H/ D; n6 V' }9 H% P; v: H/ `0 ^上表中列出了3组问题以及在基线方法下的步数表现，并将其与四种演化策略下的表现进行了对比。
; D7 R1 n1 W4 ?9 d未来前景与应用方向从概念上讲，AAD也可用于程序翻译。对于用C语言，汇编语言甚至二进制语言编写的程序，可以执行该实例作为AAD的检测器来生成Python（或类似语言）代码。这种方式与仅通过观察另一个对象行为，来构建自身行为方式的机器学习算法类似。很明显，本文中使用的Python代码可以被视为“Python到Python”的翻译，因为不同的检测器对应了不同的Python实现。
$ q, M* S1 X, o3 p$ [* tAAD可能不仅仅是一个程序合成器。它还可以用来获取机器的内在知识。通过调用-被调用关系图和父子图捕捉不同问题之间的内在关系。这些关系是由AAD本身发现的，并且可以被认为是不同操作之间的联想记忆的一种表示，其形式与人类大脑构造和机制类似。
. Y3 B$ b' }1 @7 r由于AAD可以通过引入越来越多的问题来增加知识储备的扩展，通过适当的指导机制，就可以引导系统获取大量技能（算法），并自己构建知识表示。就像我们在自己孩子还小时，向TA们提出许多问题和挑战，目的是为了引导孩子们获得大量技能和知识。
7 S7 o5 A. K8 }$ PAAD是用于综合高复杂度程序的演化框架，它以Python语言的基本子集作为语法架构。使用AAD能够对29个数组/向量问题的代码块进行组合，其中既有最大值、最小值，矩阵翻转这类简单问题，也有更具挑战性的问题，如排序和矩阵向量乘法等，对于输入没有大小限制。
我们评估了解决这些问题策略的有效性，并证明了AAD具备解决“开箱即用”问题的能力。为了应对复杂需求带来的各种挑战，AAD工具还能实现与高性能计算（HPC）技术的结合。总的来说，与现有技术相比，采用PGE的演化算法能够解决类似或更高复杂性的问题。
论文链接：
【2019新智元 AI 技术峰会精彩回顾】
2019年3月27日，新智元再汇AI之力，在北京泰富酒店举办AI开年盛典——2019新智元AI技术峰会。峰会以“智能云•芯世界“为主题，聚焦智能云和AI芯片的发展，重塑未来AI世界格局。
同时，新智元在峰会现场权威发布若干AI白皮书，聚焦产业链的创新活跃，评述AI独角兽影响力，助力中国在世界级的AI竞争中实现超越。
( N3 D4 J5 f* S1 Y

7 y$ b7 I/ X/ Y1 V; }来源：http://www.yidianzixun.com/article/0LiLzwbS
) L. r2 a; U* @5 d$ o9 J1 H8 f7 F免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！