人工智能面临的最大难题是什么？

写到这里，可能有人会问：为什么非要让人工智能像人呢？

人工智能对人类世界没有感受情绪又怎样？人工智能自己掌握强大的算力和全新算法，可以发展得比人类更强大，又为什么要在意与人类交流？人类的爱恨情仇属于进化的残留，既原始又低效，人工智能为什么要学习呢？它们完全可以不像人但也很强大。

这样想也完全没问题，而且是很有可能的：它们发展成跟我们不一样的强大智能。我们就假设人工智能未来不屑于获得人类世界常识，也不关心人类的爱恨情仇，自顾自发展强大，那么它是不是就没有任何问题了？

也不是的。

即便仅考虑它自己，也仍然需要面临内部调控问题。它可以不建立对世界的统一描述，但它至少需要对自己的内部思维有统一调控。

什么叫内部自我调控呢？

实际上，任何人的心智都不是单一的，每个人的自我都是许多模块、功能和目标的集合。自我就是对所有模块的综合统领。前面讲了情绪情感、欲望动机、对他人的感知同情，这里探讨了高级认知的不同层次。而所有这些，都是人这个“大企业”的不同部门，人脑前额叶的功能就是统领好这些部门。

目前的人工智能一般都是单一功能的，下围棋、开汽车或者做投资，不同的人工智能有不一样的网络结构，没办法多功能。如果停留于此，那么未来人工智能就是强大的专业工具，不可能成为某种具有特性的新智慧种族。几乎可以肯定，未来人工智能的发展肯定不会停留于单一功能，多功能人工智能的开发，也一定会取得进展。目前，克服前述“遗忘灾难”的办法就是发展多个网络，再进行系统整合。

一旦同一人工智能开始有多重能力，就会生成多种目标，这些目标不可能同时去追求，就会涉及目标之间的关系和冲突。不同功能模块之间的能力和需求可能不一样，例如追求围棋取胜的功能模块需要不断和自己对弈，而追求语言沟通的模块却要一直与更多人对话。最终需要有协调控制机制，让所有模块和谐相处。

无论人工智能是否在意人类，在它们自身心智系统复杂化的过程中，都需要自我调控。不能自我调控的智能会很容易陷入僵化或疯狂。单一功能的人工智能只需要下围棋，不需要思考“我是否要下围棋”，而一旦它自身的心智系统包含了很多个功能模块，就需要在所有目标之间做出选择。目前人工智能还由程序员进行目标抉择，但早晚有一天，它们需要具有抉择能力。

人工智能下棋战胜人类毫不稀奇，但未来，当它的对手是它自己，就需要有高层次决策能力。这是它们未来发展的最大挑战。

人类是如何管理自己的多重心智模块的？

人类在这方面也并没有特别好的榜样经验。人类心智系统内的冲突往往异常剧烈，而人类常常被这种冲突搞得目瞪口呆。

当你内心中为“失恋”悲痛，非常想好好“吃一顿”安慰自己，你头脑中却有另外两个小人阻挠，一个说“还吃还吃，再长胖还得失恋”，另一个说“哭什么哭，好好学习升职才是正经事”，然而悲痛的部分无力地说着“我做不到”，烦躁的部分说“都是因为你活得这么压抑才会失恋”。最后会有一个很无奈的仲裁者说：“你们都别吵了，再吵我就抑郁了。”

这就是我们日常头脑中上演的多模块之争。马文·明斯基把人的头脑称为“心智社会”，就是说头脑中的各个“小人儿”就像一个复杂社会一样嘈杂。

不过，尽管我们自己有这么多混乱的时刻，我们的自我管理能力仍然是机器学习的榜样。对机器的研究需要反过头来追问人类，机器研究和人脑研究始终相辅相成向前推进。明斯基把人类的心智系统分成了六层，仔细琢磨起来十分有见地。

按照这种模型，每个人的心智系统都有很多层次，每一层都有“行动者”和“批评者”，行动者给出路径建议的选项，批评者从自己的角度加以评估质疑。例如当我们想要获得考试成功，一个头脑中的行动者建议多做题，相关的批评者会说时间来不及了，另一个头脑中的行动者建议去偷答案，相关的批评者说违背公德可不行。

其中，沉思一层是我们寻找最优路径，反思一层是我们质疑自己找到的路对不对，自我反思一层是我们质疑自己能不能找到路径，自我情感意识一层是问自己到底为什么这么做、选择的意义是什么。这些批评家让我们活得专业而审慎。但是如果每一层的批评家都活跃，我们却又可能会寸步难行。事实上，当我们把头脑中的批评家关闭一些，行动者会更加冒险，大胆行动，而那是我们感觉最快乐的时候。

重要的是，每一层批评家都根据某些价值评判准则做出评估，若没有足够强大的价值评判体系，则很多冲突难以协调和仲裁。有可能模块与模块之间缺乏平衡，某一方向过于强大，挤占所有心智资源，让人陷入偏执；也有可能各个方向过于平衡，没有精神力量推动，整个体系陷入无法抉择的心智“纠结”，让心智崩溃。

对于人类来说，具体任一部分的功能都不需要做到极致，各个功能之间的协调统一才是追求的目标。我们在生活中既不喜欢那些不学无术的愚蠢之人，也不喜欢不懂得生活、只懂读书的书呆子；既不推崇只会计算、不懂与人交往的自闭症患者，也不推崇只懂察言观色、毫无真才实学的投机分子。任何一个模块的缺失都被称为某种心理障碍。我们头脑中的偶像，总是有勇有谋（既有肾上腺素情绪、又有皮层思考）、敢爱敢恨（情感系统敏锐发达）、志存高远（动机层次高尚）、侠肝义胆（对他人有同情和帮助），也就是说，一个综合协调的人。

人类社会生活中，有正确答案的事情不多，有单一目标的事情也不多。而人类的智慧，就在于从事件中提取智慧，在不确定中做出抉择。

综合协调各个部分，正是人类大脑最不寻常的智慧。我们现在的人工智能学习只效仿了一部分皮层的神经网络，做了机器视觉的一些尝试，还没有对大脑其他模块加以学习模拟，这好比是架在空气中的屋顶，屋顶强大，却没有接地的建筑支撑。想要实现具有自我调控的综合脑系统，目前的学习训练算法远远不够。

对人来说，做出调控和价值评判，需要有稳定却又灵活的价值观。一个物种也要有能力自我反思。人类价值观的传承和反思通过代际完成。儿童既可以完全继承父辈文化，也可以形成一种与周围父辈截然不同的新一代文化。这样的好处就在于，可以在基因变异速度远远跟不上时代发展的情况下，让种群智能和文化发生不断地迭代更新。我们和原始人基因上几乎没什么变化，环境也变化不大，但大脑的适应性让我们可以快速革新人类文化。

未来，人工智能如何调节自己内部的多功能模块，基于什么作为调控的基本原则，人工智能总体基于何种原则进行“物种”自我调控，都是人工智能面临的大问题。只要是智能，即便完全和人类不同，也需要面临智能最重要的问题：自知、自制、自主。