“从“阿尔法狗”到基因编辑：我们怎么面对新兴技术？”

本篇文章4042字，读完约10分钟

技术对世界的革命意义早为人类所知，但对技术革命的人文反思却比较引人注目。 作为国内较早从事人工智能历史研究的学者之一，科学史博士、上海交通大学科学史和科学文化研究院客座研究员陈自富从哲学和伦理的角度反思新技术，试图将这种反思更加纳入日常化、脉络化的场景。

发布会现场

在文化纵横杂志社、东方出版社、南都联合举办的关注沙龙和文化纵横书系的《赛先生的噩梦:新技术革命二十集》新书发布会上，陈自富以曾经备受瞩目的人工智能软件“阿尔法狗( alphago )”和人类基因组为例，讲述了他的新

反思技术变革的必要性

陈自富首先强调，无论是专家还是普通民众，都有必要对技术革命和重大科技变革等议题进行讨论和反思。 普通人在知识上被认为不能与专家平等讨论，在专家中，不同的专家和同一专业的不同行业的人虽然认识有差异，但这些都不影响大家共同享受新闻文明的成果，共同承担其责任，共同思考其意义

这种反思既包括技术文案本身，也包括社会和人文意义上更深层次的思考。 前者拓展技术，后者帮助人类在拓展自身边界时形成和强化“问题意识”，从人与自然如何共存的问题意识出发，技术重新定义人的反身性问题意识。 这种问题意识在追求知识成长的自然科学行业、以及追求人类平等、幸福的社会科学行业中很重要。

技术革命扩大了人与自然的关系，创造了许多自然本来不存在的东西，人类的边界不断延伸，人与技术也不断融合，人类必须重新思考自身的定义。 对技术进行人文反思的过程一方面可以帮助我们提问，另一方面可以浮现问题意识，提供多维视角，告别封闭讨论，扩大问题行业外延，使全社会接近最大限度的共识，使科学技术真正服务于人类福利。

关于技术革命，陈自富现在被很多人称为“第四次工业革命”乃至“智能革命”时期，没有详细叙述，但回顾历史，我们发现科学与技术实际上是并列关系，科学不代表技术。

回顾技术革命

在工业革命之前，人类从一开始玩火无知的时代迅速发展到畜牧业与农业分离、农业与手工业分离和商人出现的野蛮时代，但进入早期文明时代后出现了私有制，以城市为指标的定居文明发生，庞大的祭司阶层不断涌现，但人口增长和战争总是交替出现。 直到第一次工业革命时期，蒸汽革命彻底改革创新了生产的“动力”，畜力和水力被取代，冶金和机械制造成为重点，资本家开始出现。 这是一场以英国为中心的单源性工业革命，产生了工匠文化和商品输出。

第二次工业革命是电力革命，电力的采用极大地推动了包括汽车行业在内的重化工业的迅速发展，工业革命的范围扩大，城市化的步伐开始加快。 在这个过程中，科学和技术的关系开始发生了变化。 作为工匠的瓦特体处于技术与科学并行的时代，但到了二次工业革命时期，化学、冶金等技术领域依赖于科学。 阿尔文·托夫勒( alvin toffler )被称为“第三次浪潮”，至今余韵不断的第三次工业革命，以新闻革命为首要特征，包括核技术、航空航天技术和农业革命的迅速发展，全球化程度将会不断提高，

目前，新闻革命正在向所谓的“智能革命”推进，第四次工业革命尚未得到公认，但人工智能、生物技术、航空航天、清洁能源等技术方面越来越突出，在这些过去，完全不同的行业之间也加速了融合， 以火星探测为例，由于距离导致的时间延迟，无法实时操控，必须与火星探测器有一定的自主评估能力，也就是人工智能密切结合，这项技术也会逐渐影响地球其他技术领域。

因为目前这种跨行业的技改与前三次工业革命有很大差异，具有跨行业特点的技术具有极强的“正反馈”效应，技术的快速发展速度特别快，适用的人口范围也特别广。 其重要意义是，人类的认识边界全面展开，进入外太空，进入内则进入人类基因水平。

但是，在这种情况下，当前的技术革命没有得到科学的全面支持和支持，我们还缺乏各方面的准备，原理上的茫然带来了更大的未知，其影响也是无法预知的。 就像蒸汽革命时期伦敦大力发展煤炭工业后带来的严重污染一样，是典型的处理实际问题，但由于不了解原理，无法预测其快速发展轨迹，陷入困境。 陈自富指出，只有有科学理论基础的技术在快速发展时才有规律性，其结果和边界更容易明确，便于人们做出合理的选择，其技术路线预测也比较准确。 蒸汽机的制造和利用以及核技术的迅速发展是不可同日而语的，后者必须基于相对论这个理论。

难以解释的问题

所以，在很多情况下，科学不等于技术，人也不总是理性的。 虽然目前认识科学对智能的了解和生物科学对人类基因组修饰的知识非常有限，但技术尝试的步伐似乎在加快。 一般来说，人类科学计算技术的快速发展，以实现技术决策中利益价值的比较，也就是所谓的“二害相权轻、二利相权重”，但在没有相应的科学基础的情况下，盲目决策出现的概率大大提高。

以《阿尔法狗》为例，它在实践中战胜了人类最强棋手，在基于规则的游戏行业达到了前所未有的高度。 这样明亮的表现并不能证明人工智能作为人造物体开始模仿人类智能的动作。 因为人类自身对大脑工作原理也处于充分抽象的解释阶段，包括阿尔法狗在内的智能技术的进展仍然是没有足够理论支撑和知识基础的工程实践。

陈自富认为，这种“难以解释的生物智能和人工智能”是我们目前面临的现状，其中存在许多问题。 “知识就是力量”，如果把知识作为智能的核心来源，认知论就是哲学的研究范畴，所以人工智能如果不考虑哲学所纠缠的知识的核心地位，目前人工智能深度学习所依赖的路径本质上与知识关系不大，仍然缺乏理论基础。 然而，尽管人工智能没有掌握所谓的知识，但在国际象棋游戏、定理解释、图像识别等一点大脑活动行业却取得了巨大的进展，呈现出比人压倒性的特征，指出与过去的蒸汽、电力工具性利用相比，人类如何面临着这样的进步

人类和人工智能

过去，机器取代人力导致了工人的失业，但总体来说，工具性的利用总是局限在“改造自然”的范围内，但随着人工智能技术的飞速发展，人类替代的不安将会越来越严重。 为了处理这个问题，有必要决定应该如何定义人工智能。

人类似乎总是在为自己寻找稳定的哲学定义。 人类利用工具、制造工具，人类是符号动物、理性动物、知识动物……这些似乎表明人类唯一性的特质随着技术的迅速发展和认知的深度而后退。 人工智能的突出表现让人类怀疑是否连“创新”都不是人的本质。 因此，问题可能也必须继续倒退。 从一开始，人类就执着于思考自己的本质吗？

陈自富指出，人工智能之所以会出现挑战人类的问题，是因为人类从一开始就试图通过本质主义来定义自身，进而定义人工智能，从而准确区分人类和非人类。 但是，对这一本质的追求可能会导致永远没有答案的递归，甚至可能超越人类的肉体。 也就是说，这样完美的人类定义真的存在吗？ 因此，人类抛弃了这种本质主义的幻想，将智能、意识这一心理学词汇设想为生物体与环境相互作用的过程，认为只有摆脱人类的定义和钩子，才能陷入这种困境。

那么，如何理解人类和人工智能的概念和关系呢？

关于“人类”，实际上并不存在静态固定的概念，劳动、符号、理性、文化等只刻划人类的某一面。 进一步指出，“人”是具有独特基因组的人及其环境组合的产物，根据环境的变化在不同的历史阶段，“人”有不同的内涵和外延。 现代生物学和哲学对人类物种的概念，甚至人类是否是一种，至今未能达成共识。 从这个意义上来说，讨论人工智能对人类的置换或者竞争，其实是一个不恰当的问题。

此外，人工智能也不像人类那样具有有性生殖变异的基础，在宏观上存在生命和非生命的差异，同时人工智能多而复杂的程度也不如人脑的功能模块，在相当长的一段时间里，人工智能不能成为独立的主体，作为生命体也要承担责任

总而言之，与人工智能区别开来，有性生殖、社会性、语言能力、伦理责任等是人类高等生命的首要特征，例如科幻小说和电影中赋予人工智能和机器人生命特征的例子，可能只能被认为是一种隐喻和类比。

数学家控制论的先驱诺伯特·维纳( norbert wiener )早年在名作《人的用途》中论述了现在科幻作品中常见的设定。 也就是说，通过新闻渠道将人转发到别的地方，陈自富称之为“救人”。 前卡内基梅隆大学移动机器人实验室主任汉斯·莫拉维克( hans moravec )试图实现这一构想。 众所周知的图灵测试( the turing test )试图评价机器是否能够模拟人类，反映了计算机的拟人化( machine as mind )。 虽然两者截然不同，把新闻当作人类的本质，但这与目前流行的基因观点联系在一起，人类有独特的基因，似乎可以通过基因序列与人类建立唯一的标记。

要说新闻是人的本质，除了个人与环境相互作用的历史新闻外，人类社会还可以基于新闻进行重建，这种推测或隐喻构成了新闻本体的一种方式。 这在一定程度上反映了万物都能形式化的机械世界观，就像拉美特( la mettrie )在“人是机器”中提出的隐喻一样，其背后有实证主义的哲学观。

除了哲学上的考虑之外，陈自富还进行了通过神经网络技术脱掉摄影师衣服的deepnude、可以进行人体图像合成伪造照片的deepfake等技术上的恶行，利用算法强化社会偏见和不公平的算法歧视等，目前的技术带来的伦理 不仅如此，无过程因果解释的算法是否能代替人类的决策、人类生殖系统基因修饰是否构成人类的生物学改造、是否值得耗费巨额成本为罕见病开发基因疗法等问题也困扰着人类。

虽然人类可以用强烈的人类中心主义和人类沙文主义说服自己，用更透明的技术管理结构训练技术，排除哲学本质主义，从而谨慎支持生殖系统基因修饰……但总体来说，人类无法进化出越来越多的新物种，无法通过自然选择得到更好的基因型

陈自富最后强调，人类必须对未来技术的快速发展进行规划和选择，更好地思考和提问，以适应技术的快速变革。 信息推荐

英国向欧盟提出了新的“脱欧”协定谈判条件

新华社伦敦8月19日电(记者桂涛)英国首相约翰逊19日致函欧盟，正式提出新的“脱欧”协议谈判条件。 这是约翰逊成为英国首相...