请选择 进入手机版 | 继续访问电脑版
设为首页收藏本站

汉山

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
热搜: 活动 交友 discuz
查看: 1033|回复: 4

物理学家戴森:机器并未失控,未来需要我们

[复制链接]

2043

主题

4920

帖子

3万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
31682
发表于 2016-3-16 23:49:23 | 显示全部楼层 |阅读模式
物理学家戴森:机器并未失控,未来需要我们

弗里曼·戴森(Freeman Dyson)

2016-03-12 15:33 来自 翻书党

字号


【编者按】

人机大战第三局落幕。对一些人来说,这是一次恐惧之旅,对另一些人来说,这是一次希望之旅,对更多人来说,这是一次人工智能的科普之旅。

这一时刻,我们在此刊发一篇物理学家弗里曼·戴森的文章。需要说明,戴森教授不仅是一位大科学家,更是一位科学界的通人。1953年后,他一直在举世闻名的普林斯顿高等研究院担任教授,对美国科学界近几十年的发展动态和内幕相当了解。他一生优游于数学、粒子物理、固态物理、核子工程、生命科学和天文学等广阔的学科领域,同时又热爱和平,关心人类命运,思索宇宙与人类心智的奥秘,检讨人类道德伦理的困境,还特别以在核武器政策和外星智能方面的工作而闻名。

在戴森看来,17世纪对败坏人心的书籍造成道德沦丧的担心,跟21世纪对致病的微生物造成身体感染的担心,具有可类比性。两种担心既非空穴来风,也非不合情理。在这些担心中,重要的不是胜负,而是启迪民智。——戴森也在这篇文章里,用雄辩而深情的理由阐释了为什么“未来需要我们”。

《纳米猎杀》(Prey)是一部惊悚小说, 它跟麦克·克莱顿(Michael Crichton)的其他作品一样,构思巧妙,读起来妙趣横生。小说的主角是本书的叙述者杰克和他妻子朱莉娅,他们有三个活泼的孩子,可谓是将为人父母的天伦之乐,与在硅谷高科技社会中追求有前途的职业成功结合在一起的典范。朱莉娅供职的公司叫西莫斯(Xymos),它主要开发纳米机器人——这些微小的机器可以四处移动,自主地发挥作用,但是在程序指令的控制下也可以像一队蚂蚁那样协同工作。杰克供职于电子媒体公司(MediaTronics),它生产的软件可用于协调一大组自治智能体的行动。他的程序为她的机器增添了智能和灵活性。

后来,杰克失业了,留在家里照看孩子,而朱莉娅在实验室里工作的时间越来越长,对家庭失去了兴趣,这下问题就来了。她在从事一项秘密的突击任务:用纳米机器人设计出一种隐形的照相侦察系统,可以卖给美国军方。为了增加系统的效力与性能,她将细菌活体植入了纳米机器人,使得它们能快速繁殖和进化。她用杰克最新研制的自治智能体软件,对它们重新进行了编程,这样它们就可以从过去的经历中学习到新东西。但是作了这些改进之后,纳米机器人还是没达到军方的指标,于是西莫斯公司就失去了军方的项目资助。此后,朱莉娅拼命努力,想将这套照相侦察系统,改成一种可以在民用市场上出售的医疗诊断系统。她的思路是训练纳米机器人,让它们进入病人体内进行探索,这样就可以比在体外进行的X 光或超声检测更精确地找到肿瘤和其他病症。

她在试验纳米机器人的医学应用时,用自己当实验对象,并因此受到了慢性感染。纳米机器人学会了如何在她体内确立共生体的地位,然后逐渐控制了她的思想。她在精神错乱的状态下,故意让实验室的三位同事也感染上了纳米机器人。她还将一群纳米机器人释放到环境中,让它们侵入野生动物体内,并得到了快速的繁衍。

这个故事的主体部分讲述的是,杰克如何慢慢地意识到他妻子和她所从事的项目出了严重的问题。到最后,他才完全明白了她的转变有多恐怖。在一位忠诚的年轻女友的帮助下,他勇敢地面对朱莉娅,并朝她喷了一股可置她体内细菌于死地的噬菌体。但是离了那些控制他们思想的共生体——纳米机器人,朱莉娅和她的同事们也没法再活下去了。他们被喷上噬菌体后,就像《绿野仙踪》里让桃乐丝浇了一桶水的那个邪恶巫婆一样,倒在地上死去了。在朱莉娅死后,杰克和他女友用火与烈性炸药斩草除根,摧毁了实验室内外的纳米机器人。在最后一幕场景里,杰克和孩子们回到了家里,心里却还在想着:纳米机器人真的一去不复返了吗?也许西莫斯公司又在开展其他纳米机器人项目,为世人带来新的噩梦?

我们能从这个幻想故事中得到点什么呢?可以有两种看待它的方式。一方面,我们可以将它作为一个故事来欣赏,不必担心其中的一些部分是不是可能会变成现实。另一方面,我们也可以将它当作一个迫在眉睫的警告:如果允许当前的技术继续发展下去,我们马上会面临这种危险。作者在开篇那一章用的标题是“21 世纪的人工进化”;这就很明白地表明,他希望大家能严肃地对待他这个故事。

很容易就可证明,这个故事在技术细节方面存在瑕疵。比如说,纳米机器人的大小。朱莉娅在一次推销西莫斯医疗诊断系统的广告宣传上说:“我们可以完成所有这些任务,因为这种相机比红细胞还小。”这种相机是她设计的一种纳米机器人。它必须小到那个程度,因为朱莉娅说过,它能在流过人肺毛细血管的血液中游动。而毛细血管的宽度刚刚够红细胞通过。但是这本书在后面又写到,杰克在户外遇到一群纳米机器人,它们像一群蚂蚁或蜜蜂一样追赶他。这些纳米机器人在空中的飞行速度跟他逃跑的速度一样快。但是,物理定律不允许很小的东西快速飞动,这对杰克而言是幸运的,而对这个故事则是不幸的。物体变得越小,空气或水对它的黏滞阻力就会变得越大。对于红细胞大小的纳米机器人而言,它在空气中飞行,就像人在黏稠的糖浆中游泳。粗略地说,游泳者或飞行者的最高速度跟它的长度成正比。满打满算,纳米机器人在空中飞行或在水中游动的最大速度,是每秒十分之一英寸,也就刚刚够追上一只蜗牛吧。要让这些纳米机器人像一群昆虫那样活动,它们得有昆虫那么大的体格才行。

故事中其他一些技术瑕疵也不难找到。书中说,在户外飞行的纳米机器人群是用太阳能供电的。但是落在它们微小身体上的太阳能——就算我们认为它们具有神奇的能力,可以在太阳能利用方面达到百分之百的效率——根本不足以支持它们的运动。我还可以继续指出一长串因为这种或那种原因,在科学上不可能实现的技术细节,但是那会因小失大,影响对这个故事主旨的把握。这个故事是关于人类的,而不是关于纳米机器人的。这个故事的主旨是说,朱莉娅是一个真实可信的人。她是个能干而满怀良好愿望的女人;她位居要职,整个公司的命运都压在她的肩上。她觉得拯救公司使之免于破产的唯一途径就是,采用一种冒险的技术,来推动公司发展。她无法面对自己公司和职业生涯的失败,就不顾危险继续她的实验。她是一个赌徒,押上了一笔输不起的赌注。最后,她不仅输掉了她的公司和职业生涯,连她的家庭和生命也给搭了进去。这是一个可信的人类故事,最终技术细节反倒无关紧要了。


2043

主题

4920

帖子

3万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
31682
 楼主| 发表于 2016-3-16 23:49:47 | 显示全部楼层




这个故事令我联想起内维尔• 舒特(Nevil Shute)发表在1957年的那本《在海滩上》(On the Beach)。这本小说描写了人类因为核辐射战而灭绝的情景。舒特用普通人日常的声音,沉痛地叙述了世界末日的大灾难,发人深省。他这本书畅销全球,并被拍成一部卖座的电影。这本书和这部电影创造了一个影响深远的神话,日后所有思考核战争的人都会有意识或潜意识地想到它。这个神话将核战争描绘成一种静默的势不可挡的死亡;随着放射性钴从北半球到南半球,缓缓地扫过天空,地球生灵无一幸免。在北半球的人死光后,澳大利亚人静静地勇敢地熬到了末日降临的时刻。当人们觉得辐射症状变得太难忍受时,澳大利亚政府会向他们提供安乐死药片。父母得到建议,要在自己病重前,先给孩子们喂食这种药片。没有一丝存活的希望;无人谈论在地下建造一艘“诺亚方舟”,好在钴的放射性衰退前,去拯救地球生灵的性命。舒特设想的是,整个人类都平静地默认了灭绝的命运。

《在海滩上》这个虚构的故事也存在多方面的技术瑕疵。几乎所有的细节都有问题:放射性钴不会大幅增加重磅氢弹的杀伤力;放射性坠尘不会均匀地洒落在广阔的区域,而是零星地出现在狭窄的时空中;人们可以躲在地下几尺深的掩体中,减轻辐射的伤害;假想的这场战争发生在1961 年,当时就算是最恶毒的国家也造不出那么大当量的炸弹,无法让整个地球都处于致命的辐射中。但是,这个神话还是达到了舒特原定的目标。尽管在技术上存在这样一些不准确性,但在基本人性的层面上,它还是道出了实情。它以每个人都听得懂的语言告诉这个世界:核战争意味着灭亡。世界听进去了。

《纳米猎杀》写得不如《在海滩上》那么出色,但是它向我们传达了同样重要的消息。这个消息是,21世纪的生物技术跟20世纪的核技术一样危险。这些危险并不在于某种特定的小机械,比如纳米机器人或自治智能体;而是来自于知识,来自我们对生命基本过程的理解的增进,这种增进是势不可挡的。这个消息是,不负责任地运用生物知识就意味着灭亡。我们也许可以希望这个世界听得进去。

以后,我会假设《纳米猎杀》传达的基本信息是正确的。我假设,从现在开始的这个世纪中所增长的生物学知识,会给人类社会和地球生态带来严重的危险。这篇书评后续部分将关注我们应该做些什么来减轻这种危险。对于理解不清楚的假想危险,什么样的回应才是合适的呢?类似其他涉及大众健康危险和环境风险需要评估与管理的情况,在这件事情上也存在完全相反的两种观点。一种观点基于“预先警戒原理”。预先警戒原理认为:如果存在重大灾难的风险,就不应该允许任何增加风险的动作。如果一种动作有望带来可观的益处,同时也会带来一定的重大灾难风险——实际情况往往如此,就不能用益处去抵扣风险。任何带有重大灾难风险的动作都必须遭到禁止,而不管禁止的代价有多高。

2043

主题

4920

帖子

3万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
31682
 楼主| 发表于 2016-3-16 23:50:33 | 显示全部楼层




Bill Joy

与之相反的观点认为:风险不可避免;不管采取何种行动或不采取何种行动,都不会消除风险;应该谨慎地选择行动路线,使之建立在风险和益处与代价两相权衡的基础上。特别地,在考虑禁止任何有危险的科学与技术时,必须考虑的代价之一就是人类自由的代价。我将第一种观点称作预先警戒观点,将第二种称作自由意志观点。2000年4月,太阳微系统公司(Sun Microsystems)的共同创始人兼首席科学家比尔·乔伊(Bill Joy),在《连线》(Wired)杂志上发表了一篇题为“为什么未来不需要我们”的文章,其副标题是“21世纪让我们人类有濒临绝迹危险的最强大技术:机器人、基因工程和纳米技术”。看到我们高科技领域的一位领袖,如此激烈地为延缓可能导致威胁的技术而辩护,实在大大地出乎人们的意料之外。比尔·乔伊成了预先警戒观点的代言人。

9个月后的2001年1月,世界经济论坛年会在瑞士达沃斯举行。参会的人大多是工业界首脑、基金会主席和政府官员。但是,2001年这一届的组委会决定邀请一些科学家、作家和艺术家,以便为大会增加点学术色彩。比尔和我都受到了邀请,并被要求就这样一个问题进行辩论:我们的技术失控了吗?为了让辩论显得有趣点,他们让比尔站在一个极端的立场上支持预先警戒观点,而让我站在另一个极端的立场上代表自由意志观点。接下来,我将摘要性地介绍一下我们的辩论。为确保不歪曲比尔的观点,我这里只引用他已发表的文字。

我的第一段引用来自比尔发表在《连线》上的文章:

21世纪的技术——遗传学、纳米技术和机器人学(GNR)——功能太强大了,很容易引发一系列全新的事故和滥用。最危险的是,这些事故和滥用处在广泛的个人和小团体触手可及的地方;出现这种情况,有史以来还是头一次。它们不需要大型的设施,也不需要稀有的原材料。只要掌握了相应的知识,就可以使用它们。

因此,我们不仅可能造出大规模杀伤性武器,而且可能出现因为具备某种知识而造成的大规模杀伤(KMD),后一种的破坏性还会被自我复制的能力大大地放大。

我想毫不夸张地说,我们正处在进一步完善极端邪恶的当口,出现这种邪恶的可能性已经远远地超出了只有国家才能掌控的大规模杀伤性武器,让个人极端分子也能具有可怕得惊人的实力。


他是在2001 年9 月恐怖袭击事件发生前一年半时写这篇文章的。我不知道当时比尔在心里有没有想到奥萨马·本·拉登。他肯定想到了邮包炸弹狂人(Unabomber),可能用基因工程改造的细菌而不是化学炸药去报复社会。

第二段引用。这里比尔引用了纳米技术首席预言家埃里克·德雷克斯勒(Eric Drexler) 的话。德雷克斯勒建立了远景学院(Foresight Institute),以推进将纳米技术用于造福人类的事业,并告诫大家提防它的危险应用。德雷克斯勒是这样说的:

强壮的杂食性(人工合成)“细菌”可能会在竞争中击败真正的细菌:它们可以像风媒花粉一样传播,快速复制,并在几天之内就将地球生物圈化为乌有。危险的复制机器人(replicator)很容易就能做到特别强壮、细微而又能快速传播,让人无力阻止——至少在我们事先没做好准备时会措手不及。我们在控制病毒和果蝇时遇到的麻烦已经够多了……

要是具有自我复制功能的装配机器人(assembler)造成某种事故的话,我们就要吃不了兜着走了。


纳米技术的思想是,在微小的尺度上制造出像活细胞一样能干的机器,而且它们是用不同的材料制成的,因此具有更强的耐受性,也可派上更多的用途。其中的一种纳米机器是装配机器人,它是一个能生产其他机器(包括复制自身)的微型工厂。德雷克斯勒从一开始就很清楚,具有自我复制功能的装配机器人是一种威力巨大的工具,既可用于行善,也可用于作恶。不知是幸运还是不幸,纳米技术的发展速度比德雷克斯勒预期的要慢。至今还没人研制出跟装配机器人略微有些相近的东西。到目前为止,最有用的纳米技术产品是计算机芯片。它们既不会复制自身,也不会复制其他任何东西。

我最后的这段引用,摘自比尔发表在《华盛顿邮报》上的一篇文章,它总结了他预见到的危险,并提议了一个可用于避免这些危险的行动计划:

我们这些专心推进新技术的人,必须投入最大的精力以避免灾难发生。下面我将根据我们在处理大规模杀伤性武器时取得的经验,给出一组要首先采取的步骤:

(1)让科学家和技术专家(以及公司领袖)发誓——类似希波克拉底誓言(Hippocratic Oath)那种——不研制潜在的或实际的大规模杀伤性武器……

(2)创立一个国际组织,公开检查新技术的危险和道德问题……

(3)采用更严格的责任认定,通过私营经济机制——保险,来迫使公司对出现的后果负责……

(4)对那些有巨大潜力但被认为在市面上出售太危险的知识和技术,采用国际化的控制……

(5)对那些被认为极度危险、最好永远不要出现的知识和技术,应该彻底放弃对它们的追求与开发。我也信奉对知识的追求和对技术的开发;但是,我们已经看到过这样的先例,比如生物武器,彻底放弃才是显然的明智选择。

2043

主题

4920

帖子

3万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
31682
 楼主| 发表于 2016-3-16 23:51:05 | 显示全部楼层




Bill Joy

与之相反的观点认为:风险不可避免;不管采取何种行动或不采取何种行动,都不会消除风险;应该谨慎地选择行动路线,使之建立在风险和益处与代价两相权衡的基础上。特别地,在考虑禁止任何有危险的科学与技术时,必须考虑的代价之一就是人类自由的代价。我将第一种观点称作预先警戒观点,将第二种称作自由意志观点。2000年4月,太阳微系统公司(Sun Microsystems)的共同创始人兼首席科学家比尔·乔伊(Bill Joy),在《连线》(Wired)杂志上发表了一篇题为“为什么未来不需要我们”的文章,其副标题是“21世纪让我们人类有濒临绝迹危险的最强大技术:机器人、基因工程和纳米技术”。看到我们高科技领域的一位领袖,如此激烈地为延缓可能导致威胁的技术而辩护,实在大大地出乎人们的意料之外。比尔·乔伊成了预先警戒观点的代言人。

9个月后的2001年1月,世界经济论坛年会在瑞士达沃斯举行。参会的人大多是工业界首脑、基金会主席和政府官员。但是,2001年这一届的组委会决定邀请一些科学家、作家和艺术家,以便为大会增加点学术色彩。比尔和我都受到了邀请,并被要求就这样一个问题进行辩论:我们的技术失控了吗?为了让辩论显得有趣点,他们让比尔站在一个极端的立场上支持预先警戒观点,而让我站在另一个极端的立场上代表自由意志观点。接下来,我将摘要性地介绍一下我们的辩论。为确保不歪曲比尔的观点,我这里只引用他已发表的文字。

我的第一段引用来自比尔发表在《连线》上的文章:

21世纪的技术——遗传学、纳米技术和机器人学(GNR)——功能太强大了,很容易引发一系列全新的事故和滥用。最危险的是,这些事故和滥用处在广泛的个人和小团体触手可及的地方;出现这种情况,有史以来还是头一次。它们不需要大型的设施,也不需要稀有的原材料。只要掌握了相应的知识,就可以使用它们。

因此,我们不仅可能造出大规模杀伤性武器,而且可能出现因为具备某种知识而造成的大规模杀伤(KMD),后一种的破坏性还会被自我复制的能力大大地放大。

我想毫不夸张地说,我们正处在进一步完善极端邪恶的当口,出现这种邪恶的可能性已经远远地超出了只有国家才能掌控的大规模杀伤性武器,让个人极端分子也能具有可怕得惊人的实力。


他是在2001 年9 月恐怖袭击事件发生前一年半时写这篇文章的。我不知道当时比尔在心里有没有想到奥萨马·本·拉登。他肯定想到了邮包炸弹狂人(Unabomber),可能用基因工程改造的细菌而不是化学炸药去报复社会。

第二段引用。这里比尔引用了纳米技术首席预言家埃里克·德雷克斯勒(Eric Drexler) 的话。德雷克斯勒建立了远景学院(Foresight Institute),以推进将纳米技术用于造福人类的事业,并告诫大家提防它的危险应用。德雷克斯勒是这样说的:

强壮的杂食性(人工合成)“细菌”可能会在竞争中击败真正的细菌:它们可以像风媒花粉一样传播,快速复制,并在几天之内就将地球生物圈化为乌有。危险的复制机器人(replicator)很容易就能做到特别强壮、细微而又能快速传播,让人无力阻止——至少在我们事先没做好准备时会措手不及。我们在控制病毒和果蝇时遇到的麻烦已经够多了……

要是具有自我复制功能的装配机器人(assembler)造成某种事故的话,我们就要吃不了兜着走了。


纳米技术的思想是,在微小的尺度上制造出像活细胞一样能干的机器,而且它们是用不同的材料制成的,因此具有更强的耐受性,也可派上更多的用途。其中的一种纳米机器是装配机器人,它是一个能生产其他机器(包括复制自身)的微型工厂。德雷克斯勒从一开始就很清楚,具有自我复制功能的装配机器人是一种威力巨大的工具,既可用于行善,也可用于作恶。不知是幸运还是不幸,纳米技术的发展速度比德雷克斯勒预期的要慢。至今还没人研制出跟装配机器人略微有些相近的东西。到目前为止,最有用的纳米技术产品是计算机芯片。它们既不会复制自身,也不会复制其他任何东西。

我最后的这段引用,摘自比尔发表在《华盛顿邮报》上的一篇文章,它总结了他预见到的危险,并提议了一个可用于避免这些危险的行动计划:

我们这些专心推进新技术的人,必须投入最大的精力以避免灾难发生。下面我将根据我们在处理大规模杀伤性武器时取得的经验,给出一组要首先采取的步骤:

(1)让科学家和技术专家(以及公司领袖)发誓——类似希波克拉底誓言(Hippocratic Oath)那种——不研制潜在的或实际的大规模杀伤性武器……

(2)创立一个国际组织,公开检查新技术的危险和道德问题……

(3)采用更严格的责任认定,通过私营经济机制——保险,来迫使公司对出现的后果负责……

(4)对那些有巨大潜力但被认为在市面上出售太危险的知识和技术,采用国际化的控制……

(5)对那些被认为极度危险、最好永远不要出现的知识和技术,应该彻底放弃对它们的追求与开发。我也信奉对知识的追求和对技术的开发;但是,我们已经看到过这样的先例,比如生物武器,彻底放弃才是显然的明智选择。

2043

主题

4920

帖子

3万

积分

版主

Rank: 7Rank: 7Rank: 7

积分
31682
 楼主| 发表于 2016-3-16 23:52:07 | 显示全部楼层
下面是我给比尔的答复。我承认他描述的那些危险确实存在,但是我不赞成他论据中的一些细节,并强烈反对他提出的补救措施。我先讲述了一下生物武器和基因重组的历史,以及对它们进行管制所作努力中的成败得失。比尔忽视了国际生物界长期以来为管制和禁止危险技术所采取的有效行动。在1975 年发现如何将DNA 片段拼接在一起的技术后,许多国家都开始进行基因重组实验。两位顶尖级生物学家玛克辛• 辛格(Maxine Singer)和保罗• 伯格(Paul Berg)发出呼吁,要求在仔细评估其危险之前,暂停所有此类实验。它们显然会危害公众健康;试想一下,要是将含有致命毒素的基因插入到在人群中正常流行的细菌体内,后果会如何。全球的生物学家很快都同意暂停实验的倡议,于是各地的实验都暂停了10 个月。在这10 个月中,举行了两次国际会议,对什么实验可以做、什么实验应该禁止,制定出了一套指导方针。这套方针确定了规则,规定了涉及不同风险级别的实验允许使用的物理和生物含量。最危险的实验会遭到彻底的禁止。生物学家自愿地采纳了这套方针,并一直遵守它,只是会根据新的发现不时地作些修正。因此,在25 年的时间里,这方面的实验都没有对人们的健康造成大威胁。这给负责任的公民树立了一个光辉的榜样,证明科学家可以保护公众利益免受破坏,同时又能保持科学研究的自由。

生物武器的历史是个更复杂的故事。美国、英国和苏联在二战期间和二战后,都制定了庞大的计划,以开发和储备生物武器。但是与开发核武器的计划相比,它们真是小巫见大巫了。曾有著名的物理学家大力推进原子弹计划;与此不同的是,生物学家从来没有卖力地推进过生物武器的开发。绝大多数生物学家跟武器开发毫不相干。涉及武器计划的少数生物学家对它也持强烈反对的态度。

美国最强烈的反对者是马修·梅塞尔森(Matthew Meselson),他幸运地在1968 年尼克松当总统时,跟亨利• 基辛格是邻居和朋友。基辛格是尼克松总统的国家安全顾问。梅塞尔森不失时机地说服了基辛格,基辛格又说服了尼克松:美国的生物武器计划对国本身的危害,远大于对任何可能敌人的危害。一方面,很难想象美国会在什么情况下使用这些武器;另一方面,很容易想象在某些情况下,其中的一些武器可能落在恐怖分子手里。

因此,尼克松在1969 年大胆地宣布,美国将取消整个生物武器计划,并销毁所有库存的生物武器。这是一项单方面的行动,不需要达成任何国际协议,也不需要美国参议院批准。生物武器的开发及时停止了,生物武器也被销毁。英国很快也效仿了美国的做法。1972 年,在尼克松的提议下,美国、英国和苏联签署了一项国际公约,在三个国家永久性地禁止生物武器。许多其他国家随后也在这个公约上签了字。

我们现在知道,苏联曾广泛地违反1972 年的生物武器公约,继续开发新的武器,扩大生物武器库,直到它在1991 年解体。苏联解体后,俄罗斯宣布它将遵守公约,并宣布原苏联的生物武器计划终于被停了下来。但是许多原苏联的研究与生产中心还是秘密地隐藏在高墙后面,俄罗斯也从来没有向世人提供过令人信服的证据,证明它没有在继续实施生物武器计划。很可能俄罗斯和其他一些国家还存在生物武器库。但是,1972 年的公约还在生效,大多数国家都已在上面签了字。就算这个公约是无法核实的,就算它会遭到破坏,但是有这样一个公约要比没有它好太多了。要是没有这样一个公约,每次在世界的任何地方发现生物武器计划时,我们就没有进行控诉或采取预防措施的法律基础。有了这个公约,生物武器的危险并没有完全消除,但是明显减小了。还有,广大的生物学家尤其是梅塞尔森,是值得受到称赞的,因为他们在一个国家政治和国际敌对的真实世界中让这一切变成了现实。

我对比尔• 乔伊的答复的最后一部分,是关于如何补救我们双方都承认其存在的危险。比尔说:“要国际化对知识的控制”、“对于那些被认为极度危险、最好永远不要出现的知识……应该彻底放弃对它们的追求”。比尔赞成由国际或国家权威机构对科学研究进行审查。我反对这种审查。人们经常说,现代生物技术的危险是空前的,因为将一种新的生物活体释放出来,所造成的后果可能是不可逆转的。我觉得,我们可以找到一个很好的历史类比,当时政府也在努力防卫一种同样不可逆转的危险。


359 年前,诗人约翰·弥尔顿(John Milton)向英国议会作了一个题为《论出版自由》(Areopagitica) 的演讲。他为不受审查的印刷进行辩护。我的意思是,17世纪对败坏人心的书籍造成道德沦丧的担心,跟21 世纪对致病的微生物造成身体感染的担心,具有可类比性。两种担心既非空穴来风,也非不合情理。在弥尔顿写作那篇文章的1644年,英国正陷入漫长而血腥的内战中,重挫德国的“三十年战争”还有四年要打。这些17世纪的战争都是宗教战争,教义的差别在其中发挥了重要作用。在那个世纪,书籍不仅会腐蚀灵魂,还会让身体遭到戕害。英国国会理直气壮地认为,让书籍自由地在世上流通的做法,既具有潜在的致命性,又具有不可逆转性。弥尔顿认为,虽然如此,但是必须接受这类风险。我相信,他的消息对我们这个时代可能仍然有价值,只需将他文中的“书籍”一词替换成“实验”就可以了。弥尔顿是这样说的:

我不否认,教会和英联邦最关注的事情,是对书籍如何让自己和人变下贱保持警惕;然后像对待罪犯那样,对它们进行扣押、囚禁,并施以最严厉的法律制裁……我知道,它们像传说中的龙牙一样充满活力,一样多产;一旦被撒播出去,就有可能从中迅速长出带甲武士。

弥尔顿演讲中一个重要的字眼是“然后”。除非书籍已造成某种伤害,否则不应该对它们进行定罪和扣押。弥尔顿反对的是出版前的审查,亦即书籍尚未见天日就被禁。接着,弥尔顿触及了问题的核心,即对“善恶未定且同时具有行善和作恶可能性的事物”进行管制存在困难。

纵然我们可以用这种方式祛除罪恶;你会看到,我们以这种方式祛除多少罪恶,就同样会祛除多少美德——因为二者实际上是一体的;将一个祛除,就同时将两个一起祛除了。

这也符合上帝的旨意,他虽然告诫我们要节制、要公正、要克己,但又在我们面前堆满各种合意之物,并赐予我们可以无边无际、不知餍足地遨游的思想。被允许自由出版的书籍,既是对我们美德的考验,也是对真理的操练;我们为何要剥夺或克扣这些恩赐,故意做出违抗上帝和自然律的样子?最好能明白,用法律去限制善恶未定且同时具有行善和作恶可能性的事物,必定是轻率的。


我最后引述的这一段,表达了弥尔顿对17 世纪英国的文化活力表现出来的爱国主义自豪感;21 世纪的美国人有充足的理由与他分享这份自豪:

英国议会上、下议院的议员们,想想你们所属的、所管辖的是怎样一个国家:这不是一个迟钝的国度,她的子民机智灵巧、思想犀利、敏于发明、谈吐精妙而有力,跟人类能力所能达到的最高极限相比也不遑多让……庄重而节俭的特兰西瓦尼亚人(Transylvanian)每年都会从远在俄罗斯边界的山区、海西旷野(Hercynian wilderness)之外,差派老成持重的成年人而不是初出茅庐的年轻人,来学习我们的语言和神学知识——这不是毫无来由的。

也许,在我们处理如何协调个人自由与大众安全这个历史悠久的问题时,三百多年前就去世了的这位大诗人的智慧,不管怎样还是可能有帮助的。

我们的辩论到此结束。没有进行投票以决定谁胜谁负。这场辩论的目的不是要决出胜负,而是启迪民智。比尔·乔伊和我依然是朋友。

本文由澎湃新闻经授权摘自《反叛的科学家》(戴森著,浙江大学出版社,2013年出版)。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|汉山网    

GMT-5, 2024-2-22 07:19 , Processed in 0.064397 second(s), 23 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表