吴惠林：AI于人是福是祸？

【人民报消息】关于AI（人工智慧）的讨论愈来愈热，发展AI产业各国都不落人后，希望能一马当先。不过，虽然不得不费心费力研究发展AI，但对AI于人是祸害的忧心却也愈见高涨。 巴菲特害怕AI精灵 5月4日，美国传奇投资人巴菲特在股东大会上，就对AI的潜在危害发出严厉警告，他将AI的潜力与核武器联系起来，他说：「当我们开发核武器时，我们让一个精灵从瓶子里跑了出来。那个精灵最近在做一些可怕的事情，而这个精灵的力量让我非常害怕。我不知道如何将精灵放回瓶子，AI也有些类似。」他也提到利用AI进行诈骗的潜力，并警告说，AI诈骗可能成为一个大的「增长行业」。他指出，AI技术能够复制逼真和误导性的内容，试图让金钱流入坏人手中，诈骗者会利用AI语音复制和深度伪造技术来操纵视频和图像，冒充某个人的家人和朋友索要钱财或个人信息。巴菲特举例说，诈骗者复制某人女儿的图像，并假借这种关系告诉此人，这是你的女儿，刚刚出了车祸，需要5万美元的电汇。他进一步提到AI的深度伪造技术说，他看到过有人使用他的肖像，但「传递的信息绝不是来自我」。几乎在同时，奥地利外交部长查伦伯（Alexander Schallenberg）也在一场「自主武器系统会议」上，说「AI是我们这一代的奥本海默时刻。」指的是，当年美国物理学家奥本海默（J. Robert Oppenheimer）成功发明原子弹，为美国和同盟国带来二战胜利，被称为「原子弹之父」。不过，奥本海默目睹原子弹给日本带来的灾难，以及对地球带来不可磨灭的伤痕，让他思考自己帮助发展原子弹的决定是否正确。沙伦伯格表示，「人类正走在历史的十字路口，自主武器将布满整个世界的战场上。目前无人机、AI相关的机器正布满整个战场，而我们也面临著法律、道德和安全上的问题。」他说，现在全球急迫地需要在AI领域上做出一致认同的国际规则和规范，以防止AI因错误和极端的偏见出现失控的行为，导致人类灭绝和大量死亡。人们需要确保（武器）是由人类来掌控，而非AI。日本电脑工程师清原仁（Kiyoharajin）对于沙伦伯格的话表示赞同，但强调，「遵守道德才是保证人类不会走向自我毁灭的唯一途径，若道德跟不上武器或科技的发展，就容易使人们迷失，从而忽略安全意识。」 「杀手机器人」是继火药、核武之后第三波「战争革命」 其实，早在2016年8月21日，美国、丹麦、加拿大和法国等26国人工智慧（AI）及机器人企业的专家和领袖，就发表连署公开信，警告「杀手机器人」等AI自主武器将继火药、核武之后，带来第3波「战争革命」，要求联合国全面禁止发展。而几乎在同时，北韩又发射飞弹直捣关岛，更进而试爆氢弹引爆6.3强震，这正呼应这封连署信所忧虑的「战争革命」。我们知道，诺贝尔在19世纪发明火药，结果被用来作为杀人武器，并且让战争更为残酷，死伤者更众，毁灭性更高。诺贝尔被论定为凭发现新杀人方式以致富的「死亡贩子」，他为了赎罪乃在遗嘱设立「诺贝尔奖」，希望激励物理、化学、医学科学的改善、发现和发明，并激发文学的创作和对人类和平的努力，目的就在造福人群。不过，人类的科学此后果真快速进展，科技也飞跃猛进，人的生活固然更为便利，但核能、原子弹的出现，却也让战争更残酷，而「第2波战争革命」的核武竞赛、核能的伤害历历在目。如今人工智慧的狂热，其将带来的风暴连这些高科技顶尖专家都提心吊胆，而毁灭和末世的恐慌又再升高，于是「科技发展」真是进步的表征吗？科技带给人类是福或是祸？的疑惑又浮上世人心头。美国电动车大厂特斯拉（Tesla）执行长马斯克（Elon Musk）近十年前就说，AI在太阳能、电动车和太空探索等方面的进展保持乐观，但AI武器将是人类生存的最大威胁。他认为，虽然各界普遍了解该种武器毁灭力量强大，但少有人正视其威胁早已迫在眉睫，「数年内就可能达成实际部署和应用」。 回归传统找回伦理道德 进一步说，现代科技的进步提高物质享受，是否会腐化人心？尤其金钱游戏出现以后，求利的欲望更加速人心的腐化。再加上电脑的威力，让人际之间的来往、交流，已被资讯网路替代，人与人的直接交流愈见淡薄，「善的人性」也愈见消蚀。在人心、道德沈沦下，科技愈进步，其祸害愈大，也凸显现代人是不配使用高科技的，是会玩火自焚的，难怪连高科技专家都要出面呼吁禁止。只是，不往人心回升、寻回传统的伦理道德上落力，是禁止不了的！所以，正如上文所引日本电脑工程师清原仁近日所强调的，「遵守道德才是保证人类不会走向自我毁灭的唯一途径，若道德跟不上武器或科技的发展，就容易使人们迷失，从而忽略安全意识。」那么，人类啊！就让我们努力返本归真，寻回传统的伦理道德吧！△（转自大纪元）

反馈信箱：[email protected]
Copyright© RMB Public Foundation Inc. All Rights Reserved