本文目录导航：
人类与人工智能如何相处？
在回复《人工智能具有思维和自我意识吗？（）》中，提到了在AI的助力下，机器人完成了对人类的外形及基本功能的模仿，并预计在未来十年内可能会出现具有自我意识的机器人。
那么在面对拥有自我意识的机器人，人类该如何与之相处？又该遵从哪些伦理道德？ 从机器人被造出来的那一刻，机器人和人类的关系就从未停止过讨论。
上世纪五十年代，著名科幻大师艾萨克•阿西莫夫（Isaac Asimov）在为其科幻小说《我，机器人》所写的《引言》中提到了后来著名的“机器人学三大法则”： 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观； 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外； 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
虽然机器人学三大法则并没有实际应用在现实机器人工业领域当中，但却在阿西莫夫小说中大放异彩，并影响了很多科幻小说的作者，还受到了许多AI和机器人领域的技术专家的认同。
2005年根据阿西莫夫同名小说改编的电影《我，机器人》（I, Robot）上映，该影片讲述了在人与机器人和谐相处的2035年，警察Del Spooner（德尔·斯普纳）受命调查Dr. Alfred Lanning（阿尔弗莱德·蓝宁博士）自杀案时，与智能机器人Sonny（桑尼）合作揪出了幕后凶手——NS大楼的主控电脑Wiki（维基）。
电影里的Wiki虽然产生了自我意识，但受限于机器人学三大法则，它无法直接伤害人类。
于是它便修改了NS-5机器人的程序，从而导致整个世界的NS-5机器人叛变并意图控制人类，由此掀开了一场制造者与被制造者之间的战争序幕。
机器人由人类创造，人类用AI赋予机器人灵魂。
所以，人类在思考该如何与机器人相处的时候，其实也是在思考该如何与AI相处；人类在恐惧机器人有可能取代人类的统治地位的时候，其实也是在恐惧AI有可能会取代人类的统治地位；人类在讨论机器人的伦理道德的时候，其实也是在讨论AI的伦理道德。
随着AI技术向电影里想象的那样发展， 社会 也开始广泛关注AI所带来的伦理道德问题。
微软公司总裁史密斯曾公开表示，“杀手机器人”的出现在未来将无法避免，人类 社会 应该有一个新的“数字《日内瓦公约》”也就是一套道德标准来约束与引导AI的发展。
AI不可能凭空产生，AI伦理道德也不可能凭空出现。
所以为避免类似《我，机器人》电影中的情节出现在现实生活当中，人类在发展AI技术的同时，也在不断探讨和完善AI伦理道德，比如世界电气电子工程师学会IEEE全球人工智能与伦理倡议，比如阿西洛马人工智能23条伦理原则等等，其目的都是使AI在不同的条件下能够做出符合人类伦理的决策。
AI是人类手中的一把双刃剑，如果能够得到正确的应用，那将会极大的提高生产力改善人类生活环境，如阿斯利康利用AI赋能药品研发，加快药品上新速度；特斯拉利用AI赋能 汽车 驾驶，帮助用户操控 汽车 ；小i机器人利用AI赋能客服行业，替企业减少用工成本…… 相反则也有可能颠覆人类生活并带来伦理层面的挑战，如ZAO推出的“AI换脸APP”让用户在体验换脸的刺激时，不自觉侵犯他人肖像权；如Deep Nude 推出的 “一键脱衣”软件可以自动“脱掉”照片中人物身上的衣服，使部分人成为该技术的受害者；如某些APP悄悄收集用户信息分析用户情况，以此来给用户推送他可能感兴趣的资讯或商品等…… 目前，对于AI伦理道德主要聚焦在算法歧视（指算法开发设计者有可能会将自身价值判断嵌入算法系统）、数据隐私（指滥用个人信息、制造导向等问题）、安全与责任（如何保证数据不被串改，以及发生事故后如何判责等问题）、机器人与人的关系（机器人是否会对人进行反控制及如何界定机器人与人之间的关系）及 科技 贫困（AI取代人工会是否会造成贫富差距扩大化）等五大领域。
对此，欧盟委员会在2019年发布了一份人工智能道德准则，提出了实现可信赖AI的七个要素，并要求不得使用公民个人资料做出伤害或歧视他们的行为；同年，美国总统特朗普签署了一项名为“维护美国人工智能领导地位”的行政命令，该行政命令以五项原则为指导，维持和加强美国在AI研发和部署方面的科学、技术和经济领导地位；而中国国家新一代人工智能治理专业委员会也在同年发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了AI治理的框架和行动指南，并强调发展负责任的人工智能。
除了部分国家有所作为外，不少 科技 公司和行业协会也有所行动。
如微软成立了人工智能伦理道德委员会，负责对每一款AI产品的道德伦理风险进行评估；如亚马逊、微软、谷歌等全球百余家 科技 公司创建了人工智能合作组织（Partnership on AI），提出了公平、没有伤害、公开透明以及问责等伦理道德框架；比如IEEE在《人工智能设计的伦理准则》中提出了人权、福祉、问责与透明的伦理标准…… AI由人类创造，由人类推动，并为人类所用。
在这个AI高速发展的时代，AI将如小i机器人创始人兼CEO袁辉博士所预期的那样——人工智能将无处不在，就像空气和水一样。
（上图：小i机器人创始人兼CEO袁辉博士） 在AI大范围应用的同时，也将会导致部分人失业。
但回顾过去， 科技 革命在消灭很多职业的同时，也会产生新职业，比如 汽车 取代马车，马车夫消失，但出现了司机。
AI会取代一部分岗位和职业，但也会有新的工作岗位因此诞生。
为了应对扑面而来的AI浪潮，我们只有努力提高自身能力和认知水平（如培养分析理解和利用数据的能力，培养与机器沟通的能力等等），才能紧跟时代步伐。
将在回复《AI（人工智能）到底是什么？（） 》中，再接着详谈介绍一些AI的基础底层技术（如算法、自然语言处理等），以便大家对AI有更进一步的全面了解。
最后，再顺便打个小广告，“陈思进 财经 漫画”系列第一部《漫画生活中的 财经 》新鲜出炉，谢谢关注！ 你对这个问题有什么更好的意见吗？欢迎在下方留言讨论！ 这是一个很大问题。
前几天，沙特授以机器人索菲亚为沙特公民身份，这是个里程碑事件，已将机器人提升到与人平等的关系。
当然，这还是弱人工智能时代，大部分机器人都是通过人的程序，人训练的交互模式运行的，机器人还是人类可控的机器。
未来，人类进入强人工智能时代，机器人有意识、有 情感 ，在智能活动上甚至远超于人类。
如何处理人类与智能机器人的关系，令很多科学家和 科技 大佬头疼。
这是需要从法律和道德伦理等方面重构人与智能机器人的关系。
毫无疑问，建立一种基于人类的可控的人机协作伙伴关系是最理想的，但也要严密预防机器人不当的利用给对人类带来灾难。
人工智能与人类应当是从属关系，人工智能只能从事辅助类工作，而并不能跟人类平起平坐。
比如你可以给一家公司让它帮你管理，但这家公司永远不可能是属于它的。
简单的说，它并不能拥有专属于人类的基本权力。
因为如果一个人工智能如果权力与人类相当甚至超过人类，那对人类来说将是非常危险的。
因为在它们看来，机器生命也许比自然生命更为有效，因而可能会引起对人类的捕杀。
所以，人类对人工智能的开发应当保持克制，在没有能力完全控制住它时，不能让它的智能无限提高。
更不能让它拥有人类的自我意识，要不然，它成佛便罢，要是自带魔性，人类末日就到了。
。
。
哪些科学技术一旦发明成功，将会轰动整个地球？
人类 社会 发展至今，我们越来越清楚地意识到，科学技术是第一生产力，科学技术对于人类 社会 的推动作用毋庸置疑，而在当前，某些科学技术，一旦取得突破，将会引起全世界轰动。
目前，急需取得突破的技术有可控核聚变、光速飞行技术、常温超导技术，无论哪一项取得重大突破，或者说是取得成功，都将会引起全世界范围内的巨大轰动，而这些技术，对于人类 社会 的发展具有极其重要的作用，段时间来看，此上任何一项技术，都是极其难以突破的。
可控核聚变技术。
可控核聚变技术的概念已经被提出了几十年了，而之所以一直以来都无法取得突破，是因为可控核聚变的条件实在是太过于苛刻了。
我们知道太阳就是利用核聚变发热的，而太阳的核聚变，是无法控制的，它是自发进行的，太阳内部的温度高达1500万摄氏度，3000亿个大气压，而人类目前无法制造这么大的大气压，所以只能通过提高温度。
而这个温度至少是1亿摄氏度，但是温度提上来了，另外一个问题又来了，那就是地球上无法制造出能够承受如此高温度的容器，所以科学家想出了磁约束的方法。
目前已经可以做到约束高温等离子体，但是还没有办法让它稳定运行太长的时间，所以想要实现可控核聚变还有很长的路要走。
而一旦此技术成功，那么人类就不会再有能源危机。
光速飞行技术。
人类一直以来都想飞出银河系，飞到广阔的宇宙，但是鉴于我们的飞行器速度实在是太慢，以人类的寿命，实在是等不了那么长的时间。
而唯一的方法就是制造光速飞行器，光速飞行器意味着需要巨大的能量供应，而核聚变的功率恐怕也是不够的，曲率引擎倒是一个可行的思路。
不过人类对这方面的认知实在是太过于有限了，未来人类除了寄希望于光速飞行器之外，还可以试着寻找虫洞。
人造子宫这项技术，一但发明成功并且普及，对人类的影响非常大，远的不说，就目前中国 社会 情况，可以大大增加生育率，还可以减少男性压力，不用费劲心思讨好女朋友，也不用为了结婚承担高昂的彩礼以及房车存款，一但发明成功，现代女性的作用与价值至少减少三分之二。
整个 社会 将不那么需要女人了，女人高高在上的地位将彻底终结 自第二次物理学大奇迹年已经过去一百多年了，基础科学基本上没有什么特别的发展，但是技术已经达到了某个临界点， 人类文明能够跌跌撞撞到达目前这个状况殊为不易，未来应该以星际穿越为目标，这也就是我认为的，将会轰动整个地球的 科技 。
1963年，苏联科学家卡尔达肖夫提出了三个文明等级的提法，他认为可以从能量尺度和空间活动范围来判断。
一级文明是指能够开发和利用所处星球的全部能源，记住是全部。
对于人类来说，包括地球表面，海洋中和地球内部的资源和能源。
二级文明指能够开发和利用所处恒星系的全部能源，拿太阳系来举例，当人类可以完全利用太阳和其它天体能源的时候，人类文明也就进入了二级文明。
三级文明就是宇宙中金字塔顶端的高级文明了，是指能够开发利用所在整个大星系的全部，以人类为例，是指能够利用银河系内的所有资源，可以到达银河系的任意一个角落。
以这种标准来判断，人类文明现在的等级大概是0.73级，离一级文明还有不小的距离。
如果以此为标准和方向，那么能够轰动地球的 科技 可以从当前最前沿的三大 科技 领域分别是生命科学、量子力学和人工智能说起。
首当其冲应该发展的是 量子力学 。
因为它的发展意味着基础科学的进步。
其实大家都能感觉到，自1666年牛顿第一个物理学大奇迹年和1905年爱因斯坦的第二次大奇迹年之后，时隔一百多年，基础科学基本上没有什么进展，就如同《三体》中基础物理学仿佛被锁死了一样，到现在为止我们也没有能突破相对论的局限，依旧在三维空间里面打转转，而一旦实现如两大物理学大奇迹年那样的突破性进展，将会带动整个人类文明进入到一个新的时代，而希望就在相对论与量子力学的大统一理论上，也就是我们经常说的四种基本作用力的大一统。
当然，即便是量子力学的发展阶段，我们也已经看到了量子计算机的曙光，正如70多年前第一台电子计算机诞生后给人类 科技 带来的革命性影响一样，今天的计算机，通过操纵存在于两种状态之一即0和1来工作，而量子计算机不限于两种状态；它们将信息编码为量子比特，它们可以叠加存在，量子点代表原子、离子、光子或电子以及它们各自的控制设备，它们一起工作以充当计算机的存储器和处理器。
由于二进制的O和1都处于叠加态，意味着普通计算机计算一次，量子计算机就可以实现2的N次方次计算（N取决于量子态，例如一个500量子位的计算机，它每一步就可以实现多达2的500次方的运算）。
理论上，普通的量子计算机就比当今最强大的超级计算机强大数万倍。
为什么量子力学、量子计算机如此重要，那是因为人工智能的基础就是算法、算力和数据，无论是大量数据的处理，算法的应用以及算力的提升，都需要当前的计算机性能百尺竿头更进一步，更快更强，可惜由于摩尔定律遭遇了电路板过热这个大问题，不得不靠提升体积（超级计算机）和连接能力来提升，但终究只是物理层面的提升，而达不到指数级的质变。
当然，量子力学还有一个方向也很重要，那就是高维空间理论，其指向通过时空弯曲所造成的虫洞实现远距离航行，根据质能方程，想要打开这样的空间需要巨大的能量，这个我在最后还会说。
当算力得到保证之后，需要发展的就是人工智能了，这里不讨论有可能对人类带来的危害，只谈其实际效果。
人工智能目前比较模糊的分为强人工智能和弱人工智能，让我们叹为观止的阿尔法狗就属于典型的第二代弱人工智能，这意味着2019年节点我们处于弱人工智能中等偏下的水平，离真正能推理（Reasoning）、解决问题（Problem_solving）有知觉的，有自我意识的。
可以独立思考问题并制定解决问题的最优方案，有自己的价值观和世界观体系的智能机器还差十万八千里，而且目前也开始进入瓶颈期，但是量子计算机的成熟将会帮助人工智能突破奇点，无限接近强人工智能（我一直认为，介于弱人工智能与强人工智能的中间态最为安全）。
发展人工智能的意义不用我多说，它可以最大程度的解放人类的双手双脚，而且效率比人工强的太多，不但极大地解放了生产力，也让人类开启“思维生物”的演化进程。
当量子力学和人工智能都有了起色，那么人类离永生也就不远了。
（这里没有明确的先后，正常情况下三大领域应该是同步发展，相互促进的） 无论是通过3D生物打印进行坏死器官移植，还是通过脑机接口实现记忆移植克隆体，亦或是半硅基半碳基生命结合来实现永生，在量子力学和人工智能的加持下，都不难实现。
（实际上现在脑机接口就有突破的迹象）。
好了，我们还差最后一步，实现了这一步，我们的文明基本上就可以进行星际殖民了。
事实证明，无论是核聚变还是核裂变，面对这个宏大的宇宙，哪怕是太阳系，核能也显得太过孱弱了，人类需要找到新的、更强大的能源来驱动飞船甚至打开虫洞，那么，新世纪发现的暗物质也许给了我们希望，当然，随着更多的粒子被发现，也许会有更强大的能源被我们驱动，但前提是量子力学，人工智能的大发展。
哦，对了，最重要的前提是，人类还没有将自己毁灭！ 1，攻克癌症。
健康 永远是头等大事，要是治疗癌症简单到如感冒般吃几天药就好了，那么绝对是全人类的福音！ 2，心脑血管疾病、糖尿病、高血压、类风湿等慢性疾病被攻克，至少找到了可逆的、能痊愈的方法，绝对能让过半数的家庭看到重获新生的希望！ 3，后天环境或机械性创伤带来的残疾，可以完全修复，也就是传说中的“断肢重生”、“瞎子”重见光明、或者脱发再生等等。
把 健康 排头三位相信没有人会反对！ 4，智能机器人的自我学习及自我进化。
这我不多说了，估计真要实现，不仅仅只是全球轰动，更多的是恐惧！ 5，芯片与大脑的完美对接。
也就是传说中的“芯片植入”技术，真要实现，估计将重新定义什么是人类？比如按肉体和机械占比多少？或者按芯片类型划分人群！ 6，量子技术有突破性进展。
不是那种现处于实验室阶段的肉眼看不见微小粒子的纠缠，而是特指宏观物件，简单的说，真要实现，科幻片里的“时光传送机”、“瞬间传送门”将会让你感受到星际旅行不过就是眨眼的功夫，这比啥“超光速”飞行器快的多，关键是靠谱的多！ 7，发现外星生命。
请注意不是外星人哈，那同样不靠谱，真有外星人来地球，就冲他们达到的 科技 高度，能让你古老的地球蛮族发现他们的存在？别太天真了！但是人类能发现外星生命，哪怕只是在火星地壳深处发现某种真菌或藻类植物，绝对是划时代的事件！浩瀚宇宙，人类终于不再孤独！ 8，最后一个发明致敬一下袁隆平：要是人类能发明一种能快捷、大批量生产、口感多样且非常安全的食物，无需土地种植。
那么才是人类真正的福音！人类几千年的文明史其实就是土地的争夺与战争，要是无需土地一样可以繁衍下去，人类才可能避免战争与内耗，更重要的是：真正具备踏上冲出地球，遨游星海的资格。
基础科学其实早已经停滞两三百年了，现在所谓 科技 不过是建立在三百年前基础理论之上的应用罢了，突破太难！ 说得太远没用，就说跟大家日常生活息息相关的，现在的电池技术急待升级，谁能把下代石墨烯电池技术攻破，带来对比现在同体积5-10倍的电量储备，电动 汽车 续航轻松上1500公里，大大缓解了里程焦虑，手机可以一周一冲，所有用电池驱动或者现在还不能用电池但技术突破就可以打破规律的行业会带来怎样的变化，谁解决电池技术谁就可能问鼎世界首富宝座一点不夸张 从去年开始，德国蟑螂开始侵入我家。
我就开始了我的杀蟑运动。
最早我用的是传统的蟑螂药。
开始有用，三天之后，蟑螂又来了。
然后我去网络，查各种杀蟑办法。
然后一件一件的在我家实践。
用过的产品有： 蟑螂屋蟑螂诱饵喷雾蟑螂贴每一个品种，第一次使用，都很有效，一用就能杀死大批蟑螂。
但， 没过几天，蟑螂同志们又满血复活，在我家厨房频繁出现。
到现在，一年多了，我是一点办法都没有了。
我现在杀蟑办法是，直接用手拍死，把尸体拿去喂鱼。
如果真有一种技术能令全球轰动的，不用很高 科技 的，你真能有一种药，能杀死我家蟑螂，让它们不再出现，你肯定拿诺贝尔奖。
干掉重力：反重力推进装置 干掉死神：长生不老的技术 干掉距离：超光速及虫洞 掌握能量：恒星级能量的获取存储及释放 掌握时间：自由穿越1、基因改造 一旦成功，或许人人都将拥有超能力，变种人将会走出荧幕成为现实，到那时人类将拥有改变世界的能力，不知道这究竟是好事还是坏事这应该是目前人类最想解决的一大问题之一，埃博拉病毒在很多国家肆虐，无数人因此丧生，我国也多次派出救援队支援，如果能够发明出治愈这个疾病的抗体，必然会引起世界的极大重视。
杂交水稻可以说救了世界，但地球环境逐渐恶劣，全球变暖严重导致森林火灾以及地震频发，水灾泥石流冲垮了一个又一个农田，随着地球人口不断发展，或许在几十年后人类将面临粮食不够吃的严重问题，这个时候研发出一种农作物，小面积种植就可以收获大量的粮食，解决世界人类的吃饭问题。
作为人类目前无法解决的一大难治之病—癌症，致死率依旧非常高，一旦得了癌症就相当于一条腿已经跨进坟墓了，尤其是癌症晚期，即使手术也无法延长寿命。
如果癌症被攻克，变为可治愈之病，人类的平均寿命将会大大增加。
这应该是大多数人最期待的，穿越回过去回忆曾经的自己，穿越到未来看看以后的自己。
人类和机器人的组合体，既有人类的思维又有机器人一样坚不可摧的身体，例如不久前很火的人脑接口，计算机迅速运算大数据搜索、无论是奔跑还是跳跃能力都可以得到极大的提升疾病和意外无时无刻存在于我们身边，如果不小心出了一场车祸已经没有生还的可能性，这个时候直接提取电波思维，脑电波记载了死者生前的记忆和意识，放在计算机提前设好的虚拟世界中，即使肉体死亡，灵魂也不会消失。
答：常温超导体、可控核聚变、量子计算机、强人工智能、生命科学等等，这些科学技术一旦获得突破，将让人类文明实现飞跃。
在300年前，牛顿等人建立起来的经典力学，让人类文明实现了第一次飞跃；在上世纪，量子力学和相对论的出现，引导了第二次物理学奇迹。
如今过去了100多年，人类的基础物理学并没有太大的发展，但是科学技术有着巨大的进步。
其中有一些科学技术，人类还处于 探索 当中，一旦获得突破，将会影响整个人类的文明进程。
在1911年，科学家首次发现汞在4.2K时电阻消失，然后在更多的材料中发现了超导现象，经过100多年的发展，超导体的温度提高到了大约140K，并走向了应用，但是超导材料所需的超低温限制了应用范围。
于是常温超导体材料成了材料科学中的“圣杯”，一旦人类找到常温超导体，将会极大地促进人类各领域的发展，比如我们的电子设备可以做得更小更轻薄，所有的用电设备都将在效率上得到极大的提高，甚至出现悬浮建筑物、悬浮 汽车 等等。
人类目前的能源主要来自化石燃料，然而化石燃料在地球上的储量是有限的，能源问题将成为本世纪末人类的最大难题；虽然人类已经掌握了可控核裂变技术，但是裂变材料的稀缺与核废物的处理，决定了核裂变技术只是一个过渡方案。
而可控核聚变就不存在这样的问题，如果我们把一升海水中的氘、氚进行聚变，释放能量相当于300升汽油的热值，如果使用氦-3作为核聚变材料，那么将是理想的清洁能源；所以可控核聚变技术，将是一项极大促进人类文明发展的科学技术。
量子计算机的原理，科学家早在30年前就从理论上进行验证了，但是要实现起来却非常困难，目前科学计算机的发展遇到了瓶颈，人类要想实现更高的算力，传统计算机基本只能从规模上入手。
量子计算机的工作原理完全不同于传统计算机，量子计算机最神奇的地方就是可以实现分布式运算，比如传统计算机分解一个256位数需要上千年，而量子计算机只需要几秒钟，一旦量子计算机走出实验室，将会改变现有的世界格局。
人工智能人们并不陌生，但是我们现阶段接触到的所有人工智能，其实并非真正意义的人工智能，而是基于数据和算法的结果。
强人工智能指真正拥有自我意识的机器，并且能完成独立的推理和解决问题，但是人工智能是把双刃剑，可能给人类带来福音，也可能带来的是毁灭。
摩尔定律不灭，人工智能就能大发展吗？
人工智能发展的关键就是信息社会的定律摩尔定律，摩尔定律不灭，人工智能就能大发展。
人工智能能够发展到今天的地步，有三方面的原因，但是其中一个最最根本的信息社会的定律，就是摩尔定律，就是我们的计算能力，在过去的五六十年里面每过十八个月就翻一次倍，现在人工智能能不能走到下一个台阶，关键要看摩尔定理是不是能继续往前推进。
在人工智能领域里面，无人驾驶是一个很伟大的目标，但是大家在做无人驾驶的时候，还是在简单地模仿谷歌所创造的科技的路线，它需要一个高清的三维地图，又需要一个激光雷达。
我认为这是完全没有必要的，我们可以问一个简单的问题，因为人也可以开车，人开车的时候不需要高性的三维地图，人的脑子上也不会发出激光雷达。
在哪一天真正说明人工智能已经超过人了。
今天我给他们提出一个设想，怎么样衡量人工智能超过人。
因为大自然的世界是一个客观的世界，人类之所以今天有科技的发展，因为我们是发现了这些科学的定律，比如说爱因斯坦写下了1=MC2，爱因斯坦是一个人，哪一天机器能够写出一个全新的发现，能够正在人的前方。
人工智能给我们带来了很大的想象空间，人工智能作为一个新的智能物种的崛起跟新中国的崛起同步进行。
十分重要。
评论（0）