机器人两次“出逃”,营口螺旋风管还能信赖人工智能吗?
如果人工智能真的在未来进化,甚至针对人类,那么有一个自由追逐的"先锋",谁可能不会忘记机器人Promobot,这是由俄罗斯总统弗拉基米尔·普京,是一个净红色和接受俄罗斯采访弗拉基米尔·普京总统2016 年 6 月,具有自主学习算法的 Promobot 机器人在工程师忘记关闭安全门,从实验室跑到前方约 50 米处的街道上时,在没有电的情况下在路上停下,导致瘫痪。一周后,被抓获的Promobot在未能更新定位系统后再次逃脱。人工智能应用于工业的新风险是什么?您如何尽量减少这些风险,以确保它们"值得信赖"?近年来,张进看到了人工智能对传统产业的扶持作用,他认为人工智能是第四次工业革命的最大推动力,国家政策也可以支持。自2017年7月国务院发布《新一代人工智能发展规划》以来,中国政府发布了人工智能政策文件,人工智能在政府工作报告。"从这个计划中,我们可以看到,国家最关心的是人工智能在基础产业的落地。他说。对于企业,张进提到,基础行业企业拥抱人工智能是必然趋势,"不交社保,不交加班费,不轻易出现工伤,24小时轴心,哪个企业不会想吗?他说,当人工智能取代传统的人类精液时,公司真正释放的是管理成本,这将带来巨大的"缩减效率"。但与此同时,新的风险是不可避免的。
机器人两次“出逃”,营口螺旋风管还能信赖人工智能吗?
"机器人不会因为员工的错误和疏忽而受到人控制的行为,这是新的风险之一,"张先生表示,并补充说,新风险来自新技术。在他看来,工业世界中的人工智能技术分为机器视觉(使用机器而不是人眼进行测量和判断)、机器听觉(使用机器而不是人的耳朵进行测量和判断),机器行为(机器人依靠规划功能来制定行动步骤和行动序列)和智能自主决策(例如使用 AI 系统跟踪员工效率)。目前主要风险集中在前两个,以图像和声音为目标。这意味着攻击者可以使用对抗性图像或声音来欺骗机器的学习模型发出异常指令并误导后续判断。如何将这些风险降至最低?欧盟正试图给出一个答案。今年4月,欧盟人工智能问题高级别专家小组(ICI)发布了《人工智能伦理规范》(AI),他们希望为人工智能的未来制定指导方针。融入社会。报告提出了实现可信(可信赖的)人工智能的框架,其中包括七个要素:人员流动和监督、稳健性和安全性、隐私和数据管理、透明度、不歧视和公平、社会环境福祉和问责制。"人的行动和监督"的最重要要素之一指出,人工智能系统应该通过支持人类的主动性和基本权利来实现一个公平的社会,而不是减少、限制或错误地引导人类自治。
机器人两次“出逃”,营口螺旋风管还能信赖人工智能吗?