#长文创作激励计划#

7月7日,武汉网友拍到百度自动驾驶出行平台“萝卜快跑”出租车在街上与老太太发生碰撞,导致老太太躺在车前呻吟。交警到达现场紧急处理事故,但整条街道已经拥堵。

另外,很多市民反映,在无人出租车的运行过程中,多次出现绿灯停滞,转弯卡顿等待问题,很容易导致交通瘫痪。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第1张

萝卜快跑的安全性也因此引起了社会各界的广泛质疑:日常生活中还是有频繁的事故,如果被黑客控制去执行谋杀,谁来保证乘客的安全?

清华大学杨殿阁教授提出了一个更深层次的问题:目前,国际形势复杂多变,地缘战争即将爆发。如果自动驾驶车辆被敌人控制,它将成为一种刺激社会的武器,甚至可以让一个城市瘫痪,而不需要任何努力。过度AI化,到底值得推广吗?

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第2张

未来无人出行服务

在21世纪的大部分时间里,汽车的发展理念仍然停留在基础硬件的更换、更高效的发动机、更完整的安全功能和更豪华的配置上,但核心原理仍然需要人工控制速度方向。

直到在完全揭开无人出行服务大幕之前,北京在2021年率先在国内开放自动驾驶无人化道路测试商业化试点。到目前为止,国内最亮眼的表现无疑是百度萝卜快跑。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第3张

今年五月,百度一次性向武汉投放400辆无人出租车,覆盖12个行政区域,辐射面积3000平方米。只需4元到16元10公里。低廉的价格迅速抢占了武汉的旅游市场,以干净整洁的乘坐环境赢得了公众的一致认可。截至目前,武汉市民对萝卜快跑的满意度为4.9分,五星好评率高达94.19%。

虽然目前武汉无人出租车数量仅占市场总量的0.9%,日订单数量只有4000辆,但很多网上出租车司机对无人驾驶的未来趋势仍然感到强烈的危机感。

很多司机说:出租车市场竞争已经很激烈了。现在这24小时的无人驾驶一推出,萝卜跑就卖白菜价。我们可以直接把枪扔掉,完全没有活路。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第4张

皮萨里德斯曾经说过诺贝尔经济学奖得主:技术变革使就业带来结构性调整。而且历史也亲自证实了这一伟大真理,灯光的出现取代了煤油,使灯夫的职业消失,出租车兴起后,三轮车夫消失在历史舞台上,而且人类出行驾驶的下一个技术浪潮就是无人驾驶,这不会转移到某个群体的意志上。

在国家层面,我们大力支持智能网联汽车产业化,首先,五个部门联合发布了车路云一体化试点城市名单,随后武汉、北京等地方政府也积极响应号召,在智能路试基础设施开放无人驾驶车辆测试道路。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第5张

目前北京,上海,重庆,济南,武汉,广州,它们都被列入试点城市名单。7月4日,上海正式发布智能联网汽车应用许可证、百度、上汽、小马智行、Auto。 X安途四家企业率先获得许可,目前各车企都集中在前期准备工作上。

至于人们担心的操作安全问题,至少在百度萝卜跑车中,确实发生了一些意外。然而,百度对自己的自动驾驶系统充满信心。截至2024年4月,百度自动驾驶系统累计测试里程超过1亿公里,在此期间,从未发生过重大伤亡事故。

为使乘客放心,百度甚至为每一辆车和每一位乘客投保了高达500万的保险。据统计,无人驾驶汽车的出险率仅为人工驾驶。1/14。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第6张

采用百度萝卜快跑感知 决策 控制分治法,利用传统的ruled-based算法,通过激光雷达、摄像头和毫米波雷达感知周围环境,然后在方案和远程安全员的实时监控下实现安全出行。工程院院士张亚勤说:客观上,无人驾驶的安全性比人类高出数倍。

那么,如果将无人驾驶的安全性能提升到国家战略水平,能否得到全面保障?战争来临时,无人驾驶车辆会被敌人黑客攻破,成为城市中移动的致命武器吗?

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第7张

终极安全无人驾驶

这样的场景出现在《速度与激情8》中:一个黑客入侵了多辆无人驾驶汽车,使其成为一辆任由摆布的僵尸汽车,实现了一对多的随意操纵效果。

这是否会发生在现实世界?在2015年的黑帽技术大会上,世界顶级白客Charliee 在众目睽睽之下,Miller在公共场合展示了对汽车的远程入侵。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第8张

2020年,一个鲜为人知的黑客花了不到五分钟就远程控制了一辆价值70多万元的特斯拉。同年9月,中国网络安全巨头奇安信一个汽车联网安全研究所,通过远程方式在线打开了一辆智能汽车的窗户和后视镜,最终成功地将汽车推上了道路。

信息安全它是汽车领域继主动安全、被动安全和功能安全之后面临的第四大安全问题。根据Upstream数据报告,整整2020年智能网联网网络恶意攻击事件280万余起,它不但对人身安全构成威胁,而且对国家公共安全构成威胁,是一个不容忽视的大问题。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第9张

2020年,中央网络信息办公室联合11部门发布了《智能汽车创新发展战略》,再三强调要保证。测绘地理信息,用户信息等待重要数据的安全性和可控性,并要求各大汽车公司加强数据安全管理。第二年,中央政府再次提出构建融合感知平台,协同发展智能网联车和现代数字城市,即捆绑在一起,更突出智能汽车安全的重要性。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第10张

汽车公司正在尽最大努力开发系统防御技术,完善系统中的安全漏洞。一些极其复杂的自动驾驶系统甚至会故意设计一些系统缺陷,让黑客主动入侵,通过钓鱼来提高自己系统的安全性。然而,黑客入侵是永无止境的,没有人能保证他们的智能驾驶系统是无可挑剔的。对于汽车公司来说,确保系统防御能力领先于黑客攻击技术,然后不断提高自身防御水平便可以提高自身防御水平

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第11张

现在中国政策层层加码,也让智能汽车安全市场开始崛起。奇安信首先成立了一个安全实验室,专注于智能联网车辆安全技术的研究,然后联合中电互联成立了中电车辆联盟,专注于5G。 车联网 为了构建真正意义上的国家智能网联车系统安全,安全,与国内多家车企直接合作。相信百度等一批互联网巨头在相关安全技术领域的安全性只强不弱。

虽然目前中国的智能网联汽车产业在就业、安全、战略等方面都受到了人们的质疑和争议。但是历史经验已经向我们证明,在促进社会进步的同时,科技创新必然会带来职业转型的挑战,完全把无人出租车看作是对基层人民的挑衅,当然是有偏见的观念,无人驾驶技术的兴起,是AI、科技前沿快速发展的必然结果,如大数据。

清华教授警告:警惕过度AI化,未来自动驾驶或将成为敌军武器  第12张

传统司机三五年内可能不会被机器取代,但从长远来看,AI确实是不可逆转的趋势。如果我们必须反抗哭泣和喊叫,那么我相信马夫的悲伤会在一百年前一百年前汽车出现时更加令人心碎。


参考资料:

报纸:未来是可以期待的|无人驾驶出租车:技术创新与社会挑战并行
21世纪财经报道:无人出租车:在争议漩涡中大规模运营
公众日报:无人驾驶临近,20个城市被列入试点,出租车司机会“下岗”吗?