人类历史上任何一场科技革命,都不同程度影响着人们生 产生活方式的改变,尤其是科学技术在战争领域的应用,更是 推动了世界格局的重塑。

人工智能(AI)技术的发展,同样昭示 人类下一场科技革命即将到来。

首先我们先来看看人工智能安全发展现状

(一)人工智能发展与安全在高速前进中相生相灭 在整个人工智能发展过程中,人工智能安全就是人工智能赖 以行驶的轨道。 目前人工智能整体处在竞争上升期,发展长远 规划、应用规模层次上缺少确切规范约束控制。

人类脑科学研究没有破解之前,人工智能控制权掌握在电脑 系统手里。 一些由于认识水平和制造能力带来的安全问题和 薄弱环节,就很容易降低安全防御能力引发严重后果。 比如,人工智能传感器可能被干扰;系统可能被劫持,数据的 泄露、篡改“污染”可能“教坏”智能机器人的学习认知;人工智 能软件漏洞可能被黑客利用。

(二)广泛的应用导致安全影响更深远

未来人工智能技术在国防和社会基础设施等关系国家安 全发展的关键领域上的运用值得关注。

1.人类伦理道德日益面临来自人机交互的挑战

人工智能高速发展越发强大政务机器人,已不能停留在机器三定律认识水平上,人工智能如何负面影响人的具体细节的内容并没有细化,而它潜在对人大脑思维学习进化和伦理道德带来巨大挑战 威胁日益剧增。

2.法律发展滞后难以对智能安全风险 虽然在短期内人工智能存在的安全风险还处于可控范围,随 着应用领域范围日益扩展,具有高度自主性的无人智能冲击传 统行业原则和法律框架,尤其是责任的认定更加困惑,以往法 律条款需要重新商榷和完善。

二、如何看待人工智能安全问题

(1)以牺牲长远利益来盲目追逐人工智能技术的发展和经济 效益,这种观点,具体的做法表现为把人工智能技术价值局限 于商品,不遵循事物本身成长规律不计资源代价失衡的去开发 ,去创造更高利益政务机器人,涸泽而渔,不注重人工智能自身健康,忽视 安全问题和其他事物之间的共生可持续发展。

(2)就是你提到的“人工智能威胁论”。 人工智能的快速发展终会替代人 类,即使有益于人类、替代以往反复低效能的应用也被认为不 可。 这种观点主要是对人工智能缺乏全面认识。 问题的关键 在于人工智能能否具备智力和能力,为人类服务,并健康存 在。

我认为,智能安全风险伴随人工智能客观存在。 有限的分层 次合理的开发,平衡人工智能发展和安全的矛盾,就可以防控 在危害人类生存利益最低范围之内。

三、人工智能安全的发展趋势 国家安全方面,“对国家安全带来深刻改变的颠覆性技术 ”,人工智能赋能,突破常规管控极难,滥用门槛进一步降低,容 易落入极端组织和犯罪团伙之手。 近年在政治选举中出现的 利用大数据和社交平台部署“机器水军”达成“选举”的行为 ,彰显出新的政治安全风险。

军事安全方面,一方面,越来越多的国家试图研发“智能化致 命性武器”,越来越容易获得这种超时距的“远程精确打击能力 ”机器人事件可能不再停留在科幻。

另一方面,个别国家或非国 家实体可能和商业公司共同开发工业机器人转化用于实战。社会安全方面,人工智能技术的创新使用不断突破现有法律 规范和道德伦理的限制,带来多维安全挑战。

一是智能机器对 传统人工的替代,直接给本来就存在就业压力的发达国家带来 社会风险。

二是物联网技术让大量个人隐私直接暴露给智能 设备。

三是人为编写的软件与算法,智能产品成为安全攻击新 的突破口。