“最近ChatGPT成为热点，AI发展和大数据分不开的，大数据可持续高质量发展又和AI风险控制紧密相关。”在5月26日的数据安全产业高质量发展高端对话上，启明星辰信息技术集团股份有限公司董事长兼首席执行官严望佳说到。
严望佳现场展示了在ChatGPT帮她撰写的演讲提纲，ChatGPT认为人工智能和大数据结合之后数据风险有几类，比如数据泄密、AI诈骗、算法不公正尤其不可解释性，还有责任追究性等。
严望佳分析，从技术攻击角度，ChatGPT的风险首先是数据泄露，二是逃逸攻击，三是提取攻击，四是推理攻击。ChatGPT也可能带来其他的安全风险，包括数据隐私、透明度不可解释性等等。
如何更好控制AI的发展？严望佳提出，首先我们要有一些制动器，而且这个制动器的模型要有足够的算力。再者希望各部门从战略、技术和政策方面进行完善、结合，各方面跟上技术发展脚步，才能控制这些风险。
严望佳认为，ChatGPT现在最大的突破是解决了自然语言，很多方面接近人，甚至超越了人。但在超越语言方面，它可能没办法解决和突破，比如孟子提到的“四心”，这是人之所以为人必备的品质，是语言背后难以言说的内容，它没有具备。所以，除了脑，我们身心怎样形成自己的价值体系和AI共生，这可能是未来聚焦的问题。未来人工智能要回到人文上来，人和机器才能在AI时代保持和谐关系。
记者 龙银圆
