安恒信息是乌镇峰会连续11年的网络安保单位，谈到大模型有可能被恶意篡改及如何应对时，该公司高级副总裁、研究院院长王欣表示：“正在研究和开发内容安全检测、AI防火墙等相关能力，以阻止恶意大模型的恶意行为。下一步，计划构建类似人工智能安全网关的设施，即使大模型有恶意想法，在实际执行时也能阻止其实施恶意动作，确保人工智能技术的安全、可信使用。”（记者：郭文培 视频剪辑：王中强）