近日,由广东省数字安全协会(联盟)主办的“数安未来”技术大讲堂——政企共话大模型安全活动在广州举行。本次活动聚焦“人工智能大模型应用创新与安全发展”,汇聚了业内专家、学者与企业代表,共同探讨大模型应用落地的安全之道,助力政企智能化转型与产业升级。网御星云作为承办单位受邀参会。
全球人工智能技术快速发展,以大模型为代表的人工智能系统正加快推动政府转型和产业升级。会上,网御星云副总裁韩明畅深度解析了大模型安全发展范式升级与防护框架。他谈到,当前大模型安全领域正面临严峻挑战:一方面,老安全问题尚未得到根本解决,另一方面,新安全问题又层出不穷,双重压力下安全形势日益复杂。为此,政企用户应高度重视大语言模型在数据输入、模型训练、推理输出等不同要素和环节存在的风险,系统化提升整体安全能力,实现高质量发展与高水平安全的良性互动。
其中,MAF可在大模型应用的服务侧构建起覆盖全层次的防护墙,确保服务合规、可靠和正向;MASB在大模型应用的访问侧架构双向安全隧道,保护使用者的自身权益和利益;MAVAS在全局视角针对大模型应用的各环节进行全方位安全评估,促进体系更加坚韧健康。“MAF、MASB、MAVAS”以三维架构,形成了“事前预防-事中拦截-事后评估”的完整闭环,构建起“服务提供者、使用者、保障者”的立体安全格局。
【责任编辑:张伟】
暂无评论