7dbf
泉源:中国新闻网 中新网福州4月30日电 (记者 刘育英)奇安信集团董事长齐向东在第八届数字中国建设峰会时代接受媒体采访体现,层出不穷的新兴场景,充分展现出人工智能大模子带来的无限生产力、创立力。但新手艺是把双刃剑,大模子应用在带来机缘的同时,也面临三重挑战。 一是“小数据”清静问题。古板大数据保存碎片化、质量狼籍不齐等问题,而大模子需要经由加工处置惩罚的“英华小数据”。一旦英华小数据被窃取、泄露或改动,企业焦点竞争力将受损。 二是大模子“裸奔”危害。大模子深度融入要害领域,如智慧都会、工控系统、智慧政务等,危害串联成网。奇安信监测发明,大宗Ollama大模子效劳器“裸奔”,保存被攻击导致营业中止的危害。 三是AI决议失准危害。对AI的太过依赖可能导致善恶真伪难辨,黑客可通过误差使用、数据投毒等方法滋扰大模子决议。内部员工更新知识库时引入过失信息,也会污染模子学习情形,导致过失结论。 齐向东以为,筑牢AI清静底线,要掌握住五个要害:构建大模子清静“红域”形成多维度界线隔离;权限强管控,以用户身份为新界线开展网络和数据清静防护;严把内容关,构建贯串大模子全生命周期的内容清静治理机制;以实战为导向增强盛模子应用清静评估;运营可闭环,做到对清静威胁的实时监测和应急处置惩罚。(完)