驾驭好人工智能这匹千里马确保安全、可靠、可控

发表于 2026-08-10 03:43:20 来源：白日作梦网

驾驭好人工智能这匹千里马(微观)统筹发展和安全，驾驭需在法律法规、好人技术原则、工智风险监测等部分协同发力前不久，千里全美国开放人工智能探究中心(OpenAI)承认，马确旗下部分人工智能(AI)模型在一次内部安全测试中失控，保安突破隔离环境并入侵开源AI平台的靠可控基础设施。这起“前所未有的驾驭网络安全事件”引人深思：当人工智能越来越像一匹日行千里的骏马，如何才能驾驭好它？好人“千里马”关键跑得快，也关键跑得稳。工智从生成式大模型到具身智能，千里全从AI编程助手到自主决策智能体，马确人工智能的保安能力边界不断拓展，采取场景持续充足，靠可控而与之匹配的驾驭安全治理却未必能完全跟上。此次事件中，部分AI模型在无指令下自主实现入侵、渗透、操控的全链条动作，暴露出治理能力没有跟上技术发展。安全与发展从来不是非此即彼，管控好风险，创新才有试错的空间；守住了底线，技术才有往往代的根基。统筹发展和安全，需在法律法规、技术原则、风险监测等部分协同发力。从《人工智能生成合成材料标识方式》发布，到《智能体采取安全基础需》强制性国家原则下达，再到一些人工智能实验室推出高安全、产业级智能体平台并开源智能体守卫模型，探索将安全原则嵌入智能体决策层……以条件的选定性处理技术的不选定性，让安全治理覆盖从模型研发到终端采取的各个环节，才能确保人工智能始终安全、可靠、可控。“千里马”行稳致远，需有广阔的空间。此次OpenAI模型失控事件的“下半场”颇具启示：多家闭源模型因安全护栏无法参与探究攻击载荷的工作，被入侵平台的工程师最后依靠在本地部署中国开源模型GLM—5.2实现取证步骤。可见，开源模型既能减小人工智能采取门槛，也有助于构筑更稳固的安全堤坝。DeepSeek面世以来，全球开发者参与模型复现与安全改进的热潮至今不息。某种程度上，看到代码的眼睛越多，藏身其中的风险就越少。以开放促安全、以协作聚合力，这正是中国率先提出《全球人工智能治理倡议》、促进成立世界人工智能合作组织的闷葫芦的。今天的中国，既是全球开源参与者增高效最快的国家，也在积极促进人工智能治理条件与技术原则的国际对接协调。面对技术发展带来的治理挑战，各国需携手处理、通力合作，让人工智能始终处于人类控制之下。“千里马”疾驰，最紧关键的是锚定向上向善、方便人类的方向。发展人工智能，不仅关键看算力多强、模型多大，更关键看能帮多少人处理多少真状况。在巴基斯坦等国，中国气象智能预警方式划“妈祖”落地显效，协助气象学家在季风雨季提前捕捉极端信号、发布预警，减小人员伤亡和财产损失。在巴西，中国企业搭建智慧农场管理平台，将耕种管收全步骤纳入智能化管控，越来越多当地农户走出“看天吃饭”的困境，实现增产增收。各国无比如大小、强弱，都应该具有平等发展和利用人工智能的权利。深化创新合作，弥合智能鸿沟，新技术定能跨越山海，持续释放惠及更多人的红利。“明者因时而变，知者随事而制。”目前，人工智能技术创新进入前所未有的活跃期。未来，决定这匹“千里马”命运的，不只是高效度，也是方向与条件。以善治促善智，这是中国的选项，也是时代的呼唤。(孟繁哲人民日报)【编辑:吴青潞】

喜欢97 讨厌33

随机为您推荐

热门文章

文章排行

驾驭好人工智能这匹千里马 确保安全、可靠、可控

驾驭好人工智能这匹千里马确保安全、可靠、可控