手机背面附有一张卡，可以记录它并将其翻译成多种语言。只需击打空气即可发出美妙声音的传感器气鼓。只需拍照即可识别作物病虫害并精准开药的“AI作物医院”……人工智能（AI）不断与时代产生共鸣。技术演进与实际应用的结合展现了前所未有的发展可能性，也是人们思考未来趋势的机会。 “更好满足人民美好生活需要，努力推广人工智能计算机、人工智能手机、智能家居。”工业和信息化部部长李乐成5日在十四届全国人大四次会议第一次会议部长级频道上表示。技术创新仍在继续，但智能有何帮助？ Fr从今年政府活动报告明确提出“完善人工智能治理”，到两会内外围绕“人工智能+教育”、“人工智能+安全”的热议，“人工智能向善”成为今年两会全国科技领域的高频词。构建法治基础：为人工智能发展划清界限。去年10月中旬，很多茶友观看了一个视频。镜头中的老人自称活了108岁，品茶已有80多年。当他奉茶时，许多爱茶的人纷纷要茶。众所周知，视频中的老人就是张天福，一位一生弘扬茶科学的专家。他于2017年去世，他在公司的不当行为引起了很大争议，死者亲属也通过法律途径介入。 3月社交平台form宣布严厉打击利用人工智能冒充名人吸引虚假宣传的行为，对1200多个非法账户采取行动。这些案例都是人工智能技术快速发展引发的各类风险问题的典型。全国人大副委员长、海尔集团董事局主席周云杰认为，随着人工智能技术爆发式增长，安全、隐私和伦理问题日益突出，成为制约人工智能健康发展的主要障碍。目前，日本《网络安全法》、《数据安全法》和《个人信息保护法》均颁布了《人工智能技术伦理管理服务办法（试行）》等具体措施。然而，在降低风险的同时提高社会生产效率，才是夯实AI产业先发制人的必由之路优势，增强国际竞争力。 “人工智能正在合成虚假的名人音频和视频进行虚假宣传，严重侵犯人们的肖像权和荣誉权。”全国政协委员、中国地震局原党委书记闵毅仁在分组讨论中坦言，针对这种混乱局面，应及时完善政治法规和监督体系。周云杰认为，除了技术的滥用之外，还缺乏负责任的行动者。例如，在自动驾驶或医疗机器人等国际场景中，算法的安全容错率很低。如何界定开发者、采用者和用户之间的事故后责任仍然是法律和道德上的分歧。全国人大代表、中国科学院院士张伯礼工程院院士完全同意这一点。 “随着人工智能获得编写和修改自己程序的能力，它将带来不可预测的安全风险，”他说。张伯礼代表建议，加快推进国家层面人工智能综合立法。建立以相关法律为基础、与行业法规、技术标准和道德准则相互支持的制度体系。对于人工智能违法行为，加强流程追溯，尽快发布认定标准和赔偿明细，动员社会集体力量治理。科技赋能：筑牢人工智能安全防控防线人工智能风险的技术属性决定了科技创新将成为防控的核心。 “没有安全的创新就无法取得多大进展，也无法保持稳定。从针对网络的攻击来看“近两年大规模模型、代理、嵌入式智能等多种形式的人工智能不断涌现，提前为人工智能建立‘安全护栏’非常有必要。”全国政协委员、奇安信科技集团总裁齐向东表示，他带领的团队在人工智能安全防范方面取得了大模型防护、大模型安全护栏等创新成果，还探索构建了“端-网-云-机”一体化的防御体系。建议将安全特性融入到人工智能应用的全生命周期，实现合规红线更加清晰，统一安全主体责任，加强权限和内容控制，用人工智能来对抗，安全特性要始终走在安全风险前面。在很多地方都有涉及。在上海外滩举办的Deepfake攻防挑战赛，聚焦人工智能改变面貌的问题，汇聚了一批年轻的“AI打假”。在世界互联网大会举办的大型AI模型防御和攻击竞赛中，双向竞争模型允许“穷举漏洞发现”。在数据安全与保护问题上，全国政协委员、中国市场现实研究院院长曲庆超认为，在探索初期、产业尚未成熟时，不应过早封锁或限制某些技术路线，应鼓励企业进行差异化探索。但无论你做出什么决定，隐私、合规性和责任最终都是不可克服的。目前，我国已经有很多“用AI对抗AI”的成熟案例，形成了在金融风险管理、身份验证、内容认证三大领域形成技术闭环，持续推动行业标准完善和协同监管发展。围绕这一思路，齐向东特派员还提出，大力发展大规模安全模型和安全智能体，将专家稀有专业知识转化为可复制的数字化能力，实施7/24自动防护，利用人工智能构建全面的安全防御防线。培养素养：永远增强你的人工智能人才库。 “技术是把双刃剑，重要的是用它的人，是引导人民。我们科协部门可以和教育部门一起进行研究。”在北京会议中心，政协委员们就人工智能的使用和教学展开了激烈的争论。全国政协委员周鸿祎政协委员、360集团创始人塞多尔认为，人工智能本质上是人类智能的延伸，是工具而非主体。 “AI向善”是指在人类指导下，人工智能的整个设计、开发和应用过程始终坚持服务社会公共利益的方向，确保技术发展方向与人类福祉相一致。周鸿祎书记以视频制作为例，形象地阐释了人工智能与人类的关系。人工智能无非是创造者能力的“放大器”。创作者仍然控制着创造力和艺术表达，但人工智能帮助他们完成关键任务。将想法更快地转化为工作所需的技术工作量。当科技与人类智慧共同发挥作用时，人工智能不仅能提高生产效率，还能提高生产效率。它还不断扩大人类创造力的极限。要实现“AI永远”，系统地提高全民的AI安全知识是重要基础。全国人大副委员长、天津职业技术师范大学副校长王劲松表示，要从三个层面系统推动全民人工智能安全素养的提升。公职人员作为政策规划、执行和实施的核心参与者，需要有很强的人工智能安全意识和素养。除了为创新留出包容的试错空间外，我们还要能够准确识别并有效防范人工智能带来的各种风险。对于工程师来说，需要AI领域的专业人士积极运用技术，秉持“技术导向”的理念，让技术的研究、开发和应用始终为经济做出贡献。推动社会发展，沿着平衡技术发展与行业监管关系的良性轨道前进。对于普通大众来说，所有人工智能用户都应建立相应的安全知识，清楚了解个性化人工智能服务背后的数据隐私风险，强化隐私意识和自我保护能力。我们必须维护人工智能使用的安全。均衡发展：确保人工智能在正确的道路上释放核心价值。如今，脑机接口、具身智能、人工智能教育、人工智能手机等众多人工智能伟大应用正在落地，真正塑造人们的生活，带来欢乐的改变。人工智能的根本价值在于服务实体经济、改善人民生活福祉、推动社会进步。只有划定人工智能的边界，制定规则，引导技术在符合标准的情况下部署，在标准内创新，人工智能能否真正成为“十五五”高质量发展的新动力。如何平衡人工智能发展与安全的关系？全国人大副委员、招商局资本投资有限公司董事李银泉表示：“监管政策要平衡监管确定性和创新发展的关系。监管过于严格会对新技术的发展产生负面影响。有能力在人工智能技术上赶上国外的企业必须得到保护和支持。”齐向东总裁认为，“安全与创新是合二为一的翅膀，安全从来不是限制，而是助力新技术成熟的重要标志。”他以智能网联汽车为例。作为具身情报的重要形式，日本构建了包括法律法规、道路管理设施等保障其安全发展。当前，智能网联汽车发展迅速，市场份额不断扩大。 “人工智能时代，我们需要建立同样完整的体制机制。‘安全带’越紧，人工智能‘极速快车’运行得越稳定。”政府工作报告提出，深化拓展“人工智能+”，加快推广新一代智能终端和智能座席。对此，工业和信息化部部长李乐成接受采访时表示，公司将推动AI电脑、AI手机、智能家居等产品的发展，更好地满足人们追求美好生活的需求。他表示，要实现这一点还需要努力。周弘毅委员建议，加快制定统一的行业标准，明确数据采集的合规边界，模型调用、内容生成，增强算法的透明度和可解释性。将安全智能嵌入您的设备中，以主动防御人工智能和恶意攻击。随着故意误操作等新风险的出现，安全将成为AI设备的标配，AI手机将真正为人们服务，成为智能经济新形态下全面可靠的设备。作为终端智能化的代表性应用，AI手机助手的安全实践为业界提供了参考模型。据报道，AI手机助手严格遵守用户授权和合规的原则，在用户明确同意的情况下仅调用必要的功能。云端处理画面内容严格遵循“不存储、不训练”的原则，数据全程加密传输。对于支付、密码等高风险操作，我们采用用户认证+人工确认的双重机制，从系统设计和技术实现上坚决保障用户权益和收益安全。今年的政府工作报告首次列入“完善适应人工智能技术进步促进就业创业举措”。全国政协委员、中国民营经济研究会副会长李连祥表示，人工智能手机等行业目前正处于发展初期。对于新的技术形态，我们要注重人力资源的开发，保持包容的态度。但从监管和法律保护的角度来看，必须防范和管理风险，保证足够的创新空间。 AI变得更加重要的时代轻松智慧化也将是一个系统有自己的温度、技术有其局限性、公民有决策能力的时代。 “人工智能的未来最终取决于人类如何使用它。”周鸿祎特派员表示，只有坚持以人为本，坚持永远智能，同步推进技术创新和伦理治理，人工智能才能真正成为推动社会进步、增进人类福祉的重要力量。后备军。 （参与记者：白嘉丽、宋锐、张满子）来源：刘静宇、陈凯/新华日报
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易用户上传发布好，一个仅提供信息存储服务的社交媒体平台。
