人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
确保国家能源安全 促进能源高质量发展****** 【深入学习宣传贯彻党的二十大精神】 作者:谢里(湖南大学经济与贸易学院教授、湖南大学“碳达峰、碳中和”研究中心主任) 党的二十大报告提出,“加强重点领域安全能力建设,确保粮食、能源资源、重要产业链供应链安全”,明确将确保能源资源安全作为维护国家安全能力的重要内容。能源是维系国计民生的稀缺资源,是国家竞争之要素。当今世界正经历百年未有之大变局,全球地缘政治、经济、科技、治理体系等正经历深刻变化,能源局势将更加错综复杂,威胁能源安全的各种“灰犀牛”“黑天鹅”事件时有发生,促使国际能源版图深刻变迁。为了有效应对能源风险,我国应坚定以习近平总书记关于能源工作的重要论述为指导思想,贯彻“四个革命、一个合作”能源安全新战略,深度推进能源革命,确保国家能源安全,促进能源高质量发展。 全方位保障能源供给安全。保障能源供给安全,既要完善不同种类能源的供应体系,又要在空间上实现能源多渠道供应。在碳达峰、碳中和战略目标的推动下,我国正加快非化石能源替代化石能源的步伐。化石能源具有不可再生、高污染、稳定性强等特征,非化石能源具有可再生、低污染、间歇性、波动性等特征。未来我国需要逐步摆脱对以煤炭为主的化石能源的依赖,对化石能源和非化石能源这两类能源要素扬长避短、优势互补、调剂余缺,丰富不同种类能源的供应,实现绿色低碳、安全高效的能源供给。在国际能源贸易领域,应稳固拓展与已开展能源贸易国家的互联互通,并积极扩大与更多国家和地区的能源贸易合作,畅通能源供应通道,拓展能源供应的地缘范围,形成多样、高效和优质的能源贸易网络,“固”“延”“强”“补”能源产业链供应链体系。 宽领域增强能源消费安全。能源消费安全要从能源的节约与高效利用以及能源安全管理这两端双管齐下。一方面,在实施能源消费的总量和强度双控过程中,改变粗放的能源消费方式,促使能源集约化利用。在深化能源价格市场化改革时,注重稳定能源价格,防止其异常波动导致能源消费的不稳定,增强消费者对能源商品消费的理性预期,增加能源消费的普惠性,保障不同收入水平的消费者都能持续进行能源消费。另一方面,正确的能源管理不仅能有效节约能源、提高能源利用效率,而且能减少能源消费对生态环境等方面产生的负外部性。在全社会大力提倡能源节约和高效利用的同时,对人民群众进行正确管理能源的宣传教育,引导消费者形成能源的正确使用方法和安全管理习惯,防止不正确的能源消费和管理方式危害社会设施、生态环境以及人民群众生命财产安全。 多维度开展能源技术创新。不断实现能源技术创新是保障能源安全的重要法宝。随着产业结构的演进,能源技术迭代迅速,降低了能源开发和利用的成本,促进了能源的绿色低碳发展。但也会由于能源技术研发与应用还不够成熟,导致能源开发、存储、传输、消费等环节依然存在隐性风险。因此,加快能源技术创新,不仅要重点突破制约能源产供销储产业链体系中的关键核心技术,还应结合全国各地的能源开发和利用实践,推动能源新技术的本地化,实现能源技术的再升级与再创新。进一步发挥人工智能、大数据、物联网、区块链等新一代信息技术对能源技术创新的赋能作用,促进能源技术研发与应用向信息化、数字化、智能化转型。加大储能与分布式能源、智能电网等能源产业链技术研发与应用示范的支持力度,配套提升能源技术装备的安全运维和管理创新水平。 系统化构建能源治理体系。现代化的能源治理体系是能源安全保障制度的集中体现。应坚持能源配置全国一盘棋,既要发挥市场机制的重要作用,也要发挥好行政管制的作用,在能源要素的市场化配置和能源安全之间找到平衡点。通过市场机制与行政管制的统筹协调,一方面不断激发能源企业的活力,提高能源利用效率,另一方面更好地激励能源市场主体自觉履行国家战略,承担社会责任。政府可以通过创新能源监管方式,构建高标准的能源市场体系,进一步完善政府规划能源发展战略和总体布局、把握能源开发利用的总量平衡、优化能源市场监管和能源安全监管等方面的职能。通过深化能源领域的“放管服”改革,不断改善能源开发利用的营商环境,畅通能源要素优化配置的渠道,提升能源服务的安全稳定性。 深层次加强国际能源合作。广泛的国际能源合作是防范和化解重大能源风险的坚实屏障。作为世界上最大的能源生产国和能源消费国,中国是世界能源格局中的重要一员,始终践行绿色发展理念,遵循互利共赢原则开展国际合作,努力实现开放条件下的能源安全。未来仍然需要进一步加强与世界能源领域的对话与交流,扩大能源投资与贸易的“朋友圈”。通过参与建设共同受益的国际能源合作组织,积极构建有利于世界各国能源公平合作的规则,积极融入全球能源产业价值链的垂直和水平分工体系,共建全球能源供需预警与监管平台,联防联控能源价格波动对全球经济冲击的传导,携手应对人类共同面临的能源风险和挑战。 《光明日报》( 2023年01月05日 06版) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |