点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
严查这些人、这些事！中央纪委公报释重大信号****** 中新网北京1月11日电(记者 阚枫 袁秀月)10日，二十届中央纪委二次全会公报公布，新一届中央纪委如何开局，下一阶段的中国反腐从何处着手，此次公报释放重要政策信号。  资料图：2015年10月，海南省公安厅组织党员干部前往反腐倡廉警示教育基地参观受教。洪坚鹏 摄这些制度要扎牢 推进反腐败国家立法、完善基层监督体系 3000多字的公报中，对健全全面从严治党的制度体系作出重要部署。 党的二十大报告首次提出“健全全面从严治党体系”的重要任务。在此次公报中，“全面从严治党体系”亦成为关键词。 公报中提到，推动完善党的自我革命制度规范体系。促进完善党内法规制度体系，研究修订党纪处分条例，推进反腐败国家立法，不断健全完善纪检监察法规制度体系。推动完善纪检监察专责监督体系、党内监督体系、各类监督贯通协调机制和基层监督体系，形成监督合力。 自我革命是中国共产党区别于其他政党最显著的标志，是跳出治乱兴衰历史周期率的第二个答案。在专家看来，写好这第二个答案，并将其具体化、操作化，制度体系建设是关键的基础性工作。 “党的十八大以来，我们在党风廉政和反腐败方面取得了巨大成绩，初步构建起全面从严治党体系，要在总结过去十年经验的基础上持续完善健全这个体系，进一步适应新形势、新任务。”中央党校(国家行政学院)教授竹立家对中新网记者分析。 这个监督很关键 确保“不偏向、不变通、不走样” 2023年是贯彻二十大精神的开局之年，公报在论述新一年的纪检监察工作时，“围绕落实党的二十大战略部署强化政治监督”被列在首位。 公报提到，围绕完整准确全面贯彻新发展理念、加快构建新发展格局、着力推动高质量发展等重大战略部署，围绕党中央因时因势作出的决策部署加强监督检查，确保执行不偏向、不变通、不走样。 此外在谈及“四风”问题时，公报同样提到“贯彻党中央重大决策部署”，公报提到，紧盯贯彻党中央重大决策部署不担当、不用力，对政策举措和工作部署片面理解、机械执行、野蛮操作，玩忽职守不作为，任性用权乱作为，权力观异化、政绩观扭曲、事业观偏差等问题。 “近年来查处的腐败大案要案中，对党不忠诚、不老实，当面一套、背后一套的问题较受关注，强化政治监督，在对党忠诚方面强化监督，显得十分必要。” 竹立家说，写好第二个答案，真正落实全面从严治党，确保党中央决策部署全面落地见效，说到底需要干部队伍时刻牢记初心使命，确保永远对党忠诚。  资料图：山西太原，人们前往参观中国共产党反腐倡廉历程展。 中新社记者 韦亮 摄这些群体被点名 年轻干部、“一把手”、代理人 会议公报中，明确提到了几个群体。 对年轻干部，公报要求，高度重视年轻领导干部纪律教育。对“一把手”，公报要求，强化对“一把手”和领导班子监督，督促其严于律己、严负其责、严管所辖。此外，公报还提到，坚决防止领导干部成为利益集团和权势团体的代言人、代理人。 谈到“重点对象”，公报要求，把党的十八大以来不收敛不收手、胆大妄为者作为重中之重，严肃查处领导干部配偶、子女及其配偶等亲属和身边工作人员利用影响力谋私贪腐问题。 竹立家认为，这些群体，可以说是党的十八大以来腐败现象表现比较突出的一些群体。 “例如，年轻干部事关党和国家事业的赓续接力，不收敛不收手的干部顶风作案、影响恶劣，‘一把手’及其身边人腐败、政商勾连等也渐渐成为腐败案件的突出特征，这些群体的腐败问题往往对政治生态破坏严重，必须是权力监督的关键点。” 这些领域是重点 金融、国企、政法、粮食购销等 这份中央纪委全会的公报中，还特别提到下一阶段党风廉政工作的重点领域。公报指出，突出重点领域，深化整治金融、国有企业、政法、粮食购销等权力集中、资金密集、资源富集领域的腐败。 在专家看到，这些领域的反腐败工作事关国计民生大局，涉及面大，社会关切度高。 “从近年查处的案件来看，比如金融、国企这些领域的腐败问题会对国家资源造成重大破坏、重大损失，甚至引发系统性风险，而政法、粮食购销等领域的腐败问题和不正之风，关乎百姓切身利益，关乎社会公平正义，必须紧盯严打。”竹立家说。 如专家所言，此次公报特别强调了坚决整治各种损害群众利益的腐败问题。此外，坚决查处新型腐败和隐性腐败。坚持受贿行贿一起查，加大对行贿行为惩治力度，营造和弘扬崇尚廉洁、抵制腐败的良好风尚。 在作风方面，公报还提到，严肃整治损害党的形象、群众反映强烈的享乐主义、奢靡之风，对顶风违纪行为露头就打、从严查处，坚决防反弹回潮、防隐形变异、防疲劳厌战。(完)
|
)