记者程雪报道　当前，人工智能已经渗透到生活的方方面面：超市自动结算机器刷刷脸就能完成支付，商场导购机器人可以告诉你哪家餐厅评分最高，“浙江外卖在线”“人才管家”等数字化改革重大应用成果从小切口演绎出了大场景……人工智能应用一定可靠吗？出现差错或暗含隐患怎么办？这正是浙江君同智能科技有限责任公司（下称“君同智能”）研发AI评测增强平台的初衷——为人工智能应用装上“安全盾”，避免或解决可能发生在人工智能应用场景的安全隐患。

　　这后果想想都怕

　　在第十一届中国创新创业大赛浙江赛区暨第九届浙江省“火炬杯”创新创业大赛的新一代信息技术行业总决赛上，君同智能CEO韩蒙分享了一则犯罪分子通过人脸识别非法盗取银行用户财产的新闻：某银行储蓄客户在一小时内6次“假人脸”活检成功，竟然被犯罪分子盗刷几十万元。

　　“我想告诉大家人工智能并非你们想象中的那样‘神通广大’，它也会出现漏洞。”韩蒙解释说，朋友圈、短视频、门禁、摄像头等都能采集到人脸信息，而银行、支付宝、微信等可以使用人脸支付，若人脸识别系统出现漏洞并被不法分子利用，那人们的生命财产安全岂不是处于风险之中，这后果想想都怕。

　　此类人工智能系统“失灵”现象并非个例。“如果这种识别的偏差出现在生活中，那后果也是不堪设想的。”韩蒙团队在生活场景中做过实验，把路标涂画一部分并调整其所处的环境光线，虽然人的肉眼可以准确分辨车牌的标识，但车上的人工智能系统却无法识别或错误识别路标。

　　“这些属于人工智能存在的易受恶意攻击、鲁棒性差的问题，我们研发的AI评测增强平台将全面解决这些问题！”韩蒙说，就像游戏里给角色加buff，这套系统更像是一种工具，帮助人工智能系统更精确、安全地完成各项指令。

　　十年磨一剑的成果

　　君同智能创始人韩蒙有着十余年的海外求学和工作经历：在美国完成博士学业，到美国高校任教，获得终身教职，并多次创业。角色在变但初心未变，他一直探索如何在人工智能领域搭建起增强功能、解决问题的平台。

　　“这些年国内对科技的支持力度越来越大，各方面资源也越来越好，所以我打算回国闯一闯。”韩蒙在浙江大学滨江研究院、浙江大学计算机科学与技术学院尹建伟教授的支持下，带着十多年的实践积累和梦想于去年5月创立了君同智能，并组建起一支十余人的工程师技术团队承担企业核心研发工作。

　　虽然人工智能应用场景千变万化，但以任务为导向归类后，可分为人工智能识别、预测等几大类。研发团队在韩蒙往昔的相关科研成果基础上，着重加强平台的工具性，让其拥有评测、增强两大功能。“AI评测功能是为找出人工智能系统或场景的漏洞风险，AI增强功能是提升人工智能本身的功能和能力。”韩蒙说，为了让这两大功能发挥效果，其研发团队不断地研发产品对模型的自动输出能力，可靠的自动识别能力，以及模型的自动演化能力。其研发产品几乎覆盖所有的人工智能场景，拥有多个授权发明专利和知识产权。

　　今年初，君同AI评测增强平台终于实现产品化，并陆续获得全国网络安全创新奖、2022年网络安全优秀创新成果大赛浙江十佳、杭州市数据安全十佳优秀案例等荣誉。韩蒙感慨道，“十年磨一剑啊，真的非常感谢行业专家对我们这样硬科技成果的认可！”

　　期待更广泛的合作

　　几个月前，君同智能拿下第一笔订单。对方是中国信息通信研究院，将把君同AI智能评测增强平台应用于相关评测环节。

　　“得到官方机构订单的认可让整个团队都信心倍增，我们期待更广泛合作。”韩蒙说，自己当初选择把杭州作为梦想启航地，是看中浙江数字化改革硕果累累，人工智能应用场景层出不穷，自己产品正有用武之地。“就拿金融业银行业来说，把君同AI评测增强平台应用于金库安保智能系统，可以提高金库的安全性，防止受到攻击破坏。”当前，君同智能除获得国家金融评测中心的认可外，也已经与几家银行机构达成初步合作意愿。

　　作为民营企业大省，浙江正凭借数字化改革的东风大力推进未来工厂建设。“我们的产品同样适用于未来工厂的场景。”韩蒙介绍说，君同AI评测增强平台可以识别出未来工厂中的不安全因素，质检环节是否可靠到位，流水线是否存在违规操作，以及工厂是否遭遇火灾等……韩蒙相信，这个平台的应用前景是一片蓝海。