2024年世界互联网大会｜全球AI大模型攻防挑战赛收官，十强选手用AI对抗AI

11月20日，在世界互联网大会乌镇峰会期间，一场旨在提升公众对人工智能（AI）技术对抗和识别能力的攻防竞赛圆满落幕。比赛中，来自全球十强的选手们被展示了一个复杂的场景：他们需要通过大模型技术来鉴别虚假的音频、证件照以及视频内容。

在这一挑战中，参赛者利用AI技术揭露AI伪造的事实。经过激烈的角逐，最终有十支队伍脱颖而出，分别获奖。

比赛吸引了包括字节跳动、合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校在内的参赛队伍参与。这些机构和学校通过这次赛事展示了其在人工智能攻防领域的技术和创新能力。

随着人工智能技术特别是大型语言模型和AIGC（生成式人工智能）领域的迅速发展，它为我们的生活带来了前所未有的便利和可能性，同时也带来了安全方面的挑战。例如，在仅需10秒的时间内，这种模型就可以克隆声音、复刻照片甚至生成“你”的视频；此外，大模型的“越狱”问题频发，可能生成各种危害网络空间安全的各类信息。

在这样的背景下，全球AI大模型攻防挑战赛聚焦了两个赛道：一是大模型本身的安全性，二是大模型生成内容的防伪检测。竞赛赛题涵盖了信用成长、凭证审核、商家入驻等多个业务场景，在机器学习、图像处理与计算机视觉、数据处理等算法领域中寻找创新的技术解决方案。

通过这样的比赛，我们不仅能够进一步保障大模型在各业务场景中的应用安全，还能提升整个产业的安全水平。

通过攻防实战演练，直面AI应用中的安全问题，促使大模型的安全技术不断进步，从而携手行业迈向更高的安全水平。

当前，AI反诈是保护大模型安全的典型、真实的场景之一。“现在AI诈骗越来越隐秘，手法越来越多样，可以模拟亲人的声音、朋友的视频甚至伪造各种文件，让人防不胜防。”桐乡反诈民警李湘臣表示。今天的比赛，他作为一名人民警察感到非常欣慰，“这意味着我们在对抗AI诈骗的道路上有了更多的力量和智慧。”

除了十强选手外，大赛还特别评选出“杰出方案奖”，分别由西安交通大学、上海交通大学及理想汽车赛队获得。

此外，蚂蚁集团在活动现场为优秀选手颁发了直通offer，优秀技术人才秒入职。

该项赛事由中国图像图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起。大赛自9月启动以来，来自全球18个国家和地区的2700多支赛队、3200余名技术精英参与，选手来自清华大学、北京大学、香港科技大学、悉尼大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯、智谱AI、Shopee等280多家互联网、金融、汽车、大模型科技等企业。

此外，在活动现场，中国信通院启动“护证计划”，呼吁共建行业标准，守护用户的身份安全。蚂蚁集团表示，积极响应并加入该计划。