生成式人工智能技术（下文简称“生成式AI技术”）的广泛应用给很多行业带来了新的市场增长引爆点，但同时，也带来了伪造账户、传播虚假信息、数据安全等风险。其中，企业最需要关注、防范的风险之一，就是诈骗分子利用生成式AI技术进行深度内容伪造从而实施的新型诈骗（下文简称“AI欺诈”）。
全球反洗钱合规和数字身份验证技术服务商、人工智能企业ADVANCE.AI副总裁崔琦曾指出：“计算机图像、语音合成等前沿AI技术的快速发展，降低了不法分子盗取、伪造用户人脸图像、语音等身份信息进行欺诈的技术门槛，为全球网络安全埋下了一个重要隐患。”而对于用户数量众多的社交、直播、跨境电商、游戏等在线服务企业，严防新型AI欺诈更是需要提上业务管理的日程，因为这些在线服务企业，不仅已经是生成式AI内容传播的主要渠道，更是成为了被欺诈分子觊觎的“欺诈资源”。
ADVANCE.AI副总裁崔琦表示： “严防AI欺诈，各类提供在线服务的企业不仅要确保各项业务的合规运营，还要加强对AI技术应用的自治管理。比如，通过在用户注册、登录环节部署合理的数字化身份欺诈风险防范策略；在业务运营中设置异常用户行为报告制度；均能够助力有效识别具有危害性的生成式AI内容，包括但不限于虚假账户、伪造产品图片、恶意舆论等。如果已知有相关风险内容存在时，各类在线服务企业要通过打标签、权限降级、关停、删除账户等手段积极干预调整。”
01 企业加强AI技术应用自治管理的必要性
必要原因一AI欺诈不分地域，正在全球范围爆发。
诈骗分子常利用AI技术生成的虚假视频、图片或声音，冒充被害人的某个领导、朋友、亲戚等熟人身份进行欺诈，因仿真度过高，混淆性极强，导致普通用户难以分辨，且经常实施远程诈骗，使得这种欺诈行为在当下的欺诈成功率竟接近100%，给公众财产安全、信息安全、甚至人身安全都带来了严重威胁。
让我们了解两个发生在海外国家的AI欺诈典型案例：
案例一：根据网络公开信息的讲述，诈骗分子通过AI技术伪造了一位德国公司高管的音频片段，并利用这段伪造的音频，联系了该公司在英国分公司的CEO，要求其安排员工给一个匈牙利的账户汇款24.3万美元，欺诈分子利用这段伪造的音频给英国分公司负责人前后致电了3次电话均未被当事人发觉异常。
案例二：根据海外媒体的报道，诈骗分子通过AI技术伪造了一位美国小孩在异地遭遇困境的声音和场景，并利用这段伪造音频联系了小孩的母亲，在确认这位母亲已上当且认为自己小孩遇险后，诈骗分子开始勒索，警告这位母亲不允许报警，并提出了要给付100万美元的赎金要求。
必要原因二 针对企业的自动化欺诈显著增多，防不胜防。
欺诈分子会利用生成式AI技术大规模创建新的身份和账户，用虚假账户代表独特的“人”，然后利用这些虚假账户发布有关个人、团体或组织的虚假信息、制造恶劣舆论、或冒充他人获取未经授权的权限，进一步实施犯罪行为。
当下，通过恶意机器人进行的自动化网络欺诈和攻击正在显著增多，表现出来的攻击趋势包括:
节假日或特定活动事件发生前后的自动化攻击显著增加。来自
移动端设备的恶意请求正在增加。
恶意机器人流量在全网在线流量中的比例增长迅速。
必要原因三 仅有少量国家已针对生成式AI的应用发布监管细则，大多数国家尚未公布专门针对AI技术发展的规制性文件。
面对生成式AI模型的激增和可能带来的风险，虽然大部分国家的监管部门都已经在启动监管探索，但当下，仅有少数国家完成了相关监管立法。
然而，AI欺诈具有全球化、跨地域、易于远程实施等特点，不同地区监管力度和监管方式不一致的客观情况，极易被欺诈分子所利用，导致欺诈行为难以被问责或被害人的损失难以追讨。
因此，严防AI欺诈，企业加强自治管理的必要性意义更加凸显：一方面，在外部监管不确定性较强、不同国家监管现状差异性较大的情况下，企业能够通过严格的自治管理，切实保障用户权益和服务运营的稳定性；另一方面，也可以向监管部门传递积极的信号，告知监管部门企业可以通过自治的方式有效控制新技术的应用风险，这将有利于数字经济行业整体的稳定发展。
02 一站式数字身份验证和风险管理解决方案助力企业自治管理
在企业加强欺诈防范能力的自治管理策略上，ADVANCE.AI推荐可部署的数字化策略包括：
第一, 可以在用户注册、登录环节部署活体检测和人脸比对等身份验证工具，可以防范利用伪造身份、虚假身份进行在线欺诈的不法分子。
第二，定制化部署风险评估模型，比如通过用户的手机号、联系人手机号、常用邮箱账户、常用社交媒体账户、IP地址等维度做聚集性关联分析（若历史数据足够可发展关系网络等），实时拦截异常注册或登录申请，可以防范虚假账号生成。
而根据社交、直播、跨境电商、游戏等在线服务企业运营海外市场的实际需求和欺诈防范痛点，ADVANCE.AI特别推出了“星鉴”数字身份验证与风险管理解决方案——这是一套端对端、一站式、可定制化的数字化解决方案，集成了数字身份验证、无感知风险管理、反洗钱合规三大解决方案业务体系，能够帮助容易面临高欺诈风险的企业和金融机构，轻松管理全球用户、防范欺诈风险、落实反洗钱监管要求、合规管理用户数据，尤其适合需要开拓东南亚、拉丁美洲、非洲等新兴国家市场的企业或金融机构进行选择。
“星鉴”数字身份验证与风险管理解决方案部署流程
ADVANCE.AI的“星鉴”解决方案包含的生物识别、人脸比对功能，人像识别精准率超过99%，并特别针对东南亚、拉丁美洲、非洲等地区的用户使用习惯进行了优化，识别不受当地用户低配手机摄像头或验证环境光照条件的影响，且能够控制识别响应时速在1秒以内。
同时，ADVANCE.AI的生物识别技术还对用户戴着帽子、眼镜或化妆之后进行人脸识别时的验证效果进行了优化。
ADVANCE.AI的“星鉴”解决方案还包含了活体检测功能，可以识别部分通过AI工具生成的人脸图像或视频，助力防范新型的“AI欺诈”。
目前，ADVANCE.AI的技术服务已助力全球超过700家金融机构和企业提升了其在用户登录、注册环节的身份验证操作体验，提高了审核精准度和业务运营的效率和安全，身份验证产品的API日均调用量达到400万次，年调用量已接近近20亿次。
关于ADVANCE.AI
ADVANCE.AI成立于2016年，是领先的人工智能公司，提供数字转型、反欺诈和流程自动化等解决方案，已成功服务全球超700家知名企业客户，聚焦服务行业和领域包括银行、金融服务、金融科技、支付、零售、电商、物联网、出行以及共享经济；总部位于新加坡，并在全球如印尼、印度、菲律宾、马来西亚和越南等国设有本地客户支持团队；隶属Advance Intelligence Group，其业务覆盖12个市场，拥有1500名员工，旗下企业和消费者业务共服务超过700家企业客户、10万家商户和2000万消费者。
