科技是把双刃剑，它能够用来造福人类，也能够用来覆灭人类。AI 技术的倒退给人类带来了微小福祉，改善了咱们的生存，进步了生产效率，拓展了认知视线。然而，任何技术都蕴藏着两面性，除了不便与效益，也潜伏着误用与滥用的危险，这须要咱们对新技术放弃苏醒的意识。
一、AI 立功层出不穷
ChatGPT 开启了人工智能的新时代，也关上了潘多拉的魔盒，依据相干数据统计，不法分子利用 AI 技术进行立功的频率一劳永逸。AI 正在被犯罪分子所利用，利用相干软件进行人脸替换、虚构角色生成、模拟声音、伪造图像和视频等，让指标对象分不清屏幕背地是人还是 AI, 最终施行电信欺骗和网络讹诈。
AI 换脸伎俩高超
2023 年 3 月，不法分子将广州一男子在地铁上的一张失常自拍照应用 AI 软件进行一键脱衣解决后，在网络上广泛传播。实际上男子是小红书的一名博主，原图中她衣着失常，经 AI 软件解决后，照片中的她仿佛全裸，该事件造成了极其顽劣的影响，此博主已报警解决。这件事也让对于 AI 软件的安全隐患裸露，促使人们开始思考 AI 的道德和法律的边界到底在哪里。在美国，AI 同样处在风口浪尖。美国网民应用 AI 图像生成技术，将前总统特朗普的照片与被捕照片进行合成，制作出特朗普被警察拘捕的场景照片，这些照片在社交媒体上疯狂流传，引起热议。只管大多数人对这些恶搞照片示意投诉，但也有网民放心，如果 AI 图像生成技术能够做到如此真切的图片合成，那么一旦被用来施行欺骗，结果将难以想象。
一语成谶 企业老板数分钟内被 AI 欺骗 430 万
2023 年 4 月，一起利用 AI 施行电信欺骗的案例产生在福州，某企业老板郭先生被自称“好友”的人通过微信视频骗走 430 万元。犯罪分子采纳 AI 换脸和拟声技术，伪装成郭先生的好友，通过视频通话胜利骗得其信赖，随后提供虚伪的转账证实，郭先生转账后才发现受骗。后经警方致力追回款项的大部分，但仍有 93 万元流入犯罪分子手中。AI 换脸威逼不容小视对于 AI 欺骗，远比咱们设想中的重大。在 2022 年的《猎罪图鉴》中，就曾揭发过对于 AI 欺骗的实在案件。剧中，犯罪分子通过社交媒体收集到一名独居老人的儿子在美国的大量照片和视频材料。利用 AI 换脸技术，他们将这些材料用于一个视频模特，制作出老人儿子求救的视频，在视频中宣称须要 25 万美元来解决事变。
犯罪分子通过微信将视频发送给这名老人后，老人信以为真，将钱款给犯罪分子汇了过来，老人被骗的倾家荡产，最终导致老人自杀身亡。
AI 变声降级 AI 孙燕姿翻唱
最近，“AI 孙燕姿”因其翻唱《下雨天》等歌曲走红网络。而且“AI 孙燕姿”竟然能做到连其“换气声”都能够模拟，一时间“AI 进去后第一个就业的是孙燕姿”等话题被推上热搜。所谓“AI 孙燕姿”即人工智能技术合成进去的。“AI 孙燕姿”凭借歌手孙燕姿“入地赏饭吃”的音色从诸多“AI 歌手”中胜利“出圈”，被歌迷评为“华语乐坛 2023 年最怠惰歌手”，翻唱歌曲几十余首，其中包含粤语、日语、英语、俄语中歌迷们耳熟能详的歌曲。“AI 孙燕姿”翻唱的《下雨天》和《半岛铁盒》等作品取得了冲破百万的播放量, 实属常见。“AI 孙燕姿”可能采纳了多个孙燕姿作品中的素材, 使用 AI 技术加以从新编排与合成, 产生了一个“虚构的孙燕姿”, 从而创作出大量翻唱作品。
二、警示
社会曾经进入了数字时代，被打上“数字、大数据、云计算、人工智能”等标签。除 AI 换脸欺骗外，还呈现生成虚构角色助长电话欺骗、AI 模拟儿子声音求救欺骗父母等技术手段。这些 AI 技术因为成本低、速率快、检测难度大，已成为新型网络立功伎俩，威逼不容小觑。
犯罪分子会在公开的社交平台上收集集体和企业的信息与照片，而后利用 AI 技术制作出真切的虚伪图片与视频，悄无声息地施行欺骗。只管 AI 技术进步了社会效率，但也带来了危险，比方音频、视频合成技术的滥用，集体敏感信息滥用，如人脸、声纹和指纹的平安爱护，使得集体信息安全面临严厉挑战，数字时代没有任何机密是相对平安的，个人隐私信息与企业数据安全同样重要。数据是组织机构高效运行和倒退的重要资源之一，如果数据信息受到窃取或篡改，将面临重大损失。犯罪分子能够利用企业的数据，联合 AI 技术制作虚伪信息进行欺骗，重大侵害信用与利益。企业本身使用 AI 技术也须要应答潜在危险，如 AI 零碎的数据与算法可能存在缺点或破绽，被利用施行立功。对企业来说，应答 AI 带来的挑战和数据安全威逼是急需解决的问题。企业须要一直进步数据与信息安全技术，增强对敏感数据的爱护，升高被犯罪分子利用和 AI 技术滥用的危险。企业须要建立健全的 AI 产品与服务的平安管理制度，严格控制数据应用，防止避免给用户带来损失。
三、埃文科技为打击新型网络立功“赋能”
互联网电信欺骗畛域的继续摸索埃文科技始终在互联网电信网络欺骗与数据安全服务畛域一直摸索，积极参与打击互联网电信网络欺骗，在 IP 高精准定位、涉案 IP 研判、数据安全经营服务、数据治理等方面提供了多维技术与产品。
在面对日益增多的互联网犯罪案件中，新型的互联网电信欺骗类型案件日益增多，在互联网的外衣下立功嫌疑人难以溯源。品质高、数据准、更新快的 IP 地理位置数据库能高效帮助相干单位对嫌疑人的入网 IP 地址进行精准溯源、取证，IP 地址不仅可能定位到指标的大抵范畴，局部 IP 地址甚至能够精准在 50 米之内，达到街道楼宇级（注：并不是所有的 IP 地址都能到街道楼宇级别）。
埃文科技在数据安全服务畛域的“赋能”面对流动数据泄露和被攻打窃取的高风险，埃文科技的平安经营平台能够对数据进行全方位爱护，对敏感数据智能分类分级治理，监控敏感数据流转动静，实时进行业务危险告警，事件溯源全链路追踪，多维度爱护数据的机密性、完整性和可用性。平台立足数据治理，帮忙客户建设起合乎本身特色的闭环式笼罩数据治理征询布局、计划制订、执行和评估的数据治理对立流程，包含数据规范治理、元数据管理、品质治理、资产治理、平安治理、数据生命周期治理，赋能业务利用场景，助力企业构建扎实的数据根基，实现数字化经营。同时能够从源头上爱护数据，升高犯罪分子利用 AI 技术进行歹意合成和利用的危险。
人工智能的倒退为咱们带来不便的同时，企业也面临数据泄露、技术滥用带来的微小危险。2023 年 1 月 10 日开始实施的《互联网信息服务深度合成治理规定》中也提出，要对深度合成技术利用提出标准。
器重数据风险管理，防患于未然，是企业在数字时代衰弱倒退的要害。只有一直进步数据安全意识，增强对新技术的钻研与治理，企业能力施展 AI 与科技的踊跃作用，实现数字化转型中平安与效益的有机联合。结 语随着人工智能技术的倒退，其潜在威逼也日益凸显。企业要实现数字化转型，必须器重技术风险管理，推动数据治理体系与资产运维架构同步倒退。通过业务数据化，利用数据采集、传输、加工等技术，推动业务全面线上；通过数据业务化，实现数据智能决策，驱动业务翻新。