“讥刺的是，人类再怎么快也无奈超过它。”这是歌手孙燕姿对于本人AI分身遍布网络一事，在MAKE MUSIC网站的博客上发表的认识。
起源：孙燕姿MAKE MUSIC网站博客
当大家还在放心AIGC会不会让本人就业时，歌手孙燕姿就因为“AI孙燕姿”的火爆成为了面临“就业”的“第一人”，随着越来越多的网友制作和上传相干视频，“AI王菲”、“AI周杰伦”等也纷纷呈现，然而在众AI歌手“想唱就唱”的背地，也引发了平安行业对内容是否合规、版权是否侵权的担心。
近些年AIGC技术的一直倒退，使得内容的产出不再仅依附人工，机器逐步也承当起这部分工作，相比起传统的内容，现在的互联网内容更为丰盛多样。然而，这也给内容审核与治理带来了不少难题。据腾讯平安专家李镐泽介绍，AIGC能够不间断生成海量内容，这让内容平安和内容爱护难度陡然晋升；合成技术的一直成熟也带来了虚伪谬误内容的生产和流传；此外，版权保护问题也成为人工智能生成内容中颇具争议的局部，AIGC内容是否具备版权以及如何界定侵权成为难题。
由此可见，AIGC带来的平安挑战是全方位的，对于AIGC内容的治理不仅要关注生成之后的内容是否违规守法，在全链路都要有内容平安的意识和相应的保护措施。
针对这些问题，腾讯平安具备AIGC全链路的内容平安解决方案，能够助力企业更高效地应答挑战。该计划能够通过三个层面的风控措施来帮忙企业解决AIGC内容风控难题。首先是在输出端部署相应的风控策略，来判断输出指令是否违规，从源头上防止违规内容的产出。
而后再加以屏蔽的措施。例如，当输出的违规词条触发部署的风控策略后，该词条会反馈给客户，并提醒问法有问题，或者是不合规等等，进而防止不合规的音讯的吐出。
在输入端也会进行相应风控，能够通过标记黑样本并保留至样本库，在输入端匹配关联特色并拦挡，防止模型生成不合规内容。
事实上，机器是依附输出指令以及模型训练生成相应的内容，从某种程度上看，“人”作为发令者承当着相当大一部分责任，而AIGC技术相当于一种媒介。因而对于内容平安方面的治理不仅仅是“治事”，更要“治人”，这就须要联动起整个行业。
李镐泽认为，因为目前仍没有相干法律法规专门针对AIGC生产内容的监管，对于非底线类的内容治理更多是须要企业盲目承当起自查和治理的责任，行业内也须要建设比监管更加严格的治理规范来保障内容生态品质。
平台方则须要建设更欠缺的风控策略，从单点的风控降级为面的风控，在面的风控中灵便利用组合策略，才可能实现对于技术生成内容的精准辨认和处理。相干的厂商也须要一直去学习新的危险点，并迭代相干的风控模型，以应答更多新的内容危险的呈现。
对于个人用户来说，专家建议其该当进一步晋升安全意识，面对海量的互联网信息时要“擦亮眼睛”，认真甄别AIGC带来的虚伪错误信息，防止上当受骗。
「上云那些事」
南方日报、北方+联结腾讯平安推出的栏目，打算通过对网络安全问题深入浅出的解说，更好地让公众意识到网络安全的重要性，同时也找到适宜本人的应答计划。
记者：叶丹
