2024年社交平台AIGC发展与治理现状分析

文章探讨了2024年六大社交平台在AIGC（人工智能生成内容）方面的最新进展及其面临的治理挑战。AIGC正迅速成为社交平台创新的关键驱动力，然而，随之而来的安全和治理问题也不容忽视。

AIGC已经成为社交平台创新的核心推动力。2023年，妙鸭相机凭借“AI玩图”功能掀起了一股热潮，各大平台纷纷效仿，将AIGC技术融入其业务流程，以期创造全新的互动体验和用户参与方式。2024年春节期间，微博推出了“评论罗伯特”机器人，它会在用户发布超过10字的原创微博时随机回复，标志着平台对AIGC应用场景的初步探索。随后，微博陆续推出了多个功能性AI账号，如@夸夸小猫猫和@配图猫，这些AI账号主要依赖用户的主动互动，功能相对有限。

短视频平台的多元化应用

相较于其他社交平台，短视频平台在AIGC的应用上更为多样化，尤其注重创作属性。抖音通过集成AI特效模块和内嵌AI小程序，降低了用户使用生成式AI的门槛。例如，“FacePlay”抖音小程序在2024年累计使用量超过1.1亿次，成为平台内容创作的重要工具。此外，快手推出了“可灵AI”APP，抖音旗下的剪映也推出了“即梦”APP，进一步推动了AIGC在视频编辑中的应用。

AIGC治理难题显现

随着AI技术的普及，社交平台面临的安全和治理难题日益突出。主要问题集中在四个方面：虚拟数字人直播、AI换脸、AI种草带货，以及AI内容标识。微信视频号对虚拟数字人直播采取严格限制措施，而抖音和小红书则要求数字人直播必须完成注册与备案。AI换脸技术带来了深度伪造和商业化滥用的风险，尤其是用于虚假宣传和商业变现时，容易触犯相关法律法规。目前，只有小红书明确禁止通过AI生成内容进行商业变现。

AI内容标识与版权争议

为了应对AIGC带来的治理挑战，各大社交平台都要求用户在上传内容时声明是否由AI生成，并在发布后显示“AI生成”标签。然而，实际执行效果并不理想，主要原因在于标注入口隐蔽且缺乏显著提示。尽管抖音、小红书、哔哩哔哩等平台已开始通过技术手段自动监测疑似AI生成的内容，但整体鉴别能力仍有待提高。此外，平台既是内容生产者又是AI开发者的角色，使得用户上传内容的版权归属和使用方式变得复杂。

治理新规出台，但仍需落实

2024年，针对AIGC的治理进入了快速发展阶段。9月14日，网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，明确规定传播平台需对AI生成内容进行显著标识。抖音针对违规使用AI生成虚拟人物的行为，采取了下架视频、取消投稿和营利权限、封禁账号等措施。腾讯视频号也在修订《视频号橱窗达人“发布低质量内容”实施细则》，加强对非真实直播行为的管控。与此同时，司法案件也反映了AIGC治理的复杂性，如小红书的Trik AI因涉嫌未经授权使用插画师作品进行AI训练而被起诉。

总的来说，2024年社交平台在AIGC领域取得了显著进展，但也面临着诸多治理挑战。未来，如何平衡技术创新与用户权益保护，将是各大平台需要持续关注的重点。