生成式人工智能技术滥用情况越来越严重

生成式人工智能技术滥用情况越来越严重,引起了大家的关注。北京理工大学计算机网络攻防对抗研究所的所长闫怀志指出,这种现象的出现有两个原因:一个是技术门槛降低,普通用户可以轻松利用AI工具来生成和替换影视内容;另一个是平台流量推荐机制往往更青睐具有冲突性和新奇感的内容。这就导致了一种恶性循环,使得更多“AI魔改”视频被制作出来。这种视频通常保留经典剧集的人物形象和场景,但是剧情逻辑和价值内核被彻底颠覆了。比如四大名著、革命历史题材、英雄模范故事等严肃内容被插入荒诞、低俗甚至暴力情节,以吸引眼球。 记者调查发现,这些“AI魔改”视频在短视频平台上广泛传播,有些播放量甚至高达数万次。评论区里出现了“世界观颠覆”等调侃话语,反映出这些视频可能给观众特别是青少年的认知带来混淆。张清鑫律师表示,“AI魔改”已经触犯了著作权法规定。我国《著作权法》规定,在必要范围内为介绍、评论作品或说明问题而使用他人作品属于合理使用。但是,“AI魔改”视频往往大量复制原作品画面和角色形象,并且进行歪曲篡改,涉嫌侵犯著作权人的改编权和信息网络传播权等权益。 国家广播电视总局在1月1日开始对全国范围内的违规短视频进行专项治理工作。这次专项治理重点针对利用经典电视剧和主旋律作品进行“AI魔改”的行为。这个举措受到了广泛响应,许多主要网络视听平台已经下架违规内容并处置了违规账号。治理技术滥用乱象需要多方面努力。闫怀志建议从三个方面构建长效机制:首先要强化技术平台主体责任;其次要完善监管技术手段;最后还要加强公众媒介素养教育。 我们应该把人工智能技术看作是一个创新工具,它应该给文艺创作注入新活力。“AI魔改”这种行为如果继续下去,不仅会消解经典文艺作品的严肃性和历史真实性,还会误导青少年对优秀传统文化、革命历史的正确理解。我们需要法律、技术、行业自律与公众教育共同努力来解决这个问题。只有这样才能在鼓励创新的同时筑牢文化安全与网络清朗的防线。