
记者调查发现,近期,“外国山海经”“AI山海经”等AI魔改(指利用AI技术对原作品进行大幅或颠覆性改编的行为)内容在网络上迅速走红,甚至渗透到低龄群体中。与此同时,包含血腥暴力、恶搞低俗内容的“邪典动画”也借助AI技术卷土重来。部分经AI魔改后的内容还被制作成商品,在电商平台销量不俗。
AI类工具正在快速颠覆和重构越来越多领域,不同人群都在使用AI并受AI影响。以未成年人为例,今年一项调查显示,超过六成未成年人使用过AI。有两成多的未成年人存在“想依赖AI,不想自己思考”的惰性,两成多倾向于“只和AI聊天,不愿与真人交流”,还有两成多因为过度使用AI感到焦虑。这意味着AI正给未成年人带来不良影响。
技术本该向善,然而,某些人却让AI技术变了味,通过AI魔改给未成年人身心健康带来很大伤害。以被AI魔改的“外国山海经”为例,已在部分班级掀起流行风潮,变成一种社交密码。其危害有多大,有小学生每天念咒语就是一个缩影,加之“外国山海经”造型诡异,更夹杂不少暴力、血腥词汇和内容,对未成年人的身心健康影响不容小觑。
可以说“外国山海经”映照出AI魔改无底线,不仅扭曲传统文化,更对缺乏辨别能力的人群造成危害。而且,“外国山海经”以多种形式围猎未成年人群,比如,相关AI图片和视频制作流程十分简单,谁都可以通过AI视频网站魔改,而短视频平台通过算法向孩子持续推送。再如,“外国山海经”衍生出的实体产品如盲盒、玩具等正在包围孩子。
同时,还映照出“护童行动”严重滞后。由于AI技术及其工具是新生事物,很多人之前并没有意识到AI来势凶猛,会对未成年人群造成如此大的冲击,所以没有及时构筑“护城河”,导致部分孩子被AI“魔改”,正在受到显性和隐性的伤害。例如沉迷于“外国山海经”每天念咒语的小学生,不免让人有“着了魔”的担忧。这要引起各方重视。
从学校角度来说,要及时发现、尽量避免AI魔改在校园流行,因为这是对正常校园文化的“入侵”,是对学生身心的“毒害”,那么从校长到班主任老师,都要当好学生在校期间身心健康的“第一守护人”,通过科学引导、及时纠正,防止AI魔改在校园蔓延。从家庭角度而言,也要早预防、早发现、早纠偏,以有趣的正向教育防御AI魔改渗透。
从AI视频网站到短视频平台,都应该积极履行主体责任。根据《未成年人保护法》《未成年人网络保护条例》以及规范互联网相关法规,相关平台都应该做到守土尽责,把好审核关、监测关。比如《生成式人工智能服务管理暂行办法》规定,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。这需要及时落实到位,不留漏洞。
当然,监管环节要加强精准治理。去年底,广电总局网络视听司发布《管理提示(AI魔改)》指出,AI“魔改”视频为博流量,毫无边界亵渎经典IP,冲击传统文化认知,与原著精神内核相悖,且涉嫌构成侵权行为。这种判断与公众不谋而合,也为治理提供了参考。希望从保护原创、保护未成年人等角度,对AI魔改进行更系统、更有效整治。
套用鲁迅先生一句呐喊“救救孩子”,别让孩子性格、心理等被AI“魔改”。