1月7日9时05分,西藏日喀则市定日县发生6.8级地震,牵动着许多网友的心。但与此同时,一些网友为了流量,利用AI技术生成灾区群众被埋、房屋坍塌等虚假照片进行发布,并配文日喀则地震等关键词,造成网友误解。
其中,一张被压废墟下的小男孩图片引发广泛关注。图片中,一名戴帽子的小男孩被压在倒塌的废墟下,全身铺满尘埃。记者注意到,这张图片在某短视频平台,被多个账户
为测试该类图片的生成过程,红星新闻记者尝试在多款AI智能生成软件中进行相关图片生成,多数软件生成图片无风险提示,如在一款名为豆包的AI智能APP中,记者输入日喀则地震婴儿被埋的关键词,软件在未给予任何侵权、违规、虚假信息等干预提示下,自动生成了多张相关图片。
对此,北京京展律师事务所主任律师张晓玲分析认为,AI软件在输入有关地震等关键词时,未给出任何不传播虚假信息等提示,直接生成相关图片,存在不妥。AI软件在算法上,应当也有能力对关键词进行识别,需要具备一定的道德和法律的判断能力,在用户输入关键词时给予明确的警示,避免生成和传播虚假信息。张晓玲说。
而在发布环节记者也发现,上传上述AI生成的地震婴儿被埋图片后,记者随机配上音乐,并标注日喀则地震孩子被埋,祈求平安等字样,相关视频便被顺利发出。视频发布约1小时后,相关内容下方出现疑似使用AI生成技术的平台小字提示信息。测试完成后,记者也随即删除视频内容。
针对该情况,红星新闻记者以网友身份询问抖音客服,一名接线人员回应称,按照先行审核程序,AI生成的图片及视频只有在创作者发布后,平台才能进行识别和审核。若审核发现为AI图片,平台会在内容底部标记疑似使用了AI生成技术,请谨慎甄别字样。这名客服也表示,如果用户发现有网友借助AI技术传播虚假图片甚至造谣,那么网友可拨打抖音安全与举报专线,或直接点击视频内容进行举报反馈。
【律师说法】
该行为不符合公序良俗和道德如引发恐慌造成较大影响将被追责
网友利用AI技术生成地震灾区现场关联图片,并引发社会关注,这样的行为是否欠妥?就此,河南泽槿律师事务所主任付建在接受红星新闻采访时指出,尽管网友本身或并无恶意,只是希望借助AI生成的图片获取流量,或希望更多人来关注地震。但用假图关联真实事件,付建认为,其行为虽不违法,但不符合社会公序良俗和道德,让他人产生误解,有失妥当。
北京京展律师事务所主任律师张晓玲也同样告诉红星新闻,在灾害面前,应传递真实、准确信息,以助于救援和减少恐慌,而不该利用灾害来博取眼球。
付建分析指出,利用AI生成图片本身不会因此受到处罚,但若肆意用AI技术生成地震受灾严重的画面,甚至编造谣言,图片和配文内容与事实严重不符,且引发社会广泛关注甚至网友的恐慌,则属扰乱公共秩序行为。张晓玲也提到,若相关内容转发评论量较大,造成了不良社会影响,那么根据《治安管理处罚法》相关规定,发布者编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或
发表评论