当今,短视频平台处于快速发展阶段,内容审核以及社区风气管理成了行业焦点,其中,对于青少年用户的影响更是不能被忽视。
平台内容审核机制
内容审核于快手平台,主要依靠算法筛选跟人工复核相混合的样式,算法按视频画面、文字描述以及评论内容来做初步辨认,标记出有可能违规的内容,之后这些被标记的内容进入人工审核队列,由审核员依照《社区自律公约》做最终判定,在实际操作里,因每日上传内容数量巨大,2023年平台日均处理视频量超千万条,不免存在审核遗漏。
评论区的管理困境
评论区是用户互动的主要地方,它的管理困难程度比视频内容本身要高很多,平台设有敏感词过滤系统,可用户常借谐音、缩写等办法避开检测,统计显示快手24小时,2024年第一季度平台处理违规评论超2亿条,其中恶意攻击类评论占比最大,现有举报机制畅通,不过处理效率受举报量限制,平均处理时间超24小时。
青少年保护措施
平台针对未成年用户推出了青少年模式,在该模式下会过滤不适内容,还会限制使用时长,截至2024年6月,此模式已覆盖超过5000万用户,然而在实际应用当中,许多未成年人借助使用家长设备或者虚假身份信息成功绕开了这些保护措施,平台正在研发更精准的年龄验证技术,预计2025年投入使用。
低俗内容传播现状
平台上低俗内容的传播主要展现出两个特性快手24小时,其一为内容界限蒙昧不清,不同用户对于“低俗”的界定存有差别,其二是这类内容常常能够获取较高的流量,2023年平台总共清理了1.2亿条低俗视频,封禁了800万个相关账号,然而新的低俗内容依旧在持续产生,需要不断更新识别标准以及技术手段。
网红生态与价值导向
平台上当下的网红生态展现出显著的商业化特性,依据2024年上半年数据,平台前100位头部创作者里,有73位主要是以娱乐属性内容见长,这些内容虽说契合平台规则,然而在价值导向层面存有争议,平台正试着借助流量倾斜等办法激励知识科普类内容的创作,不过成效还不显著。
社区治理改进方向
努力需要多方共同来改善一下社区的环境。识别算法内容上面更先进的可以在技术方面引入,多模态检测系统最新研发的在2024年已经能够把识别准确率提升到92%。用户信用体系需要在制度方面完善一下,者采取阶梯式处罚对于违反规定很多次的。并且,平台计划在2025年之前拿出50亿元用于扶持优质内容创作者。
您觉得在短视频平台的内容治理方面,最为应当优先去处理的是哪一个问题呢 ,欢迎于评论区去分享您的看法 ,要是认同本文观点那就请点赞予以支持 。