9月6日消息，快手今日發(fā)布《2023暑期青少年數(shù)據(jù)報(bào)告》。報(bào)告顯示，今年6月28日起，快手開展為期2個(gè)月的暑期未成年人網(wǎng)絡(luò)環(huán)境專項(xiàng)治理，全面深入清理不良信息和內(nèi)容，對(duì)于涉未成年人不良信息從深從細(xì)整治、從嚴(yán)從重處置。

專項(xiàng)治理重點(diǎn)包括：涉未成年人的有害信息，尤其利用諧音變體、AI等傳播有害信息；欺騙、誘導(dǎo)未成年人，如教授未成年人破解防沉迷系統(tǒng)等；未成年人網(wǎng)絡(luò)霸凌，如惡意傳播泄露未成年人隱私的欺凌視頻；利用未成年人群體或身份炒作、博取關(guān)注；影響未成年人身體健康的不良信息和行為，如誘導(dǎo)吸煙喝酒等；其他嚴(yán)重侵害未成年人合法權(quán)益的有害信息。

快手《2023暑期青少年數(shù)據(jù)報(bào)告》截圖

來源：快手大數(shù)據(jù)研究院公眾號(hào)

報(bào)告數(shù)據(jù)顯示，在兩個(gè)多月的時(shí)間里，快手通過暑期專項(xiàng)治理共處置違規(guī)視頻182778條、違規(guī)賬號(hào)6387個(gè)。

據(jù)介紹，隨著生成式AI技術(shù)的迅速發(fā)展和普及，在“不良內(nèi)容、重點(diǎn)賬號(hào)、評(píng)論治理”等3個(gè)傳統(tǒng)場(chǎng)景進(jìn)行重點(diǎn)治理的基礎(chǔ)上，快手今年在“生成式人工智能”場(chǎng)景下專項(xiàng)提升算法的識(shí)別能力，圍繞未成年人暑期網(wǎng)絡(luò)環(huán)境專項(xiàng)治理重點(diǎn)領(lǐng)域，根據(jù)治理要求的迭代，不斷細(xì)化審核規(guī)則、搭建1個(gè)專項(xiàng)審核隊(duì)列，通過“4+1”的模式全面壓縮有害信息隱形變異的生存空間，遏制侵害未成年人權(quán)益的違法行為。

快手《2023暑期青少年數(shù)據(jù)報(bào)告》

來源：快手大數(shù)據(jù)研究院公眾號(hào)

快手面向4大治理場(chǎng)景升級(jí)了青少年保護(hù)專屬算法模型。其中，針對(duì)不良內(nèi)容，采用了未成年人算法識(shí)別模型、皮膚裸露面積識(shí)別模型；針對(duì)重點(diǎn)賬號(hào)，采用了兒童人臉與場(chǎng)景結(jié)合識(shí)別模型、異常用戶識(shí)別算法模型；針對(duì)評(píng)論治理場(chǎng)景，采用了語音語義識(shí)別算法模型和諧音詞、變異詞識(shí)別模型；針對(duì)生成式人工智能，采用了Al轉(zhuǎn)換內(nèi)容識(shí)別模型。

此外，根據(jù)新出現(xiàn)的不良內(nèi)容樣本，在此前三重機(jī)審+多重人審的基礎(chǔ)上，進(jìn)一步細(xì)化審核規(guī)則在暑期專項(xiàng)期間，搭建涉及校園主題專項(xiàng)審核隊(duì)列。要求審核經(jīng)驗(yàn)豐富審核員對(duì)相關(guān)內(nèi)容進(jìn)行專審，按照從嚴(yán)審核的標(biāo)準(zhǔn)處置相關(guān)不良視頻。