近日,一款名為“小肚皮”的App軟件在眾多家長之間引起了軒然大波。起因是一名家長發(fā)現(xiàn)家教機(jī)里這款定位為“超好玩的00后小窩”的社交聊天軟件里竟含有不適合孩子觀看的“成人內(nèi)容”。
目前“小肚皮”軟件已經(jīng)緊急下架,開發(fā)者表示問題“可能是審查疏忽導(dǎo)致”,受制于機(jī)器識(shí)別的算法水平,難免有內(nèi)容的“漏網(wǎng)之魚”,而人工處理又需要時(shí)間。從安卓系統(tǒng)的應(yīng)用商店顯示,該App下載量為657.3萬,面對(duì)如此龐大的用戶群體,“審查疏忽”的解釋顯得過于蒼白無力,針對(duì)未成年群體的內(nèi)容審核,我們更應(yīng)該破除技術(shù)依賴,協(xié)同多方力量,打造風(fēng)清氣正的內(nèi)容生態(tài)。
據(jù)共青團(tuán)中央維護(hù)青少年權(quán)益部、中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)聯(lián)合發(fā)布的《2019年全國未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》顯示,2019年我國未成年網(wǎng)民規(guī)模為1.75億,未成年人互聯(lián)網(wǎng)普及率達(dá)到93.1%。互聯(lián)網(wǎng)對(duì)于低齡群體的滲透能力持續(xù)增強(qiáng),32.9%的小學(xué)生網(wǎng)民在學(xué)齡前就開始使用互聯(lián)網(wǎng)。
目前市場上針對(duì)未成年人的網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)越來越多,包括早教、游戲、社交等等不一而足,此類網(wǎng)絡(luò)信息范圍廣、種類多。由于目標(biāo)群體的特殊性,相關(guān)網(wǎng)絡(luò)內(nèi)容監(jiān)督管理和針對(duì)性保護(hù)機(jī)制應(yīng)具有更高的要求。
杜絕違禁內(nèi)容的出現(xiàn)是未成年人網(wǎng)絡(luò)生態(tài)治理的首要要求。未成年人正處在探索世界的關(guān)鍵階段,充滿了十足的好奇心,而且辨別能力不足,甚至因?yàn)?ldquo;不禁不為”“愈禁愈為”的逆反心理,對(duì)此類違禁內(nèi)容具有更多的探索欲望。這些內(nèi)容往往因?yàn)榇碳?、獵奇,能夠?qū)⒆觽儺a(chǎn)生一定的吸引力和感召力。自我約束能力在面對(duì)這些信息時(shí),有時(shí)較難起到作用。如果在同伴之間傳播開來,衍生的話題性和分享感更是會(huì)加速傳播的進(jìn)程。只有從根本上斬?cái)噙`禁內(nèi)容生產(chǎn)和傳播的鏈條,才能更好地保護(hù)未成年人免受毒害內(nèi)容的侵蝕。
人工審核的協(xié)同是處理違禁信息的關(guān)鍵。機(jī)器識(shí)別作為一種更高效、成本更低的審核方式,已經(jīng)成為互聯(lián)網(wǎng)內(nèi)容安全審核的主力。但我們無法否認(rèn)的是,目前的機(jī)器識(shí)別水平對(duì)于很多內(nèi)容來說審核難度過大,且識(shí)別效果不準(zhǔn)確:如文字中攜帶的形變、音變與直接赤裸顯示粗陋內(nèi)容;圖片中常見的血腥、帶有諷刺性、暗示性的內(nèi)容導(dǎo)向,等等。這些內(nèi)容恰恰是不良內(nèi)容的“重災(zāi)區(qū)”,因此,我們不能對(duì)機(jī)器算法抱有過高的期待,必須要加強(qiáng)人工審核力度、提高審核標(biāo)準(zhǔn)。
家庭的引導(dǎo)和監(jiān)督是內(nèi)容安全防護(hù)不可或缺的一環(huán)。作為網(wǎng)絡(luò)原住民的00后一代幾乎可以無師自通地學(xué)會(huì)上網(wǎng),但他們?nèi)鄙俚氖潜匾木W(wǎng)絡(luò)風(fēng)險(xiǎn)識(shí)別能力。很多父母經(jīng)常用一部手機(jī)來讓“熊孩子”們安靜下來,但是也很容易讓他們暴露于網(wǎng)絡(luò)空間的危險(xiǎn)之中。因此,即使是玩手機(jī),父母的陪伴和引導(dǎo)也同樣不可缺席,家長需要合理引導(dǎo)孩子的興趣點(diǎn),及時(shí)規(guī)避不健康內(nèi)容。
正在審議中的未成年人保護(hù)法特別提出了針對(duì)未成年人的網(wǎng)絡(luò)保護(hù),專家建議在第六十四條中增加完善針對(duì)未成年人的網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)的準(zhǔn)入制度,加強(qiáng)對(duì)網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)的監(jiān)管。我們也期待,在頂層設(shè)計(jì)之下,能夠切實(shí)多方合力,營造健康、文明、有序的網(wǎng)絡(luò)環(huán)境,抵御不良侵害,為未成年人提供更多的成長力量。
常菲