今天，抖音舉辦“安全與信任中心開放日”活動(dòng)，相關(guān)業(yè)務(wù)負(fù)責(zé)人介紹，抖音推薦系統(tǒng)采用“人工+機(jī)器”協(xié)同的方式進(jìn)行風(fēng)險(xiǎn)治理，通過多目標(biāo)體系算法主動(dòng)打破“信息繭房”，為用戶呈現(xiàn)更豐富多元、實(shí)用可靠的推薦內(nèi)容。
推薦算法的出現(xiàn)，得益于人工智能技術(shù)的發(fā)展。抖音算法工程師劉暢介紹，抖音的推薦算法與國(guó)內(nèi)外大部分內(nèi)容推薦平臺(tái)相似，包含召回、過濾、排序等環(huán)節(jié)，重點(diǎn)在于對(duì)用戶行為的學(xué)習(xí)。算法能夠在完全“不理解內(nèi)容”的情況下，找到興趣相似的用戶，將其他人感興趣的內(nèi)容推薦給該用戶。目前，抖音算法已基本不依賴對(duì)內(nèi)容和用戶打標(biāo)簽，而是通過神經(jīng)網(wǎng)絡(luò)計(jì)算，預(yù)估用戶行為，計(jì)算用戶觀看這條內(nèi)容獲得的價(jià)值總和，把排名靠前的內(nèi)容推給用戶。
開放日現(xiàn)場(chǎng)。劉胤衡/攝
“用戶長(zhǎng)期價(jià)值，是抖音推薦算法的‘北極星指標(biāo)’，也是我們最核心的業(yè)務(wù)目標(biāo)。”劉暢表示，抖音更關(guān)注用戶長(zhǎng)期價(jià)值，而非追求平臺(tái)短期數(shù)據(jù)。為此，抖音算法綜合考量完播、評(píng)論、點(diǎn)贊、對(duì)作者長(zhǎng)期消費(fèi)、分享、跟拍等眾多目標(biāo)，力求計(jì)算出更契合用戶長(zhǎng)期價(jià)值的結(jié)果。
劉暢說，為引導(dǎo)算法打破“信息繭房”，抖音算法在多目標(biāo)建模體系下設(shè)置專門的探索維度：一是針對(duì)用戶已展現(xiàn)出的興趣，通過多樣性打散、多興趣召回、扶持小眾（長(zhǎng)尾）興趣等方法，控制相似內(nèi)容出現(xiàn)頻次，推薦更多樣的內(nèi)容；二是幫助用戶探索更多新興趣，采用隨機(jī)推薦、基于社交關(guān)系拓展興趣、搜索推薦聯(lián)動(dòng)、“不感興趣”不再展現(xiàn)等多種方式，讓用戶主動(dòng)行為影響推薦系統(tǒng)，使推薦更加個(gè)性化和多樣化。
抖音生態(tài)運(yùn)營(yíng)經(jīng)理陳丹丹坦言，算法雖能學(xué)習(xí)并預(yù)估用戶行為，但因其無法理解內(nèi)容語(yǔ)義，可能導(dǎo)致違法違規(guī)及不良內(nèi)容被推薦傳播。因此，在實(shí)際應(yīng)用場(chǎng)景中，須通過平臺(tái)治理體系對(duì)算法進(jìn)行約束和規(guī)范。
陳丹丹介紹，抖音構(gòu)建了“人工參與+機(jī)器學(xué)習(xí)”相結(jié)合的內(nèi)容治理體系，并組建了專門的平臺(tái)治理團(tuán)隊(duì)，為算法設(shè)置“護(hù)欄”。在內(nèi)容審核方面，采用“人工+機(jī)器”協(xié)同模式，“機(jī)器”負(fù)責(zé)“寬度”評(píng)估所有投稿，“人工”負(fù)責(zé)“深度”，針對(duì)專業(yè)、敏感或疑難等問題進(jìn)行精準(zhǔn)研判。
用戶參與反饋機(jī)制。抖音集團(tuán)供圖
陳丹丹表示，創(chuàng)作者將內(nèi)容上傳至抖音后，首先進(jìn)入機(jī)器識(shí)別環(huán)節(jié)。如果內(nèi)容被識(shí)別出含有高危特征，將被直接攔截；若未命中高危特征但模型判斷存在問題，則會(huì)送至人工審核；若問題概率較低，則獲得基礎(chǔ)流量進(jìn)入下一環(huán)節(jié)。視頻被舉報(bào)、評(píng)論區(qū)出現(xiàn)集中質(zhì)疑、流量激增等情況，均可能觸發(fā)“人工+機(jī)器”審核機(jī)制。
針對(duì)社會(huì)普遍關(guān)心的、對(duì)用戶造成較多困擾的焦點(diǎn)問題，抖音成立多個(gè)專項(xiàng)治理團(tuán)隊(duì)，針對(duì)詐騙、網(wǎng)暴、虛假擺拍、未成年人保護(hù)、網(wǎng)絡(luò)水軍、AIGC技術(shù)濫用等重大專項(xiàng)風(fēng)險(xiǎn)進(jìn)行治理。為遏制不實(shí)信息傳播，抖音近日上線了辟謠卡。對(duì)于能讓用戶有收獲、有驚喜、有共鳴的優(yōu)質(zhì)內(nèi)容，抖音增加了專門的推薦子鏈路，標(biāo)記為優(yōu)質(zhì)內(nèi)容子品牌的內(nèi)容，均有機(jī)會(huì)獲得流量扶持。