新華社北京3月19日電 題：給互聯(lián)網(wǎng)新技術(shù)新應(yīng)用提前劃“紅線”——國家網(wǎng)信辦、公安部約談11家企業(yè)傳遞監(jiān)管新信號

新華社記者 王思北、顏之宏

近日，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)加強(qiáng)對語音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估工作，并對近期未履行安全評估程序的11家企業(yè)進(jìn)行約談，引發(fā)社會(huì)關(guān)注。

專家認(rèn)為，不同于以往的事后監(jiān)管，此次安全評估工作和約談給有關(guān)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用提前劃“紅線”，“事前規(guī)制”有利于企業(yè)及時(shí)發(fā)現(xiàn)安全隱患，整改安全問題，切實(shí)履行信息內(nèi)容安全主體責(zé)任，維護(hù)網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。

根據(jù)國家網(wǎng)信辦發(fā)布的通報(bào)，此次安全評估工作主要針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，旨在加強(qiáng)對具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)和相關(guān)新技術(shù)新應(yīng)用的安全管理，規(guī)范互聯(lián)網(wǎng)信息服務(wù)活動(dòng)，切實(shí)維護(hù)國家安全、社會(huì)秩序和公共利益。

2018年11月，國家網(wǎng)信辦和公安部聯(lián)合發(fā)布《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》。根據(jù)這一規(guī)定，出現(xiàn)具有輿論屬性或社會(huì)動(dòng)員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能；使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更；用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開展安全評估，對評估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門和公安機(jī)關(guān)提交報(bào)告。網(wǎng)信部門和公安機(jī)關(guān)根據(jù)對安全評估報(bào)告的書面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對互聯(lián)網(wǎng)信息服務(wù)提供者開展現(xiàn)場檢查。

針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國家網(wǎng)信辦、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)依法約談?dòng)晨?、小米、快手、字?jié)跳動(dòng)、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)，督促其按照網(wǎng)絡(luò)安全法、《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開展安全評估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

記者了解到，近幾年，一批如唱歌類、一對一語音聊天室等方式的語音社交類軟件開始涌現(xiàn)，成為不少年輕群體的社交新選擇。一方面，語音社交拓展了人們的社交渠道，增強(qiáng)了部分人群的連接效率，但同時(shí)也存在使用門檻低、內(nèi)容隱匿性強(qiáng)等特點(diǎn)。

而“深度偽造”技術(shù)則利用機(jī)器的深度學(xué)習(xí)，實(shí)現(xiàn)圖像、聲音、視頻的篡改、偽造和自動(dòng)生成，產(chǎn)生高度逼真且難以甄別的效果。

“‘深度偽造’技術(shù)如果濫用，會(huì)產(chǎn)生嚴(yán)重后果?！敝袊畔踩芯吭焊痹洪L左曉棟舉例說，此前國外一些人利用換臉技術(shù)偽造藝人的影像資料，就引發(fā)過網(wǎng)友對該項(xiàng)技術(shù)的熱議。

2019年12月，國家網(wǎng)信辦發(fā)布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，明確網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和生產(chǎn)者、平臺不得開展網(wǎng)絡(luò)暴力、人肉搜索、深度偽造、流量造假、操縱賬號等違法活動(dòng)。

左曉棟說，此次有關(guān)部門約談相關(guān)企業(yè)，一方面是為了給部分平臺上存在涉“深度偽造”技術(shù)、存在的安全隱患敲警鐘，另一方面也要求行業(yè)內(nèi)的相關(guān)企業(yè)依法依規(guī)保護(hù)用戶個(gè)人信息和名譽(yù)權(quán)，對于可能涉嫌違法犯罪的相關(guān)線索，要及時(shí)上報(bào)有關(guān)監(jiān)管部門。

專家認(rèn)為，語音社交軟件由于其使用門檻低、內(nèi)容隱匿性強(qiáng)等特點(diǎn)，也給監(jiān)管造成了較大難度。因此，在推動(dòng)這一新興行業(yè)發(fā)展的同時(shí)，也要吸取以往在短視頻、直播平臺治理方面的經(jīng)驗(yàn)教訓(xùn)，對語音社交產(chǎn)品進(jìn)行前瞻性監(jiān)管。

“這次約談釋放了一個(gè)比較明確的信號，就是在新技術(shù)新應(yīng)用尚未在國內(nèi)造成較大影響的時(shí)候，監(jiān)管部門提前介入，給企業(yè)打預(yù)防針?！辟Y深互聯(lián)網(wǎng)行業(yè)專家尹生說。他建議，在對某項(xiàng)技術(shù)進(jìn)行“事前規(guī)制”的同時(shí)，相關(guān)部門也應(yīng)著力提升監(jiān)管技術(shù)，用技術(shù)管住技術(shù)，以此來提高監(jiān)管實(shí)效和質(zhì)量。

據(jù)悉，下一步，國家網(wǎng)信辦、公安部將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動(dòng)履行安全管理義務(wù)，切實(shí)履行企業(yè)主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。