新京報記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標(biāo)榜“換臉+女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，價格可4元一部，也可158元打包購買700部視頻，多位知名女明星頻被提及。
傳播淫穢視頻是違法犯罪，濫用女明星肖像是侵權(quán)，這都是毋庸多言的常識?？墒强聪嚓P(guān)新聞后的跟帖，不少網(wǎng)友憂心的卻是，“以后女明星真有艷照門是不是可以甩鍋給被換臉”。這當(dāng)然可能是玩笑話，但也從一個側(cè)面印證：技術(shù)本身沒有善惡，是人的認知和意圖決定了善惡。因而最值得擔(dān)憂的，其實不是新技術(shù)如何應(yīng)用，而是各方對新技術(shù)的認知偏差。
這已經(jīng)不是AI新技術(shù)第一次引發(fā)爭議。此前，曾有借助AI技術(shù)自動“脫掉”女性衣服的APP，也有人想做“原諒寶”產(chǎn)品，以檢測女性是否從事過色情行業(yè)。而從保護未成年人、凈化互聯(lián)網(wǎng)空間的角度看，“398元包教會，學(xué)生打七折”的AI換臉技術(shù)，更是毫無下限。
在一些技術(shù)主義者看來，他們只需要考慮新技術(shù)給社會帶來的新可能，而無需考慮可能導(dǎo)致的后果。這樣的想法顯然太過天真：當(dāng)技術(shù)走出工程師的電腦，走向社會應(yīng)用，就必須考慮現(xiàn)實應(yīng)用場景的合法、倫理性，以及不遵守合法、倫理性時可能導(dǎo)致的災(zāi)難。
幸好，這兩項“創(chuàng)新”很快遭到輿論猛烈抨擊，已被扼殺在萌芽狀態(tài)。“創(chuàng)新者”非但沒有取得預(yù)想的成功，反而為之付出慘痛代價。這是一個很好的警示。
隨著AI技術(shù)的發(fā)展，追求新機會的創(chuàng)業(yè)者們當(dāng)然可以展開想象力，但在創(chuàng)新過程中，最好記得法律和倫理的邊界。不要僥幸于新技術(shù)的監(jiān)管或者法規(guī)的滯后，因為，公共倫理、社會輿論同樣是無形但卻有力的約束。
當(dāng)然，這是對主觀并不存在作惡意圖的技術(shù)信奉者而言，對于用淫穢視頻“定制”女星的這些人來說，他們本就在鋌而走險，他們信奉的不是技術(shù)，而是利益。無論有沒有使用新技術(shù)，都在法律打擊的范疇之列。新技術(shù)的出現(xiàn)，只不過是給他們制造了賺錢的新噱頭而已。所以，針對此種互聯(lián)網(wǎng)亂象，重要的還是加強執(zhí)法力度。除了供給方之外，還特別需要提醒淫穢視頻的購買者。參與定制，甚至提供女性照片給對方，這等于是在參與違法犯罪，面臨不可測的法律風(fēng)險。
互聯(lián)網(wǎng)發(fā)展過程中，若技術(shù)被應(yīng)用于此類違法行為，實際上影響的，是人們對技術(shù)本身的信任。像淫穢視頻“定制”女星這種事，不會創(chuàng)造什么新的可能和福利，不過是用新技術(shù)滿足庸俗的嗜好和盈利的沖動。對其批判和加強執(zhí)法打擊力度，該是最好的回應(yīng)。
