近期在網(wǎng)絡(luò)上流傳郭德綱“講”英文相聲的相關(guān)視頻引起網(wǎng)友的熱議，大家對(duì)于人工智能的強(qiáng)大紛紛感嘆。當(dāng)大家看到這一視頻之后，第一反應(yīng)就是用自己的常識(shí)來(lái)判斷視頻的真假性，這些視頻非常的好判斷。首先大家會(huì)了解到郭德綱的英語(yǔ)并沒(méi)有這么流暢，所以肯定會(huì)認(rèn)為視頻是假的。但同時(shí)也引發(fā)了人們的思考，在如此強(qiáng)大的技術(shù)之外，仍然存在著各種風(fēng)險(xiǎn)。

如果想要生成這么一段視頻，首先需要將相關(guān)的數(shù)據(jù)上傳在AI模型上。比如人臉的面部特征以及聲音的相關(guān)特征等等，然后再使用一系列的算法，經(jīng)過(guò)系統(tǒng)運(yùn)算之后，就可以拿到想要的結(jié)果。隨著人工智能的發(fā)展越來(lái)越強(qiáng)大，對(duì)于一些細(xì)節(jié)方面的處理更加細(xì)化，視頻的真假鑒別難度也越來(lái)越大。

同時(shí)在網(wǎng)絡(luò)上生成這樣的視頻也會(huì)涉及到個(gè)人肖像權(quán)以及聲音權(quán)等等。我國(guó)的民法典有明確規(guī)定，合理使用行為可以不經(jīng)肖像權(quán)人許可，但是合理使用的行為要求范圍要求都有對(duì)應(yīng)的規(guī)定。借助人工智能生成相關(guān)的視頻，是否存在合理性，在當(dāng)下也有很大的爭(zhēng)議。

這種強(qiáng)大的技術(shù)以及生成的視頻，也很有可能導(dǎo)致很多人受騙。比如有些人會(huì)利用生成式AI詐騙錢財(cái)，或者利用生成式AI制作虛假?gòu)V告代言，進(jìn)行各種違法犯罪活動(dòng)等等。當(dāng)下我國(guó)已經(jīng)出現(xiàn)有人因?yàn)锳I換臉被詐騙等各種各樣的案例。技術(shù)的本身是沒(méi)有任何價(jià)值觀的，通過(guò)我們的操作之后可能就會(huì)普及到各種法律紅線。現(xiàn)在AI安全性問(wèn)題也成為全球關(guān)注的問(wèn)題，剛剛結(jié)束的全球首屆AI安全峰會(huì)上，各個(gè)國(guó)家也都在呼吁使用人工智能需要與安全為本，以人為本。