AI改變生活，也迭代“騙術(shù)”！
2023-5-24 10:01:53??????點擊：
2023年，ChatGPT幾乎一夜之間爆火。ChatGPT之所以大火，主要在于它踩在生成式AI上，可以簡單理解成為“聊天機器人”。
在我們?nèi)栽趽?dān)憂未來某一天生成式AI在文字創(chuàng)作、AI繪畫、AI翻譯、AI客服等方面替代人工，造就一部分失業(yè)的可能性的時候，一些犯罪分子則盯上了AI技術(shù)，實施電信詐騙，讓人防不勝防！
近日，包頭警方發(fā)布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。讓人不可思議的是，犯罪分子通過智能AI換臉和模擬聲音技術(shù)獲取信任，讓人根本無法分辨真假！可以說，AI在改變我們的生活，也讓我們在AI時代可能遭遇更多的不可預(yù)測的風(fēng)險。
來AI的“降維式打擊”
上述電信詐騙案例是用AI技術(shù)行騙的典型案例。與之前通過純粹電話、微信添加好友等方式不同，犯罪分子直接利用AI換臉和模擬聲音技術(shù)通過微信視頻聯(lián)系受害人，輕易獲得信任，畢竟視頻圖像+聲音的“惟妙惟肖”讓人很難想到視頻另一頭是在作假行騙。
按照受害人的描述，4月20日中午，郭先生的好友突然通過微信視頻聯(lián)系他，短暫聊天后，好友告訴郭先生，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢轉(zhuǎn)到了郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給郭先生。基于對好友的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上。然而，在郭先生發(fā)微信消息稱事情已經(jīng)辦妥之后，好友的反應(yīng)讓其明白他自己遇上了高端的電信詐騙。
盡管福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移，目前正在全力追繳中。
實際上，類似的案例在最近幾年里數(shù)不勝數(shù)。2019年，《華爾街日報》就報道過，有犯罪分子成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了22萬歐元巨款。據(jù)悉，今年4月，加拿大犯罪分子利用AI技術(shù)合成親人聲音實施詐騙，3天內(nèi)至少8人上當(dāng)，受害者多為老年人。而在美國，類似的詐騙案件近期也呈上升趨勢。
在這里要特別提一下“AI換臉”技術(shù)和AI聲音合成技術(shù)。AI換臉技術(shù)是指利用深度學(xué)習(xí)技術(shù)和AI換臉軟件，將人面部特征替換成其他人的臉龐。比如，AI換臉中的Deepfake技術(shù)，只需要一張正臉照片，就能夠?qū)⒁曨l中的人臉進行置換。更為恐怖的是，有一種視頻聊天實時換臉技術(shù)，可以將人臉照片直接替換視頻聊天中，讓照片根據(jù)你的人臉做動作，擠眉弄眼、聊天都不是問題。
而AI語音合成軟件的工作原理是將一個人的聲音分解成不同的組成部分，比如音軌或音節(jié)，然后將這些組成部分重新排列，形成具有相似語音模式、音調(diào)和音色的新語音。這種技術(shù)被稱為“Deepfake音頻”。犯罪分子利用這種技術(shù)，可以通過合成可信任人的聲音等方式進行詐騙。
可以說，在AI技術(shù)的助力下，人們未來可能遭受更多來自人工智能技術(shù)的“降維式的打擊”，而且在犯罪分子掌握受害人足夠的信息之后，比如從微信、QQ等應(yīng)用程序上獲得號主的照片、視頻等，就可以通過“AI換臉”技術(shù)與之進行視頻聊天，進而幫助犯罪分子進行下一步的行動。
AI是一把“雙刃劍”
過去一年時間里，由于ChatGPT突然火爆起來，各大科技巨頭和創(chuàng)新公司都加入在AIGC技術(shù)的研發(fā)中，掀起了AI技術(shù)創(chuàng)作熱潮。
目前，越來越多企業(yè)加入AIGC發(fā)展大潮，通過大模型的跨模態(tài)綜合技術(shù)能力激發(fā)創(chuàng)意，提升創(chuàng)意內(nèi)容多樣性，降低制作成本，實現(xiàn)大規(guī)模應(yīng)用。數(shù)十秒內(nèi)創(chuàng)作一張此前需要人力數(shù)天才能創(chuàng)作出來的海報；一分鐘內(nèi)創(chuàng)作出人們需要數(shù)小時才能完成的文字創(chuàng)作；實時、高效、準確回答人們提出的各種問題……
2022年 8 月，美國游戲設(shè)計師 Jason Allen 就憑借一幅 AI 繪畫作品《太空歌劇院（Théatre D'opéra Spatial）》，獲得了美國科羅拉多州博覽會美術(shù)競賽一等獎。未來，我們將看到AI技術(shù)在生活中帶來的各種便利，幫助人類解決很多復(fù)雜的問題，提高生活和工作的質(zhì)量和效率。
然而，AI技術(shù)是一把雙刃劍，新工具的誕生無疑會引發(fā)一系列新的社會問題。當(dāng)然，上述提到的利用AI行騙是眾多負面影響之一。生成式AI還對版權(quán)、專利、學(xué)術(shù)等帶來了諸多影響。
有人認為，AI是未來。但也有人認為，AI寫作就是抄襲。目前，美國不少大學(xué)宣布禁止學(xué)生使用生成式AI工具；美國大部分的州也已禁用。日本多所大學(xué)提出針對生成式人工智能的限制措施，但具體內(nèi)容不盡相同。東京大學(xué)則禁止學(xué)生完全使用生成式AI撰寫論文。
今年2月，美國版權(quán)局在一封信件中表示，人工智能（AI）繪畫工具Midjourney制作的一部漫畫中的插圖不受版權(quán)保護，因為作者只是為AI繪畫工具提供文本提示，并不是最后生成圖像的“主腦”，不能算創(chuàng)作者。這是美國法院或官方機構(gòu)首次就AI創(chuàng)作作品的版權(quán)保護范圍作出裁定。
讓人啼笑皆非的是，今年3月，在美國前總統(tǒng)特朗普預(yù)言自己會被捕而沒有如期被捕時，有人用AI繪畫出特朗普被捕、審判、入獄、及逃獄的畫面，畫面惟妙惟肖，宛如現(xiàn)場直播畫面，爆火全球網(wǎng)絡(luò)。
此前不久，一名擁有百萬粉絲的女網(wǎng)紅也爆出了一起“AI換臉”事件，被人AI換臉用于另外視頻之中，讓其飽受傷害。
可以說，AI在給我們生活帶來諸多有利變化的同時，也在對人們的財產(chǎn)和心理造成巨大沖擊，使用不當(dāng)則會給我們自己割下深深的傷口。
對AI立法和監(jiān)管刻不容緩
正是因AI帶來我們的“雙面性”影響，已有越來越多國家開始加大對AI技術(shù)的監(jiān)管與立法。
過去數(shù)月里，隨著OpenAI公司的ChatGPT等人工智能軟件快速爆火，社會各界也呼吁加強AI技術(shù)的監(jiān)管。比如，馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及上千名專家聯(lián)名呼吁暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)。馬斯克就曾表示，“任何先進技術(shù)都可能威脅人類安全，而AI對于人類來說，則是一個更大的安全隱患。”
實際上，在AI立法上，歐洲可謂敢為人先。2021年4月，歐盟發(fā)布了一個長達108頁的文件。這是全球首部試圖監(jiān)管AI的立法提案。此前，歐洲多個國家也相繼宣布或考慮對ChatGPT進行調(diào)查監(jiān)管。5月初，歐洲議會還通過了《人工智能法案》提案的談判授權(quán)草案，旨在確保人工智能系統(tǒng)受到監(jiān)督。
今年4月，意大利成為首個全面禁止使用ChatGPT的西方國家。這也是西方國家政府首次親自下場，明確對ChatGPT說“不”。當(dāng)然，意大利數(shù)據(jù)保護局隨后也對OpenAI提出了一系列有關(guān)信息安全的要求，基于滿足這些要求的前提下，ChatGPT才會允許重新在意大利上線。
5月4日，美國副總統(tǒng)哈里斯會見了微軟、谷歌和OpenAI的CEO，討論AI潛在風(fēng)險。美國總統(tǒng)拜登則明確表示，這些AI企業(yè)必須在推出產(chǎn)品之前確保其安全性，"你們正在做的事不僅有巨大的影響力，還將帶來巨大的危害。"
5月16日，美國國會參議院舉行一場名為“AI監(jiān)管：人工智能的規(guī)則”的聽證會。OpenAI的首席執(zhí)行官山姆·阿爾特曼首次赴國會聽證，呼吁政府為AI系統(tǒng)制定安全標準，并提出“政府的監(jiān)管干預(yù)至關(guān)重要”。他認為，“如果這項技術(shù)出現(xiàn)問題，可能會釀成大錯，因此我們希望與政府合作，防止這種情況發(fā)生。”
在當(dāng)前AI大行其道、野蠻式成長的背景下，我們需要通過加大AI監(jiān)管和立法，給AI加裝一個可靠的枷鎖，讓其在合情、合理、合法的框架下運行，真正服務(wù)于人類。
在我們?nèi)栽趽?dān)憂未來某一天生成式AI在文字創(chuàng)作、AI繪畫、AI翻譯、AI客服等方面替代人工，造就一部分失業(yè)的可能性的時候，一些犯罪分子則盯上了AI技術(shù)，實施電信詐騙，讓人防不勝防！
近日，包頭警方發(fā)布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。讓人不可思議的是，犯罪分子通過智能AI換臉和模擬聲音技術(shù)獲取信任，讓人根本無法分辨真假！可以說，AI在改變我們的生活，也讓我們在AI時代可能遭遇更多的不可預(yù)測的風(fēng)險。
來AI的“降維式打擊”
上述電信詐騙案例是用AI技術(shù)行騙的典型案例。與之前通過純粹電話、微信添加好友等方式不同，犯罪分子直接利用AI換臉和模擬聲音技術(shù)通過微信視頻聯(lián)系受害人，輕易獲得信任，畢竟視頻圖像+聲音的“惟妙惟肖”讓人很難想到視頻另一頭是在作假行騙。
按照受害人的描述，4月20日中午，郭先生的好友突然通過微信視頻聯(lián)系他，短暫聊天后，好友告訴郭先生，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢轉(zhuǎn)到了郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給郭先生。基于對好友的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上。然而，在郭先生發(fā)微信消息稱事情已經(jīng)辦妥之后，好友的反應(yīng)讓其明白他自己遇上了高端的電信詐騙。
盡管福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移，目前正在全力追繳中。
實際上，類似的案例在最近幾年里數(shù)不勝數(shù)。2019年，《華爾街日報》就報道過，有犯罪分子成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了22萬歐元巨款。據(jù)悉，今年4月，加拿大犯罪分子利用AI技術(shù)合成親人聲音實施詐騙，3天內(nèi)至少8人上當(dāng)，受害者多為老年人。而在美國，類似的詐騙案件近期也呈上升趨勢。
在這里要特別提一下“AI換臉”技術(shù)和AI聲音合成技術(shù)。AI換臉技術(shù)是指利用深度學(xué)習(xí)技術(shù)和AI換臉軟件，將人面部特征替換成其他人的臉龐。比如，AI換臉中的Deepfake技術(shù)，只需要一張正臉照片，就能夠?qū)⒁曨l中的人臉進行置換。更為恐怖的是，有一種視頻聊天實時換臉技術(shù)，可以將人臉照片直接替換視頻聊天中，讓照片根據(jù)你的人臉做動作，擠眉弄眼、聊天都不是問題。
而AI語音合成軟件的工作原理是將一個人的聲音分解成不同的組成部分，比如音軌或音節(jié)，然后將這些組成部分重新排列，形成具有相似語音模式、音調(diào)和音色的新語音。這種技術(shù)被稱為“Deepfake音頻”。犯罪分子利用這種技術(shù)，可以通過合成可信任人的聲音等方式進行詐騙。
可以說，在AI技術(shù)的助力下，人們未來可能遭受更多來自人工智能技術(shù)的“降維式的打擊”，而且在犯罪分子掌握受害人足夠的信息之后，比如從微信、QQ等應(yīng)用程序上獲得號主的照片、視頻等，就可以通過“AI換臉”技術(shù)與之進行視頻聊天，進而幫助犯罪分子進行下一步的行動。
AI是一把“雙刃劍”
過去一年時間里，由于ChatGPT突然火爆起來，各大科技巨頭和創(chuàng)新公司都加入在AIGC技術(shù)的研發(fā)中，掀起了AI技術(shù)創(chuàng)作熱潮。
目前，越來越多企業(yè)加入AIGC發(fā)展大潮，通過大模型的跨模態(tài)綜合技術(shù)能力激發(fā)創(chuàng)意，提升創(chuàng)意內(nèi)容多樣性，降低制作成本，實現(xiàn)大規(guī)模應(yīng)用。數(shù)十秒內(nèi)創(chuàng)作一張此前需要人力數(shù)天才能創(chuàng)作出來的海報；一分鐘內(nèi)創(chuàng)作出人們需要數(shù)小時才能完成的文字創(chuàng)作；實時、高效、準確回答人們提出的各種問題……
2022年 8 月，美國游戲設(shè)計師 Jason Allen 就憑借一幅 AI 繪畫作品《太空歌劇院（Théatre D'opéra Spatial）》，獲得了美國科羅拉多州博覽會美術(shù)競賽一等獎。未來，我們將看到AI技術(shù)在生活中帶來的各種便利，幫助人類解決很多復(fù)雜的問題，提高生活和工作的質(zhì)量和效率。
然而，AI技術(shù)是一把雙刃劍，新工具的誕生無疑會引發(fā)一系列新的社會問題。當(dāng)然，上述提到的利用AI行騙是眾多負面影響之一。生成式AI還對版權(quán)、專利、學(xué)術(shù)等帶來了諸多影響。
有人認為，AI是未來。但也有人認為，AI寫作就是抄襲。目前，美國不少大學(xué)宣布禁止學(xué)生使用生成式AI工具；美國大部分的州也已禁用。日本多所大學(xué)提出針對生成式人工智能的限制措施，但具體內(nèi)容不盡相同。東京大學(xué)則禁止學(xué)生完全使用生成式AI撰寫論文。
今年2月，美國版權(quán)局在一封信件中表示，人工智能（AI）繪畫工具Midjourney制作的一部漫畫中的插圖不受版權(quán)保護，因為作者只是為AI繪畫工具提供文本提示，并不是最后生成圖像的“主腦”，不能算創(chuàng)作者。這是美國法院或官方機構(gòu)首次就AI創(chuàng)作作品的版權(quán)保護范圍作出裁定。
讓人啼笑皆非的是，今年3月，在美國前總統(tǒng)特朗普預(yù)言自己會被捕而沒有如期被捕時，有人用AI繪畫出特朗普被捕、審判、入獄、及逃獄的畫面，畫面惟妙惟肖，宛如現(xiàn)場直播畫面，爆火全球網(wǎng)絡(luò)。
此前不久，一名擁有百萬粉絲的女網(wǎng)紅也爆出了一起“AI換臉”事件，被人AI換臉用于另外視頻之中，讓其飽受傷害。
可以說，AI在給我們生活帶來諸多有利變化的同時，也在對人們的財產(chǎn)和心理造成巨大沖擊，使用不當(dāng)則會給我們自己割下深深的傷口。
對AI立法和監(jiān)管刻不容緩
正是因AI帶來我們的“雙面性”影響，已有越來越多國家開始加大對AI技術(shù)的監(jiān)管與立法。
過去數(shù)月里，隨著OpenAI公司的ChatGPT等人工智能軟件快速爆火，社會各界也呼吁加強AI技術(shù)的監(jiān)管。比如，馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及上千名專家聯(lián)名呼吁暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)。馬斯克就曾表示，“任何先進技術(shù)都可能威脅人類安全，而AI對于人類來說，則是一個更大的安全隱患。”
實際上，在AI立法上，歐洲可謂敢為人先。2021年4月，歐盟發(fā)布了一個長達108頁的文件。這是全球首部試圖監(jiān)管AI的立法提案。此前，歐洲多個國家也相繼宣布或考慮對ChatGPT進行調(diào)查監(jiān)管。5月初，歐洲議會還通過了《人工智能法案》提案的談判授權(quán)草案，旨在確保人工智能系統(tǒng)受到監(jiān)督。
今年4月，意大利成為首個全面禁止使用ChatGPT的西方國家。這也是西方國家政府首次親自下場，明確對ChatGPT說“不”。當(dāng)然，意大利數(shù)據(jù)保護局隨后也對OpenAI提出了一系列有關(guān)信息安全的要求，基于滿足這些要求的前提下，ChatGPT才會允許重新在意大利上線。
5月4日，美國副總統(tǒng)哈里斯會見了微軟、谷歌和OpenAI的CEO，討論AI潛在風(fēng)險。美國總統(tǒng)拜登則明確表示，這些AI企業(yè)必須在推出產(chǎn)品之前確保其安全性，"你們正在做的事不僅有巨大的影響力，還將帶來巨大的危害。"
5月16日，美國國會參議院舉行一場名為“AI監(jiān)管：人工智能的規(guī)則”的聽證會。OpenAI的首席執(zhí)行官山姆·阿爾特曼首次赴國會聽證，呼吁政府為AI系統(tǒng)制定安全標準，并提出“政府的監(jiān)管干預(yù)至關(guān)重要”。他認為，“如果這項技術(shù)出現(xiàn)問題，可能會釀成大錯，因此我們希望與政府合作，防止這種情況發(fā)生。”
在當(dāng)前AI大行其道、野蠻式成長的背景下，我們需要通過加大AI監(jiān)管和立法，給AI加裝一個可靠的枷鎖，讓其在合情、合理、合法的框架下運行，真正服務(wù)于人類。
- 上一篇：預(yù)估2023年折疊手機出貨量約1,980萬支，年增逾5成 2023/5/25
- 下一篇：簡單說說汽車音響的工作原理 2023/5/24
