巨大隱患:亞馬遜新語音技術或被不法分子偽造聲音


北京時間6月24日消息,當地時間周三,亞馬遜AI語音數字助理Alexa可模仿任何聲音的人性化演示文稿在網絡上引起轟動,人們對於是否可能出現偽造聲音的情況表示擔憂,例如使用合法錄音來模仿人們說他們實際上沒有說過的話,來實施綁架詐騙或在公司重大決策中偽造音頻。

當地周三,亞馬遜高級副總裁羅希特·普拉薩德(Rohit Prasad)透露其公司正在開發一種系統,可使AI語音數字助理Alexa在聽不到一分鐘音頻後模仿任何聲音。

該技術研發的消息公佈時,人們隻是簡單地想到其帶來的好處,Alexa的首席科學傢Rohit Prasad也在周三的公司演示中充分展示瞭數字助理的人性化,演示瞭Alexa冒充一位祖母閱讀《綠野仙蹤》摘錄的畫面。他表示,同理心和情感等人類特征是與人建立信任的關鍵,“在疫情持續的這段時間裡,當我們失去瞭我們所愛的人時,這些屬性變得更加重要”,“雖然人工智能無法消除那種失落的痛苦,但絕對可以讓他們的記憶永存。”該演示給人以將該技術作為一種數字化死者復活工具的印象。

但普拉薩德在隨後拉斯維加斯舉行的亞馬遜技術會議中表示,該服務的主要目的不是模擬死者的聲音。

隨著該演示在網絡上發酵討論,引發瞭巨大轟動,與此同時出現瞭一些表示擔憂的聲音——是否會使用合法的錄音來模仿人們說他們實際上沒有發聲的話。佈法羅大學計算機科學與工程教授Siwei Lyu的研究涉及深度偽造和數字媒體取證,他表示他對這一發展感到擔憂,“亞馬遜開發的語音轉換技術肯定有好處,但我們應該意識到潛在的誤用,例如綁匪可以在電話中偽裝成傢人或朋友來引誘不知情的受害者,或者高層管理人員在對公司財務狀況發表言論時偽造錄音,可能會使股市出現問題。”

雖然亞馬遜沒有透露Alexa的新功能何時推出,但類似的技術可能會讓這種惡作劇變得容易得多。普拉薩德說,亞馬遜已經學會根據不到一分鐘人的講話來模擬聲音,而以前需要在工作室裡才能完成這些工作。



相關推薦

2023-11-29

面的有效性超過 95%。張說:“雖然我不知道人工智能語音技術的下一步會是什麼——新的工具和功能一直在開發——但我確實認為我們利用對手的技術來對抗他們的策略將繼續有效。”任何需要的人都可以免費獲得防偽代碼:ht

2024-03-02

團”及其關聯視頻號“華仔集結號”,通過信息技術手段偽造劉德華的聲音,並在未經授權許可的情況下,連續發佈剪輯拼湊視頻。導致公眾發生誤認,從而達到利用劉先生知名度吸引流量、售賣商品,從中營利的目的。該行為

2022-10-18

根據Engadget獲得的泄露文件,去年,隻有1/3的亞馬遜新員工在辭職、被解雇或被裁員之前在該公司呆90天以上。該報告是亞馬遜在留住員工方面存在嚴重問題的最新跡象,它揭示該公司的估計--其全球消費者領域運營團隊的自然減

2024-03-07

司來說,這筆交易非常有意義,因為AWS服務的電力需求量巨大。Susquehanna 電站已經投入使用,數據中心園區也已竣工,亞馬遜遷入後,將使用 100% 的清潔能源。Talen Energy 於 2020 年成立 Cumulus Data Assets 公司,正是出於這個原因--將

2022-10-21

亞馬遜在英國又遇到麻煩,英國認為亞馬遜偏愛自傢產品,濫用市場壟斷性地位,向它索賠9億英磅(約10億美元)英國消費者權益保護組織JulieHunter準備代表英國消費者向亞馬遜發起集體訴訟,這些消費者自2016年10月以來曾通過

2024-04-01

讀文字。這彰顯人工智能的一個新領域,並引發關於深度偽造的擔憂。該公司分享名為“語音引擎”(VoiceEngine)的文本轉語音模型小規模試用的早期演示和用例,據發言人介紹,目前約有10傢開發商可使用該模型。OpenAI在3月早

2022-08-18

據報道,亞馬遜似乎也想模仿TikTok,在App內引入類似TikTok風格的內容。亞馬遜正在測試新功能,它準備在App內植入類TikTok的動態內容,購物者可以像TikTok一樣滾動查看產品照片和視頻,這些內容由其它用戶提供。新功能名叫Inspir

2023-11-11

在基礎設施方面的建設,以及技術層面的積累,使其擁有巨大的競爭優勢。“Olympus”的出現將成為一個明確的信號:亞馬遜希望在AI時代開發屬於自己的LLM,不在關鍵技術上依賴他人。據悉,因技術問題以及ChatGPT的出現,亞馬

2022-07-26

亞馬遜將從9月起將其Prime月租服務的價格提高12.5%--即1英鎊--至8.99英鎊,德國亞馬遜的用戶也在今天早晨收到漲價通知信,漲價幅度同樣為1歐元。這是快遞成本上升的最新跡象。該公司表示,年度Prime套餐的費用將上漲更多:20%

2024-03-16

求轉賬的視頻電話等,但是這些所謂的視頻電話其實都是不法分子通過AI技術進行人臉、聲音的模仿進而偽造出來的。在上述這些具體案例中,AI擬聲、AI視頻都隻有幾秒鐘,而背後原因是現有的技術還不能支撐真正的長時間視頻

2022-10-18

學習和發展部門看起來依然有些雜亂無章,而且可能存在巨大浪費,但亞馬遜顯然正通過名為Brilliant Basics的新計劃對其進行精簡。亞馬遜拒絕就這些文件置評。一位發言人稱:“作為一傢公司,我們認識到,是我們的員工每天

2022-10-05

久的標識符。追蹤軟件也使用這個系統,承諾找到你丟失或被盜的設備,而執法部門也已經使用IMEI多年。

2022-12-11

長期以來,亞馬遜一直是科技行業的頂級雇主之一。網上購物持續增長,而亞馬遜的兩個主要利潤引擎,雲服務和廣告,增長得更快。如果你在亞馬遜找到一份白領工作,無論你在那裡呆兩年還是十年,你的職業生涯似乎已經確

2023-11-23

我們的民主。"印度信息技術部長與來自 Meta、Google、亞馬遜和其他公司的高管合影 圖片來源:印度新聞局