AI繪圖詐騙“狂飆”你網戀“對象”可能是AI合成


《狂飆》中有個知名劇情——瘋驢子“上山”。沒想到,現實中有社交平臺熱傳類似劇情,網傳蘇州金雞湖“遊艇女仆party”每位3000元,海報中女孩乍一看和真人無異。警方後續回應:系AI繪圖詐騙,已處置。這差一點成為AI繪圖領域首詐。

從去年“照片一鍵改漫畫”到現在AI可以直接畫照片,AI繪圖又進化?記者調查發現,目前市面上一些AI繪圖真的可以生成逼真的肖像、風景和靜物等圖像,有些繪圖在外觀上憑肉眼觀看,與真實的照片幾乎無法區分。

AI繪圖“狂飆”,分分鐘高清大圖

記者嘗試多款AI繪圖APP,有些AI繪圖相當智能,可以說想要什麼就能畫什麼,和ChatGPT類似,AI繪圖能識別文字,軟件會根據你的描述繪圖,例如紅眼睛、黑頭發,穿什麼衣服,戴什麼帽子,在什麼場景下……繪圖都能實現,描述越詳細,越能接近你想象中的樣子。

這些AI繪圖風格可選,有國風、仙俠、二次元、古風、蒸汽朋克、虛擬人等。甚至還可以選擇“藝術傢”風格,有鳥山明、宮崎駿等,應有盡有。

在模型選擇上,這些AI繪圖有電影寫實、人物照片、超現實照片等,其中人物寫真、人物照片模型則更接近真實照片。這也就是目前網絡上傳的“AI直接畫照片”。


AI繪圖。右圖根據左圖“塗鴉”完成。

有意思的是,這些AI繪圖甚至可以根據的你的隨意“塗鴉”,制作出相似輪廓的圖片,根本不需要美術功底。如果看到喜歡的AI繪圖,還可以“一鍵同款”,生成套圖。

警惕風險,“照騙”和AI共存

目前,部分AI畫出來的“照片”在社交平臺熱傳,真假難辨。如上述“金雞湖女仆遊艇party”事件,據揚子晚報報道:記者從蘇州市公安局工業園區分局獲悉,警方已關註到網傳“金雞湖女仆遊艇party”事件,工作人員告訴記者,“派出所約談消息發佈者,已經處理完。”


AI繪圖。截圖

記者在體驗中也註意到,目前AI繪圖商業化嚴重,有的APP每生產一張圖要強制觀看30秒廣告;還有的繪圖APP打著AI繪圖的幌子,壓根就沒能力繪制圖片,時間全是在看廣告,要麼就是誘導用戶下載APP。

在一些社交平臺上,有用戶不斷分享美輪美奐的AI繪圖,如果想要下載這些圖片,就可能需要觀看廣告,甚至下載廣告推廣的APP。而這些APP來源不明,有可能暗藏風險,其中不少還是網貸APP。

如何實現的,目前都用在哪些領域?

據解,目前的AI繪圖大部分都是在使用一種GAN(生產對抗網絡)技術。ChatGPT稱,一些研究人員使用GAN生成逼真的風景畫,這些畫在色彩和細節方面都非常出色,甚至可以通過人眼難以發現的微小細節來增強真實感。


AI繪圖堪比照片。截圖

不過根據網友反映和記者體驗,AI繪圖在“手”的繪制上面存在不足,雖然可以繪制出精致的臉龐,但“手”的動作看起來並不那麼自然。

有的繪圖APP甚至專門增加“繪手”功能,但這需要消耗更多積分或付費等來獲取這項服務。“繪手功能會基於原圖結構重新生成一張優化手部的圖片。”AI繪圖APP介紹。

據科普中國援引中國科學院工程熱物理研究所高級工程師王沛的文章稱,GAN的應用領域作為一個具有“無限”生成能力的模型,GAN的直接應用就是建模,生成與真實數據分佈一致的數據樣本,例如可以生成圖像、視頻等。此外,GAN已經開始被應用到語音和語言處理、電腦病毒監測、棋類比賽程序等問題的研究中。


相關推薦

2023-03-24

據圖片較早的發佈者在海外社交平臺稱,僅僅是在一些AI繪圖平臺上輸入一句“AI如何看到唐納德·特朗普被捕並坐在監獄裡”。什麼原理?大語言模型根據文字描述制作出相應的圖片已不是什麼新鮮事,而且越來越智能。例如國

2023-11-30

。而除AI替代人類的話題,大傢對AI帶來的換臉、繪畫、詐騙等熱詞也多有關註。隨著AI在諸多領域有成熟的應用,在方便人們的同時也引發一系列法律問題,其中就涉及版權、詐騙等——有熱搜就提到“AI換臉用楊冪等明星賣貨

2023-06-05

,作者:深燃團隊,,授權站長之傢轉載發佈。近期,“AI詐騙正在全國爆發”的話題多次沖上微博熱搜。就在上個月,企業老板郭先生突然接到好友的微信視頻,稱自己急需430萬走賬,看著視頻裡的好友一臉焦慮,郭先生沒多想

2024-02-11

方還透露,不法分子曾使用相同的多人視頻通話策略,試圖詐騙該公司分部的另外一名員工,總共接觸兩到三名員工。但警方未提供有關他們遭遇的完整信息。目前該案還在進一步調查中,尚未對詐騙者實施逮捕。後續在新聞發

2024-02-22

方面解的網友,可以留言告訴我們。一舟智能涉嫌盜用AI繪圖模型我們再來說第二個問題。昨天已經有作者發現自己作品被一舟智能盜用。知乎作者Stay gold詳細對此事進行說明。Stay gold指出一舟智能有兩大問題。第一,一舟智能

2024-08-28

見的便是AI換臉。工信部更是在近期表示,將推出AI換臉詐騙風險提醒功能。一邊是AI換臉詐騙案件屢屢發生,另一邊則是AI換臉技術不斷迭代。AI圈最近被一款AI換臉項目——Deep-Live-Cam,炸開鍋。用戶隻需上傳一張照片,便可實

2023-11-22

商河縣公安局刑警大隊成功破獲一起利用AI換臉技術進行詐騙的案件。這起典型案件涉及一名小夥被以“表哥”身份欺騙,最終騙走 30 萬元人民幣。據解,事發於今年 5 月份,當時一名叫黃某某的小夥在刷短視頻時收到一條私信

2024-02-16

ift)這樣的人需要擔心假新聞。涉及"假冒"的網戀詐騙也在增加,騙子們還冒充公司員工從公司榨取現金。在 YouGov 最近的一項民意調查中,85% 的美國人表示,他們非常擔心或有些擔心誤導性視頻和音頻深度偽造的傳播。

2023-04-02

網消息,最近美國和加拿大各地使用AI合成語音進行電信詐騙的案例多發,不少上當的都是老年人。人工智能語音一直受到業界關註,如今該技術已經發展到需要幾秒鐘的對話就足以準確模仿某人聲音的程度。加拿大警方稱,最

2024-03-02

害劉德華先生的肖像權、姓名權及聲音權益,並涉嫌構成詐騙。映藝娛樂鄭重提醒各方人士提高警惕,避免落入此類AI語音合成技術騙局。

2024-04-23

AI是把雙刃劍,有人已經利用它偽裝成名人實施詐騙。據韓國媒體近日報道,去年7月份,韓國一女子被冒充埃隆·馬斯克的社交媒體賬號詐騙7000萬韓元(約合36萬元人民幣)。當時,受害女子在社交軟件上被一個自稱是埃隆·馬

2023-11-20

假視頻的泛濫,尤其是演藝圈名人中的女性藝人成為中招對象。憤怒的民眾要求政府介入打假行動。為應對這一問題,印度電子和信息技術部已向大型社交媒體發出通知,要求其采取措施來識別並刪除深度偽造內容。政府對社交

2024-10-23

快科技10月23日消息,當前,AI換臉”已經成為一種新型詐騙手段,其深度偽造的內容難以被肉眼分辨。在金融行業,人臉識別技術作為身份鑒別的重要手段,其安全性直接關系到金融交易的安全與用戶資金的安全。如果有人利用

2022-10-10

近期AI繪圖引起畫師和二次元愛好者的熱議。國外論壇4chan上有網友貼出由AI創作出的各國風情女性,看起來非常驚艷。女性顏值肯定沒問題,但有沒有符合當地風俗,就可能需要那些解當地文化的人來評判。一起來欣賞下AI繪制