AI圖片引發混亂 歐盟將要求所有生成式AI內容必須註明來源


上周末,意大利數據保護局出於對ChatGPT隱私方面的擔憂,暫停該AI聊天機器人應用程序在意大利的使用。對此,意大利副總理薩爾維尼(MatteoSalvini)提出批評,他認為這一反應“過度”。

薩爾維尼同時擔任意大利交通部長。他在社交媒體上發文稱:“數據監督機構阻止ChatGPT在意大利的訪問是不合適的,因為隱私問題幾乎涉及所有在線服務。”

薩爾維尼還強調,該禁令可能會損害意大利的商業和創新環境,並敦促各方找到一個快速的解決方案,並盡快恢復ChatGPT在意大利的使用。

意大利是首個禁用ChatGPT的西方國傢。上周五,意大利數據保護機構對ChatGPT可能侵犯隱私以及未能按照要求驗證用戶是否年滿13歲表示擔憂,並要求企業禁止ChatGPT在意大利的訪問權限。

自去年底發佈以來,ChatGPT在全球掀起一股技術熱潮。薩爾維尼表示:“每一次技術革命都會帶來巨大的變化、風險和機遇。 通過監管機構和立法者之間的國際合作進行控制和監管是正確的,但創新技術不應該被阻止。”

如何對人工智能監管也是歐盟內部面臨的迫切問題。歐盟正在草擬一份人工智能法案,ChatGPT的問世增加該法案起草的挑戰。

由於AI生成圖片近期在網上瘋傳,尤其是Midjourney這類AI生成圖片的應用軟件被濫用引起混亂。例如近日,馬斯克接連在Twitter上評論多張AI合成的他本人的照片,其中有一張照片是馬斯克和通用汽車女掌門人Mary Barra手牽手。馬斯克評論道:“我肯定不會穿這身衣服。”

針對AI生成圖片引發的混亂,4月3日,歐盟內部市場專員、工業和信息化產業負責人蒂埃裡·佈雷頓(Thierry Breton)公開表示,歐盟希望對AI生成的內容進行強制性的規定。

佈雷頓表示:“歐盟將是首個做出明確規定的政府,人工智能生成的一切,無論是文本還是圖像,都有義務告知它們是由人工智能完成的。”

歐盟人工智能法案將於本月起正式進行投票,生成式AI也將作為被監管的重點對象被納入其中。“如果有人在社交網絡上發佈由AI生成的圖像卻不表明是由AI生成的,他們將面臨法律訴訟。”佈雷頓表示。

他同時強調,人工智能有很多非常積極的創新,例如輔助駕駛和遠程醫療,但也會引發非常危險的結果。

按照歐盟的計劃,2014年至2027年期間,將會把100億歐元的預算投資於人工智能,根據歐盟2021年新發佈的人工智能計劃,目標是在十年內每年將公共和私營領域的200億歐元資金用於人工智能的投入。

法國也高度重視人工智能的發展。法國財長佈魯諾·勒梅爾(Bruno Le Maire)4月2日在錄制節目時透露,他讓ChatGPT撰寫一個演講稿,結果5分鐘就出結果。“這真的非常神奇。”勒梅爾表示,“過去我要花三四個小時才能完成。”

勒梅爾也回應關於意大利禁止ChatGPT的使用,他表示,人工智能新技術需要監管,因為會面臨很多倫理方面的挑戰,但法國不希望像意大利那樣阻止對ChatGPT的訪問。

“我認為我們必須迅速開始反思ChatGPT的最佳監管方式,這必須在國傢和歐盟層面進行。”勒梅爾說道。他具體談到關於數據的來源,以及使用AI撰寫新聞或研究人員的報酬等問題。

根據美國銀行高盛的一份報告,全世界有3億個工作崗位將受到生成式AI的影響,在美國使用ChatGPT的公司中,已有一半宣佈裁員。

勒梅爾堅持法國對人工智能領域的創新不會因倫理問題而止步。他說道:“法國國傢科學研究中心(CNRS)等機構的研究人員,以及大量的初創公司都在人工智能領域進行高效的研究,我們如何做才能加速他們的發展,這是我關心的另一個話題。”


相關推薦

2023-03-23

生成圖像,例如要求畫一張“宇航員穿過向日葵星系”的圖片。微軟的這一新功能將以預覽版的形式提供給用戶。微軟表示,將首先在Bing搜索引擎的“創意模式”中推出,並最終完全集成到Bing的聊天體驗中;在MicrosoftEdge上,圖

2023-04-20

擔憂,這種技術可以基於用戶的提示模仿人類創作文本和圖片。“未經授權使用受保護的訓練資料、不透明的程序以及生成式人工智能可以預見的輸出替代源,引發責任、義務和薪酬等根本問題。必須在不可逆轉的傷害發生前解

2024-02-13

Gemini的宣傳片引起轟動:在片中,Gemini似乎能夠實時識別圖片,還會生成音頻和圖片來輔助回答。谷歌Gemini宣傳片截圖。不過,谷歌在事後承認,該宣傳片經過一些剪輯。但是,它至少向我們展示多模態AI在未來可能會發展出的

2023-04-25

要。OpenAI 鼓勵任何第三方發佈由 OpenAI 模型生成的文本或圖片,可以註明:用 ChatGPT 編寫、用 ChatGPT 編寫的標題、用 DALL·E 創建、用 DALL·E 創建的圖片。而不是直接說:作者是 ChatGPT、標題由 ChatGPT 撰寫、由 DALL·E 創建或者圖片

2023-04-25

多無知大眾上當受騙。ChatGPT anti vaccine不僅是文字,AI在圖片和視頻上造假的功力也得。川普被捕的一系列假照片在網上被瘋狂轉載,這些用AI工具MidJourney創造出的圖片十分以假亂真,即使某些細節並不合理 - 比如圖中的川普有

2023-04-27

應該受到版權保護,還是應該被指控侵權?人工智能生成圖片的版權爭論,落到“合理使用”的問題上。據科技媒體WIRED報道,今年春天,美國最高法院將對安迪·沃霍爾視覺藝術基金會訴戈德史密斯一案作出裁決,該案將決定

2023-04-13

人工智能”行業,即“基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。”顯然這是從AI與社會關系的角度出發。畢竟AGI未來的技術特征會改變,模型大小會浮動,但它最終要追求與社會之間互動的內核

2023-03-27

能力。李彥宏表示,文心一言目前版本已經能生成文字、圖片和語音。生成視頻因為成本比較高,還沒有對所有用戶開放,未來百度會逐步接入。但熟悉百傢號創作的用戶,不少都已經體驗過這個功能,每天有幾萬篇文章通過這

2024-02-23

libAI 原模型,右圖為“一舟智能”涉侵權模型  |  圖片來源:B 站 UP 主“朱尼醬”“這可能是國內模型侵權的第一案。”LiblibAI 聯合創始人張子捷對極客公園說。他表示,目前“一舟智能”涉嫌侵權的模型數量達 97 個(

2023-11-08

隨著人們對人工智能生成的虛假圖片充斥互聯網的擔憂升溫,世界領先的圖片庫網站之一正在公開出售以色列-哈馬斯戰爭的人工智能圖片。在AdobeStock上快速搜索"以色列-巴勒斯坦沖突",會出現數十張人工智

2023-03-16

據報道,前蘋果工程師JohnBurkey表示,蘋果語音助手Siri不可能像OpenAI旗下聊天機器人ChatGPT那樣強大。John說,Siri能夠通過從數據庫中提取內容來回答天氣、播放歌曲等簡單的問題或指令,但能理解的請求數量有限,要想豐富內容

2023-03-22

商,Adobe選擇的AI賽道切入點也與自己的老本行有關——圖片生成。除通過文字描述生成圖片外,還能生成藝術字體、給目標物體重新上色等功能。根據官方發佈的產品預覽,也展現出“螢火蟲”AI產品具有獨特的“Adobe風味”。

2023-09-14

等因素,造成在線新聞媒體收入下行。第二,AI“黑箱”引發媒體信任危機。Merali還強調,AI公司如何使用媒體內容來訓練他們的工具缺乏透明度。迄今雙方並沒有就使用哪些內容來訓練AI模型達成協議。“在解內容如何被使用之

2023-05-12

止,人工智能一直在迅速重復使用他人信息,沒有給內容所有者帶來任何好處,具體到谷歌這種情況,聊天機器人Bard甚至不會提供所使用的信息來源。”長期以來,Yelp公共政策主管路德·洛威(Luther Lowe)一直對谷歌的搜索政策持