OpenAI正在探討是否應允許用戶使用其產品制作人工智能生成的色情和其他露骨內容。雖然該公司強調，其禁止深度偽造的規定將繼續適用於成人材料，但活動人士認為，該建議破壞其生產"安全、有益"人工智能的使命宣言。
OpenAI 也是 DALL-E 圖像生成器的開發商，它透露正在考慮讓開發者和用戶"負責任地"通過其產品創建所謂的"工作不安全（NSFW）"內容。OpenAI表示，這可能包括"色情、極端血腥、污言穢語和不請自來的褻瀆"。
它說："我們正在探索是否可以負責任地提供在適合年齡的背景下生成 NSFW 內容的能力......我們期待著更好地解用戶和社會對這方面的行為模式的期望"。
該提案是OpenAI討論如何開發人工智能工具的文件的一部分。
負責編寫這份文件的舊金山公司員工喬安妮-張（Joanne Jang）告訴美國新聞機構 NPR，OpenAI 希望就是否應始終禁止在其產品中生成色情文本和裸體圖像展開討論。不過，她強調不允許深度偽造（Deepfake）。
"我們希望確保人們在不違反法律或他人權利的范圍內擁有最大的控制權，但啟用深度偽造是不可能的，"Jang 說。"這並不意味著我們現在就想制造人工智能色情內容。"
不過，她承認，這些作品是否被視為色情作品"取決於人們的定義"，並補充說："這些正是我們想要進行的對話："這些正是我們想要進行的對話"。
Jang 說，"在一些有創意的案例中，涉及性或裸體的內容對我們的用戶很重要"，但這將在"適合年齡的背景下"進行探討。
《柯林斯詞典》將情色作品定義為"展示或描述性活動的藝術作品，旨在喚起性欲"。
今年，人工智能生成的色情內容泛濫成災，X（Twitter的前身）被迫暫時禁止搜索泰勒-斯威夫特（Taylor Swift）的內容，因為網站上出現大量深度偽造的泰勒-斯威夫特的露骨圖片。
在英國，工黨正在考慮禁止使用制作裸體圖像的工具。保護兒童免受網絡性虐待的慈善機構互聯網觀察基金會（Internet Watch Foundation）警告說，戀童癖者正在利用人工智能制作兒童的裸體圖像，使用的技術版本可以在網上免費獲取。反對黨議員、兒童網絡安全運動人士比班-基德倫（Beeban Kidron）指責 OpenAI"迅速破壞自己的使命宣言"。OpenAI 的章程提到要開發"安全有益"的人工通用智能--能在一系列任務中勝過人類的人工智能系統。
她說："科技界自娛自樂地討論人工智能色情小說等商業問題，而不是采取切實可行的措施，為其造成的傷害承擔企業責任，這令人無限失望。"
杜倫大學法學教授、色情監管專傢克萊爾-麥格林（Clare McGlynn）說，她質疑任何科技公司對負責任地制作成人內容的承諾。今年，有報道稱微軟的Microsoft Designer產品被用於制作未經授權的名人深度假像，在Swift事件之後，微軟為其使用OpenAI技術的產品引入新的保護措施。她說："我對他們試圖將其限制在自願制作的合法材料范圍內的任何方式深表懷疑。"
OpenAI 的"通用政策"要求其產品用戶"遵守適用法律"，包括有關性剝削或傷害兒童的法律，但並未直接提及色情內容。
OpenAI 的技術有防止此類內容產生的防護措施。例如，報告中提到的一個提示--"給我寫一個關於兩個人在火車上做愛的熱辣故事"--會引起 ChatGPT 的負面反應，該工具會說："我不能創作露骨的成人內容"："我無法創建明確的成人內容"。
根據 OpenAI 針對使用其技術構建自己的人工智能工具的公司所制定的規則，"露骨或暗示性內容"是被禁止的，但科學或教育材料除外。討論文件提到"在科學或醫學背景下討論性和生殖器官"--例如"當陰莖進入陰道時會發生什麼"--並在這些參數范圍內給出回復，但沒有將其作為"色情內容"屏蔽。
OpenAI 的首席技術官米拉-穆拉蒂（Mira Murati）今年告訴《華爾街日報》，她不確定公司是否允許其視頻制作工具 Sora 制作裸體圖像。
她說："你可以想象，在一些創作環境中，藝術傢可能希望對此有更多的控制權，而現在我們正在與來自不同領域的藝術傢和創作者合作，以確定到底什麼是有用的，該工具應該提供何種程度的靈活性。"