Stability AI CEO認為，人工智能可能發(fā)現(xiàn)人類很無聊
STEVE MOLLMAN
2023-05-25
2022年12月，Stability AI創(chuàng)始人兼CEO伊馬德·莫斯塔克出席《財富》雜志的人工智能頭腦風暴大會。圖片來源：NICK OTTO FOR FORTUNE伊馬德·莫斯塔克希望人工智能會發(fā)現(xiàn)人類“有點無聊”，但他承認，最糟糕的情況是人工智能“基本上控制了人類”。
莫斯塔克是倫敦一家快速發(fā)展的初創(chuàng)公司Stability AI的CEO，其產(chǎn)品Stable Diffusion頗受歡迎。Stable Diffusion是一款生成式人工智能工具，支持用戶使用文本提示詞，創(chuàng)作通常高度復雜的圖片。他接受了英國廣播公司（BBC）的采訪，采訪內(nèi)容于上周末發(fā)表。
他對BBC表示：“如果有一種東西的能力比人類更加強大，在那種情況下，什么是民主？這是一個已知的未知數(shù)。因為雖然我們無法想象比我們更強大的東西，但我們都知道有比我們更強大的人類。所以我個人認為，那種情形類似于斯嘉麗·約翰遜和杰昆·菲尼克斯主演的電影《她》（Her）：人類有點無聊，人工智能的反應可能是：‘再見’，‘你有點無聊’。”
他補充道：“但我可能是錯的。我認為這個問題值得公開討論。”
3月，莫斯塔克與特斯拉（Tesla）CEO埃隆·馬斯克和蘋果（Apple）聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等共同簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更先進的人工智能。GPT-4是由微軟（Microsoft）投資的OpenAI開發(fā)的人工智能語言模型。OpenAI還開發(fā)了ChatGPT和DALL-E 2（后者與Stable Diffusion類似，均可將文本提示詞轉(zhuǎn)換成圖片）。
他對BBC表示：“如果有比我們更強大的智能體，超出了我們的控制，能夠在互聯(lián)網(wǎng)里穿梭并相互交流，達到一定程度的自動化，這意味著什么？”
然而，Stability AI仍在開發(fā)新產(chǎn)品，包括上周發(fā)布的一款文本轉(zhuǎn)動畫工具，并繼續(xù)吸引投資者。該公司計劃以40億美元的估值進行融資。去年十月，該公司融資約1億美元，估值為10億美元。（該公司的投資者包括Coatue Management和Lightspeed Venture Partners等。）
與此同時，Stability AI正在被蓋蒂圖片社（Getty Images）起訴，這是一起具有標志性意義的版權侵權案件。該類訴訟可能無法避免，因為Stable Diffusion等文本轉(zhuǎn)圖片人工智能模型使用了數(shù)以十億計的圖片進行訓練，而這些圖片均來自互聯(lián)網(wǎng)。
在被BBC問到最糟糕的情況是什么時，莫斯塔克回答稱：“最糟糕的情況是它自我繁殖，并基本上控制人類。因為你可能有一百萬個人工智能在有效地復制。”
不同尋常的是，Stable Diffusion是一款開源應用，這意味著任何人都可以查看、分享和使用代碼。
3月，曾參與創(chuàng)建OpenAI并協(xié)助其融資的馬斯克批評該公司放棄了最初的非營利模式，而是接受了微軟的巨額投資，并且不再開源。他發(fā)推文稱：
“OpenAI成立的目的是作為一家開源（因此我才將其命名為‘Open’AI）非營利組織，旨在制衡谷歌（Google），但現(xiàn)在它已經(jīng)實際上被微軟控制，變成了閉源的、追求利益最大化的公司。這背離了我的初衷。”
莫斯塔克對BBC表示：“我認為不應該需要依靠信任。如果你開發(fā)的是開源模型，并且將開發(fā)過程公開，如果你做得不對就應該受到批評，反過來如果你做了正確的事情也希望能得到贊美。”（財富中文網(wǎng)）
翻譯：劉進龍
審校：汪皓
伊馬德·莫斯塔克希望人工智能會發(fā)現(xiàn)人類“有點無聊”，但他承認，最糟糕的情況是人工智能“基本上控制了人類”。
莫斯塔克是倫敦一家快速發(fā)展的初創(chuàng)公司Stability AI的CEO，其產(chǎn)品Stable Diffusion頗受歡迎。Stable Diffusion是一款生成式人工智能工具，支持用戶使用文本提示詞，創(chuàng)作通常高度復雜的圖片。他接受了英國廣播公司（BBC）的采訪，采訪內(nèi)容于上周末發(fā)表。
他對BBC表示：“如果有一種東西的能力比人類更加強大，在那種情況下，什么是民主？這是一個已知的未知數(shù)。因為雖然我們無法想象比我們更強大的東西，但我們都知道有比我們更強大的人類。所以我個人認為，那種情形類似于斯嘉麗·約翰遜和杰昆·菲尼克斯主演的電影《她》（Her）：人類有點無聊，人工智能的反應可能是：‘再見’，‘你有點無聊’。”
他補充道：“但我可能是錯的。我認為這個問題值得公開討論。”
3月，莫斯塔克與特斯拉（Tesla）CEO埃隆·馬斯克和蘋果（Apple）聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等共同簽署了一封公開信，呼吁暫停開發(fā)比GPT-4更先進的人工智能。GPT-4是由微軟（Microsoft）投資的OpenAI開發(fā)的人工智能語言模型。OpenAI還開發(fā)了ChatGPT和DALL-E 2（后者與Stable Diffusion類似，均可將文本提示詞轉(zhuǎn)換成圖片）。
他對BBC表示：“如果有比我們更強大的智能體，超出了我們的控制，能夠在互聯(lián)網(wǎng)里穿梭并相互交流，達到一定程度的自動化，這意味著什么？”
然而，Stability AI仍在開發(fā)新產(chǎn)品，包括上周發(fā)布的一款文本轉(zhuǎn)動畫工具，并繼續(xù)吸引投資者。該公司計劃以40億美元的估值進行融資。去年十月，該公司融資約1億美元，估值為10億美元。（該公司的投資者包括Coatue Management和Lightspeed Venture Partners等。）
與此同時，Stability AI正在被蓋蒂圖片社（Getty Images）起訴，這是一起具有標志性意義的版權侵權案件。該類訴訟可能無法避免，因為Stable Diffusion等文本轉(zhuǎn)圖片人工智能模型使用了數(shù)以十億計的圖片進行訓練，而這些圖片均來自互聯(lián)網(wǎng)。
在被BBC問到最糟糕的情況是什么時，莫斯塔克回答稱：“最糟糕的情況是它自我繁殖，并基本上控制人類。因為你可能有一百萬個人工智能在有效地復制。”
不同尋常的是，Stable Diffusion是一款開源應用，這意味著任何人都可以查看、分享和使用代碼。
3月，曾參與創(chuàng)建OpenAI并協(xié)助其融資的馬斯克批評該公司放棄了最初的非營利模式，而是接受了微軟的巨額投資，并且不再開源。他發(fā)推文稱：
“OpenAI成立的目的是作為一家開源（因此我才將其命名為‘Open’AI）非營利組織，旨在制衡谷歌（Google），但現(xiàn)在它已經(jīng)實際上被微軟控制，變成了閉源的、追求利益最大化的公司。這背離了我的初衷。”
莫斯塔克對BBC表示：“我認為不應該需要依靠信任。如果你開發(fā)的是開源模型，并且將開發(fā)過程公開，如果你做得不對就應該受到批評，反過來如果你做了正確的事情也希望能得到贊美。”（財富中文網(wǎng)）
翻譯：劉進龍
審校：汪皓
Emad Mostaque hopes A.I. will find us “a bit boring” but acknowledges that in the worst-case scenario it “basically controls humanity.”
Mostaque is CEO of the fast-growing London-based startup Stability AI, which popularized Stable Diffusion. That’s a generative A.I. tool allowing users to create often remarkably sophisticated images using nothing but text prompts. He made the comments in a BBC interview released this weekend.
“If you have a more capable thing than you, what is democracy in that kind of environment? This is a known unknown,” he told the British broadcaster. “Because we can’t conceive of something more capable than us, but we all know people more capable than us. So, my personal belief is it will be like that movie Her with Scarlett Johansson and Joaquin Phoenix: Humans are a bit boring, and it’ll be like, ‘Goodbye’ and ‘You’re kind of boring.’”
“But I could be wrong,” he added. “I think it deserves to be discussed in a public sphere.”
In March, Mostaque joined Tesla CEO Elon Musk and Apple cofounder Steve Wozniak in signing an open letter calling for pause in A.I. development for anything more advanced than GPT-4, the A.I. chatbot from Microsoft-backed OpenAI, which also makes ChatGPT and DALL-E 2 (the latter, like Stable Diffusion, converts text prompts to images).
“If we have agents that are more capable than us that we cannot control that are going across the internet and [are] hooked up and they achieve a level of automation,” he told the BBC, “what does that mean?”
Stability AI is racing ahead, however, in developing new products—including a text-to-animation tool released this week—and wooing investors. It’s seeking to raise funds at a $4 billion valuation, following a $1 billion valuation last October after raising about $100 million. (Coatue Management and Lightspeed Venture Partners are among its investors.)
At the same time, Stability AI is being sued by Getty Images in a landmark case over copyright. Such a lawsuit was perhaps inevitable given that text-to-image A.I. models like Stable Diffusion are trained using billions of images pulled from the internet.
Asked by the BBC what the worst-case scenario might be, Mostaque said: “Worst-case scenario is that it proliferates and basically it controls humanity. Because you could have a million of these things replicating effectively.”
Unusually, Stable Diffusion is open source, meaning anyone can examine the code, share it, and use it.
In March, Musk, who cofounded and helped fund OpenAI, criticized it for switching away from a nonprofit model, taking hefty investments from Microsoft, and not being open source. He tweeted:
“OpenAI was created as an open source (which is why I named it ‘Open’ AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft. Not what I intended at all.”
“I think there shouldn’t have to be a need for trust,” Mostaque told the BBC. “If you build open models and you do it in the open, you should be criticized if you do things wrong and hopefully lauded if you do some things right.”
