屢屢引發股市震蕩，AI生成謠言有多可怕？
財富中文網
2023-05-25
5月24日，科大訊飛午后股價跳水下跌9.46%，逼近跌停。科大訊飛火速回應稱，股價下跌系某生成式AI寫作有關“科大訊飛被曝涉嫌大量采集用戶隱私數據，并將其用于人工智能研究”的虛假文章導致，文章所述內容為不實消息。
當晚，百度文心一言市場部負責人張全文在其朋友圈回應道：“聽聞有友商把自己股價大跌，歸咎于有人利用文心一言寫了篇命題小作文，也是醉了。先別說小作文這事真假（目前看來只怕是策劃痕跡太重），如果AI作文有這本事，百度員工自己先炒一下自己股價不香嗎？”他表示，中國發展自己的大模型技術不易，要把精力放到正事上，請友商解決好自己的問題，別動不動就碰瓷別人。
AI生成謠言對資本市場產生重大影響的事件不止發生在國內。5月22日，一張“五角大樓附近發生爆炸”的圖片在社交媒體上瘋傳，一度導致美國股市明顯下挫。美國國防部發言人表示，當日上午五角大樓附近并未發生爆炸。該虛假信息疑似為AI生成。
圍繞這一話題，“財富Plus”的用戶展開了精彩討論，我們選取了其中一些展示如下：
@天下行走
一則關于科大訊飛的虛假信息報道被廣為流傳。后調查發現，該消息為通過生成式AI生成的文章內容。從生成的內容來看，生成式AI產出的文章語句較為通暢，確實能達到以假亂真的效果。值得一提的是，利用生成式AI編假新聞，在國內已有先例。
不久前，一篇題為《今晨甘肅一火車撞上修路工人致9人死亡》的“新聞”在網絡流傳。經警方判定，這是一篇假新聞。起因是一家自媒體公司的法人代表，利用ChatGPT人工智能軟件把搜集到的新聞要素修改編輯后，上傳至其購買的百家號上非法獲利。目前，嫌疑人已經以涉嫌尋釁滋事罪被公安機關采取刑事強制措施。
普法知識：利用AI生成虛假信息會面臨的法律責任，一方面編造者肯定會涉嫌侵犯名譽權，另一方面，如果造成嚴重后果，可能會涉嫌損害商業信譽罪，這屬于刑事責任。
@蘭香
長期跟蹤研究金融和新產業
如果看過文心一言所寫的這篇“科大訊飛出現重大風險的警示文”，應該不會相信真的有股民會根據這篇其實就是把網上已存在的一些信息或觀點集合起來的文章就去砸盤股價，所以科大訊飛的這個說法確實有點侮辱股民尤其是大資金的智商了，也難怪文心一言市場部負責人張全文要發朋友圈來懟他們。
關于科大訊飛數據安全方面的信息，可參考的是，科大訊飛旗下四款軟件曾因侵害用戶權益被通報。據悉，2022年2月，訊飛語音識別SDK因違規收集個人信息（設備MAC地址）被工業和信息化部通報；2021年5月，訊飛輸入法App因違反必要原則，收集與提供的服務無關的個人信息，被國家互聯網信息辦公室通報，且曾因未能完成整改要求而被各大應用市場下架；2021年3月，訊飛配音因超范圍收集個人信息，被信息通信管理局通報；2020年7月，訊飛有聲因私自共享給第三方，被信息通信管理局通報。
應該說文心一言的小作文內容并非完全空穴來風。實際上，與其說是文心一言的小作文引發科大訊飛股價暴跌，不如說是其股價漲到高處自然跌，小作文充其量也只是事后諸葛亮式的為下跌找理由。今年以來，受益于AIGC概念的帶動，科大訊飛的股價起飛，4月7日創新高達70.1元，年內漲幅超過70%，而從4月7日最高點至5月24日這一輪下跌前，科大訊飛股價也僅跌了11%左右，而Wind數據顯示，科大訊飛近五日主力資金流出額達105.11億元，在申萬一級軟件開發板塊資金流出額排名第一，可見其股價回調壓力早已積蓄，只是昨天這一壓力可能有所爆發。在昨天公司辟謠后，今天（5月25日）科大訊飛股價依然低開低走，更說明一些問題。
@向東
科大訊飛屬于科技頭部企業，被大熱的生成式AI惡搞了一下，此事還是很有意思的。一方面說明AI造假信息傳播的可能性需要堤防，另一方面也讓科大訊飛蹭了一下AI的熱點。
科大訊飛股份有限公司于1999年成立，總部設在合肥，是亞太地區知名的智能語音和人工智能上市企業。不管怎么說，對于通過生成式AI發表不實信息的情況，的確應引起社會重視。
順便看了一下該公司的一季報，報告期營收28.88億元，一季度凈利潤為虧損0.58億元，同比由盈轉虧。看來科大迅飛并沒有在AI熱潮中實現業績爆火，也許隨著國產替代和業務開拓，二季度業績將會好轉，而不會受到“小作文”事件太多影響。
@秋雅
看起來非常真實的所謂五角大樓爆炸圖是AI合成的產物。光憑一張照片，這么拙劣的手法，沒有經過權威媒體和當地居民的驗證，就在社交媒體上大肆傳播，還影響了股市，最主要的原因就是“今日俄羅斯”媒體的傳播，畢竟該俄羅斯社交媒體賬號也有幾百萬粉絲，這很明顯就是造謠生事了。
讓人不得不感嘆美國社交媒體平臺就是不一樣，俄羅斯媒體經常捕風捉影造謠生事，居然也沒能得到任何“治理”。（財富中文網）
本文內容為作者獨立觀點，不代表財富中文網立場。未經允許不得轉載。
編輯：徐曉彤
