訓(xùn)練效果未及預(yù)期,31名ChatGPT訓(xùn)練派遣工遭解雇
雪松
本來是OpenAI正常的內(nèi)部工作人員調(diào)整,但是因為涉及到爆火的OpenAI的聊天機器人ChatGPT,所以讓人產(chǎn)生好奇,并引發(fā)關(guān)注。這也無形中揭開了人工智能訓(xùn)練師的一層神秘面紗。
自ChatGPT問世以來,全世界都陷入了瘋狂,用過它的人無不在感嘆它的神通廣大。從普通用戶到谷歌、微軟、百度、阿里等大小公司,再到各路資本,大家仿佛都陷入了“錯失恐懼”,總擔(dān)心自己要是沒用過這玩意,就會損失N個小目標或者會被時代無情地拋棄。各種信息反饋ChatGPT好處很多,不過,要是對它報以100%的信任,ChatGPT中的漏洞百出,也會給你帶來麻煩。
因此人工智能訓(xùn)練師的工作就顯得非常重要。按照Invisible Technologies公司派遣工的說法,人工智能訓(xùn)練師最基本的職責(zé)包括審查人工智能與其用戶之間的對話,以識別潛在的非法、侵犯隱私、攻擊性或充滿錯誤的消息。不過從ChatGPT用戶角度看,用戶的問題可能是海量的,那么人工智能訓(xùn)練師能做到海量的問題檢驗嗎?恐怕不能。
引用來自ChatGPT的一段話:ChatGPT是一種基于深度學(xué)習(xí)技術(shù)的自然語言處理模型,它的回答是根據(jù)大規(guī)模語料庫的訓(xùn)練數(shù)據(jù)得出的。雖然它在一定程度上可以反映當(dāng)下社會的主流價值觀,但它的回答僅僅是基于數(shù)據(jù)的預(yù)測結(jié)果,并不一定代表絕對的真實情況,也不應(yīng)該被視為某種官方的說法或意見。
由此可見,什么樣的人工智能訓(xùn)練師者是好的訓(xùn)練師,還真的很難說。因為人工智能訓(xùn)練師者的訓(xùn)練本身就有局限。OpenAI裁員也說明了訓(xùn)練師這個職業(yè)很難達到滿意。