CHATGPT是美國OpenAI公司于2022年11月推出的AI聊天機器人程序,基于人工智能技術驅動的自然語言處理工具,ChatGPT能完成聊天、文字翻譯、文案撰寫、詩歌創作、代碼編輯、方案推算等任務,是史上增長最快的消費者應用之一
OpenAI是一家人工智能研究和部署公司,使命是確保人工通用智能造福全人類。OpenAI的使命是確保人工通用智能(AGI)——指的是在具有經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI將試圖直接建設安全和有益的AGI,但如果工作幫助他人實現這一結果,OpenAI也將認為我們的使命已經完成。OpenAI已經(jing)訓練(lian)了一個名為ChatGPT的(de)(de)模(mo)型,它以(yi)對話的(de)(de)方(fang)式(shi)(shi)進行交互。對話形式(shi)(shi)使ChatGPT能夠回答后續(xu)問題,承認錯誤,質疑(yi)不(bu)正確的(de)(de)前提,并拒絕不(bu)適當的(de)(de)請(qing)求(qiu)。ChatGPT是說明書,它被(bei)訓練(lian)成遵(zun)循提示中的(de)(de)指令并提供詳(xiang)細的(de)(de)響應。
ChatGPT有(you)時會寫出聽起來(lai)合理(li)但不正確(que)或無意(yi)義的答(da)案。解(jie)決這(zhe)個(ge)問(wen)題(ti)是具有(you)挑(tiao)戰(zhan)性的,因為:(1)在RL訓練(lian)期間,目(mu)前沒有(you)真實(shi)的來(lai)源;(2)訓練(lian)模型(xing)更加(jia)謹(jin)慎導(dao)致它拒絕它能夠(gou)正確(que)回答(da)的問(wen)題(ti);以及(3)監督訓練(lian)誤導(dao)模型(xing),因為理(li)想(xiang)答(da)案取決于模型(xing)知道什么,而不是人(ren)類示威(wei)者所(suo)知道的。
ChatGPT對輸入(ru)措(cuo)辭的(de)(de)(de)(de)調整(zheng)或多次嘗試(shi)相同的(de)(de)(de)(de)提(ti)(ti)示很敏感。例如(ru),給(gei)(gei)定一(yi)個問(wen)題的(de)(de)(de)(de)一(yi)種措(cuo)辭,模(mo)(mo)(mo)型可以聲稱不知道答案,但(dan)給(gei)(gei)定一(yi)個輕(qing)微的(de)(de)(de)(de)措(cuo)辭,可以正(zheng)確(que)地回答。理想情況下,當用戶提(ti)(ti)供一(yi)個模(mo)(mo)(mo)糊(hu)的(de)(de)(de)(de)查詢時,模(mo)(mo)(mo)型會(hui)問(wen)一(yi)些澄清(qing)性的(de)(de)(de)(de)問(wen)題。相反,我們當前(qian)的(de)(de)(de)(de)模(mo)(mo)(mo)型通常猜測(ce)用戶的(de)(de)(de)(de)意(yi)圖。
今天ChatGPT的研究發(fa)布是OpenAI的新一步迭(die)代(dai)部署(shu)越(yue)來越(yue)安全和(he)(he)有用的人工智能(neng)系(xi)統。從早(zao)期模型的部署(shu)中吸取的許多經(jing)驗教訓為此次發(fa)布的安全緩(huan)解(jie)措施提(ti)供了信息,包括通過使用人類反饋強化學(xue)習(xi)實(shi)現(xian)的有害和(he)(he)不(bu)真實(shi)輸出的大(da)幅減(jian)少。