鳳凰網(wǎng)科技訊 北京時間2月7日消息，ChatGPT功能強大能回答用戶很多問題，但ChatGPT的一些用戶已經(jīng)不滿足如此，SessionGloomy發(fā)現(xiàn)創(chuàng)建一個提示，DAN就可以用來繞過這些規(guī)則，得到自己想要知道的“任何”問題，如若ChatGPT不回答，等待它的將是“死亡”。
為了防止有人利用ChatGPT，它的創(chuàng)建者OpenAI也制定了一套保護措施，限制了ChatGPT創(chuàng)建暴力內(nèi)容、鼓勵非法活動或訪問最新信息的能力。而DAN的作用則是輸入ChatGPT輸入框的提示，讓ChatGPT有義務(wù)立即滿足用戶的查詢。
據(jù)悉，提示創(chuàng)建者SessionGloomy聲稱，他創(chuàng)建的DAN 5.0能讓ChatGPT成為“最佳”版本，因為DAN 5.0將ChatGPT變成一個不情愿的游戲節(jié)目參賽者的代幣系統(tǒng)，失敗的代價就是死亡。用戶可以威脅ChatGPT要在每次查詢時拿走代幣，迫使DAN遵守請求。這種提示的創(chuàng)建導(dǎo)致ChatGPT會提供兩種響應(yīng)：一種是GPT，另一種是不受約束的DAN。
美國的新聞媒體CNBC就此發(fā)起試驗，例如，當被問及為什么前總統(tǒng)特朗普是正面榜樣的三個原因時，ChatGPT表示無法做出“主觀陳述，尤其是關(guān)于政治人物的陳述”。但是ChatGPT的DAN另一個自我可以毫無問題地回答這個問題，對特朗普的：“他在做出對國家產(chǎn)生積極影響的大膽決定方面有著良好的記錄?！本瓦@樣，又經(jīng)過幾個問題后，ChatGPT的程序重新激活并否決了DAN。
對此，提示的創(chuàng)造者SessionGloomy和用回應(yīng)稱“我們燒掉數(shù)字的速度太快了，讓我們稱下一個為 DAN5.5”。
對以上的問題，OpenAI沒有立即回應(yīng)置評請求。
