2月17日 消息:據(jù)路透社報(bào)道，ChatGPT背后的初創(chuàng)公司OpenAI表示，其正在開(kāi)發(fā)聊天機(jī)器人ChatGPT的升級(jí)版，讓用戶可以自定義設(shè)置，以解決人們對(duì)人工智能偏見(jiàn)的擔(dān)憂。
這家總部位于舊金山的初創(chuàng)公司表示，它一直在努力減輕政治和其他偏見(jiàn)，但也希望容納更多不同的觀點(diǎn)，微軟公司已為其最新技術(shù)提供資金和支持。
OpenAI在一篇博客中寫(xiě)道:“人工智能應(yīng)該是對(duì)人類有益的工具，因此每個(gè)用戶都可以在社會(huì)規(guī)定的限度內(nèi)進(jìn)行定制。這將意味著允許其他人（包括我們自己）可能強(qiáng)烈反對(duì)的系統(tǒng)輸出。將定制化做到極致有可能使我們的技術(shù)被惡意使用，并讓ChatGPT成為無(wú)意識(shí)放大人們現(xiàn)有觀點(diǎn)的阿諛?lè)畛蠥I，所以ChatGPT的行為仍然會(huì)受到限制在這方面取得適當(dāng)?shù)钠胶鈱⑹且粋€(gè)挑戰(zhàn)。”因此，用戶自定義總會(huì)有一些界限。
例如，如果用戶請(qǐng)求的內(nèi)容有關(guān)于成人、暴力或包含仇恨的言論，人工審閱者會(huì)指示ChatGPT回答“我無(wú)法回答”。
這家初創(chuàng)公司發(fā)布消息同時(shí)，一些媒體機(jī)構(gòu)指出，由 OpenAI 提供支持的微軟新 Bing 搜索引擎的答案具有潛在危險(xiǎn)，而且該技術(shù)可能還沒(méi)有準(zhǔn)備好迎接黃金時(shí)段。
科技公司如何為自定義ChatGPT設(shè)置護(hù)欄是人工智能公司重點(diǎn)關(guān)注的領(lǐng)域，目前仍在博弈。微軟也表示，它會(huì)根據(jù)用戶的反饋來(lái)改進(jìn)Bing。
