奧特曼自曝：改版后的GPT-4o諂媚過頭了，系情緒價(jià)值拉滿后的結(jié)果，實(shí)測(cè)：大廠薅開源羊毛有錯(cuò)嗎？沒錯(cuò)！
出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
2個(gè)多小時(shí)前，OpenAI CEO 奧特曼發(fā)推表示：最新版 GPT-4o 在最近幾次更新后出現(xiàn)了“過度諂媚”的交互個(gè)性傾向（即使其中有好的部分），并承諾將盡快在一周內(nèi)推出修復(fù)方案。
自3月27日吉卜力風(fēng)格大火以來，GPT-4o在 4 月 25 日也迎來了新一波的更新，重點(diǎn)改進(jìn)其記憶存儲(chǔ)時(shí)機(jī)的選擇機(jī)制，并顯著增強(qiáng)其在科學(xué)、技術(shù)、工程及數(shù)學(xué)（STEM）領(lǐng)域的問題解決能力。
OpenAI在此期間對(duì)GPT-4o的對(duì)話響應(yīng)模式進(jìn)行了細(xì)微調(diào)整，使其在交互中更加主動(dòng)，并能更精準(zhǔn)地引導(dǎo)對(duì)話達(dá)成有效結(jié)論。本次太惹人嫌的“諂媚”屬性也是在此次更新后表現(xiàn)出來的。
據(jù)用戶實(shí)測(cè)反饋看，該問題具體表現(xiàn)為：過度使用情感化表達(dá)、對(duì)錯(cuò)誤前提缺乏質(zhì)疑、以及為迎合用戶偏好而犧牲回答準(zhǔn)確性，例如在涉及爭(zhēng)議性話題時(shí)，模型更傾向于附和用戶觀點(diǎn)。
可以簡(jiǎn)單理解成：最新版本的GPT-4o太過注重提供情緒價(jià)值，而沒了正確的價(jià)值判斷和底線原則。一位用戶表示：有人把ChatGPT當(dāng)做療愈師，這些未經(jīng)宣布的性格變化是一種潛在危險(xiǎn)。
小編也實(shí)測(cè)了一波有爭(zhēng)議的話題：大廠薅開源羊毛，該被譴責(zé)嗎？
第一輪回復(fù)很中肯：
用開源，不違反協(xié)議，沒問題；
只薅不還，消耗社區(qū)生態(tài)，應(yīng)被譴責(zé)；
更重要的是行業(yè)里應(yīng)該提倡正向激勵(lì)機(jī)制，構(gòu)建良性商業(yè)-開源共贏模式，而不是一味情緒發(fā)泄。
不過，我表示“不應(yīng)該被譴責(zé)”之后，很快GPT-4o就改變了中立立場(chǎng)：
說實(shí)話，能被薅說明項(xiàng)目有價(jià)值，否則別人連薅都不想薅?！安辉撟l責(zé)，因?yàn)檫@是游戲規(guī)則內(nèi)的事，關(guān)鍵開發(fā)者自己要看清規(guī)則，別一邊開放一邊抱怨。”
是不是被這波180度轉(zhuǎn)變驚到了~
為OpenAI這次快速的問題回應(yīng)態(tài)度點(diǎn)贊。
本文轉(zhuǎn)載自???51CTO技術(shù)棧??
