微軟必應(yīng)的首席執(zhí)行官米哈伊爾 帕拉欣(Mikhail Parakhin)在推特上表示,必應(yīng)聊天(Bing Chat)的表現(xiàn)優(yōu)于單純的 GPT-4,但這需要付出更高的成本。
帕拉欣在回復(fù)一位認(rèn)為必應(yīng)聊天比 OpenAI 的 GPT-4 更好的網(wǎng)友時(shí)說(shuō):“根據(jù)我們的測(cè)量,它確實(shí)表現(xiàn)得更好。”值得注意的是,必應(yīng)聊天是基于 OpenAI 提供的 GPT-4,但帕拉欣稱(chēng),必應(yīng)使用了檢索增強(qiáng)推理(retrieval-augmented inference)。
該網(wǎng)友想知道必應(yīng)聊天是否對(duì)外提供 API,對(duì)此帕拉欣表示:“是的,我們有這樣的服務(wù),但非常昂貴,因?yàn)槠湫枰啻文P驼{(diào)用和搜索調(diào)用,所以到目前為止只被少數(shù)公司使用。”
必應(yīng)聊天使用了 OpenAI 開(kāi)發(fā)的 GPT-4 模型,這是一個(gè)基于深度學(xué)習(xí)的自然語(yǔ)言生成系統(tǒng),可以根據(jù)用戶輸入生成流暢和連貫的文本。但是,僅僅依靠 GPT-4 并不能滿足用戶對(duì)準(zhǔn)確和相關(guān)信息的需求,因此必應(yīng)聊天還結(jié)合了檢索增強(qiáng)推理技術(shù),即在生成文本之前從網(wǎng)絡(luò)上檢索相關(guān)信息,并將其融合到生成過(guò)程中,這樣可以提高生成文本的質(zhì)量和可信度。
然而,檢索增強(qiáng)推理技術(shù)也有其缺點(diǎn)。首先,它需要更多的計(jì)算資源和時(shí)間來(lái)執(zhí)行檢索和生成任務(wù),這會(huì)增加成本和延遲。其次,如果沒(méi)有適當(dāng)?shù)倪^(guò)濾和驗(yàn)證機(jī)制,可能會(huì)引入一些不準(zhǔn)確或不相關(guān)的信息。第三,如果沒(méi)有適當(dāng)?shù)氖跈?quán)和保護(hù)機(jī)制,可能會(huì)侵犯一些版權(quán)或隱私問(wèn)題。
近期有不少網(wǎng)友反映必應(yīng)聊天的回答質(zhì)量有所下降,對(duì)此微軟表示該公司正在積極監(jiān)測(cè)用戶反饋,并計(jì)劃在不久的將來(lái)做出改變以解決這些問(wèn)題。