化工儀器網(wǎng)手機版
移動端訪問更便捷
今日焦點 Today's Focus
查看更多+-
IG China 2025啟幕 測司儀表賦能氣體產(chǎn)業(yè)綠色轉(zhuǎn)型
測司儀表(上海)有限公司攜可視化泄露檢測儀ULD5[詳細]
OpenAI開發(fā)反作弊工具 效用如何引發(fā)質(zhì)疑
2024年08月07日 10:16:33
來源：化工儀器網(wǎng) 點擊量：4350
《華爾街日報》消息顯示，反作弊項目在OpenAI內(nèi)部爭論了大約兩年，準備發(fā)布的時間就有大約為一年。
【化工儀器網(wǎng) 時事熱點】《華爾街日報》消息顯示，反作弊項目在OpenAI內(nèi)部爭論了大約兩年，準備發(fā)布的時間就有大約為一年。 OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和首席技術(shù)官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說，奧特曼鼓勵這個項目，但沒有推動發(fā)布。
OpenAI內(nèi)部在透明度承諾和留住用戶之間搖擺不定，它對ChatGPT用戶開展的一項調(diào)查發(fā)現(xiàn)，近1/3的用戶會因為反作弊技術(shù)而關(guān)閉服務，這些受訪者表示，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們會減少使用ChatGPT。
ChatGPT可以預測句子中接下來會出現(xiàn)的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會留下水印。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。根據(jù)內(nèi)部文件，當ChatGPT創(chuàng)建足夠多的新文本時，水印的有效性為99.9%。
首先，從技術(shù)角度來看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見的標記。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。據(jù)稱，當ChatGPT創(chuàng)建足夠多的新文本時，水印的有效性高達99.9%，且不會影響ChatGPT的性能。然而，內(nèi)部員工擔心這些水印可能通過簡單的技術(shù)被刪除，比如將文本翻譯成另一種語言再轉(zhuǎn)換回來，或者在文本中添加表情符號后手動刪除。此外，如何決定誰可以使用這種檢測器也是一個挑戰(zhàn)。
其次，從用戶角度來看，OpenAI對ChatGPT用戶進行了多次調(diào)查，發(fā)現(xiàn)近三分之一的用戶表示，如果ChatGPT使用反作弊技術(shù)，他們會減少使用ChatGPT。這些用戶擔心，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們可能會轉(zhuǎn)向其他工具。此外，該工具還可能對非英語母語的用戶產(chǎn)生不成比例的影響，這進一步增加了OpenAI在發(fā)布該工具時的顧慮。
因此，盡管OpenAI在技術(shù)上已經(jīng)取得了顯著的進展，但在是否發(fā)布和使用這一反作弊工具上仍然存在諸多爭議和未解決的問題。目前，OpenAI尚未正式對外公開這一工具，但已有一些外部公司和研究人員正在開發(fā)類似的檢測工具，并嘗試在教育和學術(shù)領(lǐng)域中使用。
相關(guān)閱讀 Related Reading
查看更多+-
儀器聚焦丨熱點重點大盤點 儀器行業(yè)本周要點速遞(2025年第19期)
本周儀器市場動態(tài)聚焦科技創(chuàng)新與人才建設(shè)：國家知識產(chǎn)權(quán)局印發(fā)《關(guān)于縱深推進專利轉(zhuǎn)化運用專項行動加快形成長效機制的通知》；工業(yè)和信息化...2025-06-21 10:30:00 -
5月30日，大型科研儀器賦能科技創(chuàng)新“園企走平臺”走進之江實驗室活動在杭州市余杭區(qū)之江實驗室順利舉辦。2025-05-30 17:39:53
-
“共享百家行”第五站——浙江理工大學：進一步推動公共技術(shù)平臺集約化管理
2025年3月6日，由浙江省大型儀器開放共享聯(lián)盟主辦，浙江理工大學承辦的“共享百家行”第五站活動走進浙江理工大學。2025-06-20 17:27:14 -
“共享百家行”第八站——寧波大學：探討大型儀器維修維護體系建設(shè)
寧波大學承辦的“共享百家行”第八站活動走進寧波大學，共同探討大型儀器維修維護體系建設(shè)，保障大型儀器高效穩(wěn)定運行，滿足科研與產(chǎn)業(yè)需求...2025-06-20 16:57:40 -
中國科創(chuàng)板設(shè)置科創(chuàng)成長層 增強制度包容性適應性
近日，中國證監(jiān)會發(fā)布《關(guān)于在科創(chuàng)板設(shè)置科創(chuàng)成長層 增強制度包容性適應性的意見》。2025-06-20 16:34:53 -
納米載體可緩慢釋放藥物，維持眼內(nèi)有效濃度，減少給藥頻率，表面修飾(如靶向肽、抗體)可特異性結(jié)合視網(wǎng)膜病變部位的標志物(如VEGF受...2025-06-20 15:39:00
版權(quán)與免責聲明
- ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責任。
- ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，不承擔此類作品侵權(quán)行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負版權(quán)等法律責任。
- ③如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
