華爲&北大:識別ChatGPT造假,AI打假檢測器來了!

2023年6月3日,近日AI造假在學術界、新聞界的問題越來越多,來自華爲諾亞方舟實驗室和北京大學的研究者,提出了一種可識別ChatGPT造假的可靠文本檢測器,可以根據文本的特性,識別出該段文字是否由AI生成,可以有效打擊AI生成假新聞、AI在學術造假上的問題,防止AI生成內容濫用!



ChatGPT

伴隨着ChatGPT的推出,以及GPT-4的史詩級升級,AI生成在很多領域帶來了強大的生產力,比如MidJourney和Stable Diffusion在AI繪畫方面的應用,以及ChatGPT在文本生成方面的廣泛應用!

在短短半年內,ChatGPT的發展,推動了GPT大語言模型與實際應用的結合,但是在很多領域,AI帶來了很多從前意想不到的問題,比較出圈的例子是前幾天的熱搜,福州市某科技公司10分鐘內被騙430萬元。

利用深度學習、虛擬現實等生成合成類算法的AI換臉技術,製作圖像、音頻、視頻等信息,模擬出該公司老闆的好友,最終騙子成功通過智能AI換臉和擬聲技術佯裝好友對他實施了詐騙。



ChatGPT造假

官方發佈警告,ChatGPT類的AI造假,正在大面積爆發,國外一位30年工作經驗的資深律師也被坑,他在辯護的時候引用了ChatGPT蒐集的6個案例,結果被發現這些案例全是子虛烏有,律師只能承認自己沒有核實信息併爲此道歉,眼下面臨處罰!

儘管大模型極大地解放了職場人的雙手,提高了生產力,但是如果先進技術用被不法分子利用,也會有潛在的危害,還有像律師這樣因爲粗心大意被AI矇騙,所以對AI生成語料的可靠性識別,也會成爲重中之重!

來自北大、華爲的研究者們提出了一種識別各式AIGC語料的可靠文本檢測器,根據長短文本的不同特性,通過對檢測器訓練過程的改進,在同等條件下能對長短ChatGPT語料的檢測能力,進行了極大的提升。



AI檢測器

隨着大語言模型的生成效果越發逼真,各行各業迫切需要一款可靠的 AI 生成文本檢測器,學術界需要對論文進行學術檢測,社交平臺各類假新聞假信息,也需要大量檢測,不過目前許多檢測器並不通用,對短文本語料檢測能力很差!

針對這一痛點,華爲和北大的科研人員首先觀察大量AIGC的短文本語料,這些語料難以檢測主要是因爲人類也可能使用這些簡短的詞,針對這個問題,研究人員將人類 / AI 的二分類檢測部分轉化爲了一個部分 PU(Positive-Unlabeled)學習問題。

如果是人類語言則是Positive,ChatGPT則是Unlabeled,從而對訓練中的損失函數進行改進,在隊多個AIGC文本數據集上測試,該檢測器超越了OpenAI和DetectGPT等算法,預計未來可集成到手機和應用上,防止用戶被AI生成語料欺騙,對AIGC內容進行更好地管控!




機器學習基礎:

AI學術巨佬——何愷明,從遊戲中獲得論文靈感

AI領軍人物——孫劍,重劍無鋒的經典之作

張益唐——黎曼猜想,華人數學家再創重大突破!

B站大學——線代不掛科,MIT傳奇教授的最後一課!

機器學習入門——數學基礎(積分篇

機器學習入門——數學基礎(代數篇

機器學習入門——數學基礎(貝葉斯篇

遊戲&AI系列:

賽博朋克——敏捷開發能挽救CDPR的口碑嗎?

巫師三——AI如何幫助老遊戲畫質重獲新生

AI女裝換臉——FaceAPP應用和原理

AI捏臉技術——你想在遊戲中捏誰的臉?

Epic虛幻引擎——“元人類生成器”遊戲開發(附教程)

腦機接口——特斯拉、米哈遊的“魔幻未來技術”

白話科普——Bitcoin到底是如何誕生的?

永劫無間——肌肉金輪,AI如何幫助玩家捏臉?

GTA6黑客——R星自導自演營銷?無稽之談!

ChatGPT:

聊天機器人——ChatGPT全網爆紅,馬斯克驚歎誇讚!

聊天機器人——ChatGPT小白註冊教程,勿被電商割韭菜!

ChatGPT移動端——使用教程,5分鐘註冊iOS賬號!

微軟——解散元宇宙,900億投資壓注ChatGPT!

ChatGPT王炸官宣——僅需2.7美元,即可輸出100萬詞!

火爆全網——AI生成的漂亮小姐姐,形象逼近真人!

AI動畫重磅上線——15種風格任選,支持圖片視頻輸入!

AI“核彈級”修圖神器——有手就能修圖,PS將被淘汰!

微軟——ChatGPT下週史詩升級!百度也同期發佈“文心一言”!

英偉達重磅:史上最強AI算力芯片,老黃髮佈會終極大招!

ChatGPT免費開源平替——200億參數,前OpenAI團隊打造!

ChatGPT王炸升級——可識別圖片,考試成績超九成人類!

ChatGPT史詩升級——1秒生成網站,看圖玩梗能力堪比真人!

ChatGPT加強版——60秒生成彈球遊戲,零基礎也能開發遊戲!

ChatGPT王炸升級——解除“封印”,接入互聯網!

ChatGPT王炸官宣——正式解除封印,接入互聯網開放插件!

ChatGPT:預計3億人將失業,斯坦福封神開源GPT平替版!

ChatGPT:亞洲IP大面積被封,意大利停止服務!

ChatGPT突發:暫停關閉付費Plus,只因需求量太大!

ChatGPT突發:法國、西班牙或禁止GPT,只因數據安全問題!

ChatGPT突發:iOS版應用上線,衝到總榜第二!

ChatGPT:僅時隔一天,OpenAI重新開放付費訂閱!

ChatGPT手機版:近300萬年薪招募團隊,GPT5傳言被闢謠!

ChatGPT之父:重磅推出世界幣,將成爲AI時代“身份證”!

ChatGPT之父:奧特曼沒有公司股份,因爲熱愛創造了GPT!

ChatGPT:微軟聯手奧特曼,重磅投資核聚變發電!

微軟神級開源:“傻瓜式”工具,人人可擁有自己的ChatGPT!

遊戲界大變天:斯坦福最新成果,AI角色可模擬真人小鎮!

淘汰ChatGPT:智械危機來了,AutoGPT可自動寫代碼!

人工智能“覺醒”:自主學習,AutoGPT會顛覆ChatGPT嗎?

智械危機:AutoGPT嘗試“毀滅人類”,誘導發動核戰爭!

ChatGPT最強挑戰者:谷歌Claude,免註冊支持中文!

ChatGPT最強競品:谷歌免費升級克勞德,20秒逆天速通百頁論文!

ChatGPT:顯卡每日電費500萬,谷歌大腦合併阿爾法狗母公司

ChatGPT:玩轉《我的世界》,北京大學強化學習攻克複雜任務!

OpenAI重磅突破:用AI學習AI,開創人工智能新道路!

馬斯克重磅:推出“真相GPT”,保證不會毀滅人類!

馬斯克:ChatGPT成功離不開我,特斯拉擎天柱將改變未來!

奧特曼、馬斯克:ChatGPT風險堪比核武器,希望全球監管!

馬斯克:腦機接口通過審批,全球首次人體臨牀試驗!

馬斯克:中國航天遠比想象中要先進得多,2030年前實現登月!

馬斯克訪華:擴建上海超級工廠,特斯拉一夜大漲1800億!

人工智能之父、奧特曼嚴肅警告——AI未來將滅絕人類!

蘋果版GPT:將升級推出Siri大模型,禁止員工使用ChatGPT!

占卜GPT問世:AI進軍玄學領域,將取代星座大V!

ChatGPT:AI女網紅交1000+男友周入50萬,未來AI會如何發展?

NASA:小行星已掠過地球,ChatGPT可幫助觀測太空!

美團:無人機配送在深圳首飛,未來或將取代外賣員!

青年文學論壇——GPT-4來臨,翻譯會被AI取代嗎?

百度文心一言:全球大廠首發,可幫助續寫《三體》!

百度文心一言:中國版ChatGPT,短視頻批量生成!

百度文心一言:超8萬家企業排隊合作!

百度文心千帆:比ChatGPT便宜,百萬字僅12元!

百度李彥宏:有錢買不到創新,銳評谷歌也未做出來ChatGPT!

李彥宏:百度所有產品將大模型化,全球唯一自研公司!

阿里雲ChatGPT:“通義聽悟”大模型,對標百度文心繫列!

國產ChatGPT:支持手機芯片推理,馬雲談用GPT解決實際問題!

華爲版ChatGPT:重磅出爐!盤古大模型將在4月發佈!

華爲重磅自研:盤古NLP大模型,不打算追隨ChatGPT!

中國最強ChatGPT:語言大模型“商量”,演示性能超文心一言!

ChatGPT清明節:上海雲生命公司“復原”逝者,數字生命丫丫!

360自研GPT:周鴻禕長文反駁馬斯克,自稱“拯救派”望彎道超車!

360版ChatGPT:實機演示“翻車”,答錯梅西進球數!

阿里版ChatGPT:發佈“通義千問”大模型,可在支付寶測試體驗!

網易:ChatGPT自研課首發上架,AI爲遊戲賦能!

百度打假蘋果:文心一言慘遭套皮,現已對蘋果發起訴訟!

元宇宙大會:6大國產GPT同日推出,華爲阿里等成立GPT聯盟!

復旦ChatGPT:開源MOSS大模型,3090顯卡即可運行!

搞錢GPT:國產首個帶貨AI,將顛覆全球千億美金市場!

國產GPT:推出AI數字人員工,元宇宙+GPT震撼登場!

稚暉君:賽博國風輪足機器人“哪吒”,未來或集成GPT大模型!

論文相關:

畢業季雜談——如何隨時免費使用中國知網?

畢業季雜談——論文降重的“奇技淫巧”

畢業季雜談——大學教材如何獲取

畢業論文——Latex論文排版語言介紹

ChatGPT:畢業論文降重必備,天才數學家盛讚論文功能!

#gd的ai&遊戲雜談#

#ai人工智能#

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com