What Should We Learn From ModernBERT?

鍥犱負韜潗姣斾緥鐨勯棶棰橈紝娌堟湀涔熷彈鍒頒簡涓€浜涚綉鍙嬬殑鍐峰槻鐑锛屽悗鏉ュ紑濮嬪噺鑲ョ殑娌堟湀锛岃吙緇嗕簡寰堝锛屾暣浣撴皵璐ㄦ彁楂樹簡涓嶅皯銆?

鏈変簺闊╁浗濂蟲紨鍛樹笉浠呯編璨屽嚭浼楋紝榪樻嫢鏈夐珮鎸戣韓鏉愶紝鍏朵腑涔熸湁濂蟲槦浼氬洜濞冨▋鑴革紝鎴栨槸瀵規墜鐢鋒紨鍛樿韓楂樺お楂橈紝璁╁ぇ浼楄浠ヤ負韜珮涓嶉珮銆?鑰屼粖澶╁皬緙栧氨鐩樼偣浜?浣嶃€岃韓楂樻剰澶栧緢楂樼殑闊╁墽濂蟲槦銆嶏紝銆婁簩鍗佷簲锛屼簩鍗佷竴銆嬮噾娉版ⅷ鏈?66鍏垎锛岄噾澶氱編鏄?70鍏垎鐨勯殣鈃忛暱鑵匡紝閲戦珮閾跺父琚璁や負灝忓彧濂籌紝鍏ㄦ槶鏃?鏅哄瓭鍏跺疄閮藉ソ楂橈紒閲戞嘲姊ㄧ珶鐒舵湁166鍏垎锛佸緢澶氳浼楀湪鐪嬨€婁簩鍗佷簲锛屼簩鍗佷竴銆嬫椂锛岄兘浼氳涓洪噾娉版ⅷ涓嶉珮锛屼絾鍏跺疄閲戞嘲姊ㄨ韓楂樹篃鏈?66鍏垎鍛綖鉶界劧涓嶇畻鐗瑰埆楂樻寫锛屼絾166鍏垎鍦ㄥコ鐢熶腑涔熺畻鏄嚲楂樼殑锛佸叾瀹為噾娉版ⅷ鐨勮韓鏉愭瘮渚嬪緢濂斤紝浣嗗洜涓哄湪銆婁簩鍗佷簲銆嬮噷鎼。

187鍏垎鐨勫崡鏌辮但锛屽姞涓婂▋濞冭劯锛屽氨璁╅噾娉版ⅷ鐪嬭搗鏉ュ緢濞囧皬锛屼笉榪囬噾娉版ⅷ鐨勭湡瀹炶韓楂樺彲鏄湁166鍏垎锛佸緢澶氱綉鍙嬬煡閬撻噾娉版ⅷ鐨勮韓楂樺悗閮藉緢鎯婅锛屽埌搴曟槸鎬庝箞鑳戒釜瀛愰珮銆佽劯鍙堣繖涔堝皬鐨勫憿锝炰箣鍓嶉噾娉版ⅷ鍑哄腑鐢靛獎鑺傛椂锛屼篃鏈夊紶鍚堢収鏇懼紩璧風儹璁紝褰撻噾娉版ⅷ鍜?67鐨勬鼎濞ャ€?64鐨勫瓩鑹虹弽涓?62鐨勫肮姹濊礊絝欏湪涓€璧鳳紝鏁翠釜浜哄氨寰堟樉楂橈紒閲戝緹庝篃鏈夐殣鈃忕殑澶ч暱鑵匡紒涓嶅皯瑙備紬鐪嬨€婃ⅷ娉伴櫌銆嬨€併€婇偅騫存垜浠€嬮兘浠ヤ負閲戝緹庢槸灝忎釜瀛愶紝鍥犱負閲戝緹庤劯鍨嬪渾锛屽張鏄▋濞冭劯锛屾惌妗ｇ殑婕斿憳涔熼兘鏄湸鍙欎繆銆佸磾瀹囨榪欑闀胯吙鐢風锛屾墠浼氫駭鐢熼噾澶氱編寰堝皬鍙殑閿欒銆?閲戝緹庢槸妯＄壒鍎垮嚭韜紝韜珮瓚寵凍鏈?70鍏垎锛佷粩緇嗕竴鐪嬶紝鍏跺疄閲戝緹庡悓妗嗗磾瀹囨鏃訛紝涔熸病鏈夋槑鏄懼緢濞囧皬鐨勬劅瑙夛紝涓や漢姣斾緥閮藉緢濂斤紝絝欏湪涓€璧瘋韓楂樿秴鐩擱厤锝為噾楂橀摱涔熸槸韜珮鎰忓鍋忛珮鐨勫コ鏄燂綖閲戦珮閾舵槸鍦嗚劯+絝ラ锛屽姞涓婇噾楂橀摱鍚堜綔鐨勭敺鏄熷張閮芥槸韜珮180鍏垎浠ヤ笂鐨勭敺絏烇紝鍍忔槸瀛斿垬銆佹潕鏁忛晲銆佸畨鏅搐絳夛紝鍥犳璁╅噾楂橀摱甯稿父琚緢澶氫漢璿涓烘槸灝忓彧濂籌紝浣嗗叾瀹為噾楂橀摱涔熸湁167鍏垎鍛紒涔嬪墠閲戦珮閾惰繕鏇懼湪涓婂垎浜嚜宸辨媿鎽勩€婃煍緹庣殑緇嗚優灝忓皢銆嬬殑騫曞悗鐓х墖锛屾湁涓€寮犲氨鏄噾楂橀摱鍋氬嚭紺間華鑵匡紝璁╁寲濡嗗笀鏂逛究琛ュ鐨勭収鐗囷紝鍜屽懆鍥寸殑宸ヤ綔浜哄憳瀵規瘮锛岄噾楂橀摱鐪熺殑綆楁槸鎰忓楂樻寫鐨勯煩鍓уコ鏄熷暒锝炵敵鎯犲杽瓚呬護浜烘剰澶栵紒鍗曠湅鐢蟲儬鍠勭殑鑴歌泲鐨勮瘽锛岀粷瀵逛細瑙夊緱鏄緢鍙埍鐨勫皬涓瓙锛屼絾鍏跺疄鐢蟲儬鍠勬湰浜洪潪甯擱珮锛岃韓楂樿凍瓚蟲湁172鍏垎鍟婏紒鐢蟲儬鍠勬槸鍙堥珮鍙堢氦緇嗙殑韜潗锛屼箣鍓嶇敵鎯犲杽涔熻榪囧緢澶氫漢絎竴嬈¤鍒板ス鏃訛紝閮戒細鎯婅鍦拌锛氥€屽師鏉ヤ綘榪欎箞楂樺晩锛併€嶈€岀敵鎯犲杽涔熻〃紺猴紝鍥犱負鐢佃鍓у嚑涔庨兘鍙媿鍗婅韓锛屽姞涓婂ス鏄渾鍦嗙殑鑴稿瀷锛屾墍浠ュ緢澶氫漢閮借浠ヤ負濂瑰緢灝忓彧锛岀洿鍒扮湅鍒版湰浜猴紝鎵嶈濂圭殑澶ч暱鑵垮悡鍒般€傦豢韜珮鎴愯皽鐨勫嚑浣嶅コ鏄燂細闈㈠璐ㄧ枒寮犲ぉ鐖辯洿鎺ユ斁鍑鴻韓楂樺浘鍥炲簲鍦ㄩ鍊間負鐜嬬殑濞變箰鍦堬紝鎷ユ湁涓€寮犲ソ鐨泭鑷衝叧閲嶈銆?

浣嗗綋棰滃€兼寫涓嶅嚭姣涚棶涔嬪悗锛岃澶氫漢灝變細鎶婂叧娉ㄧ偣鏀懼湪濂逛滑鐨勮韓楂樹笂锛岃嚧鍔涙壘鍑哄ス浠韓涓婄殑涓€涓濅笉瓚籌紝鎵€浠ユ€繪湁鍑犱綅濂蟲槦鐨勮韓楂樻€繪槸澶囧彈璐ㄧ枒銆?鍦ㄧ編濂衝浜戠殑濞變箰鍦堬紝闉犲┃絏庡嚟鍊熶竴嬈″張涓€嬈″湴鍑哄湀閫犲瀷鍜屽瀹癸紝鎴愬姛鐒婃浜嗏€滃洓鍗冨勾緹庡コ鈥濈殑縐板彿銆?

鍦ㄩ灎濠х綺懼績鎹嶅崼鐨勮劯涓婃壘涓嶅嚭涓€涓濈己鐐瑰悗锛屾棤鏁板悆鐡滅兢浼楀氨綰風悍鎶婃敞鎰忓姏杞Щ鍒頒簡濂圭殑韜珮涓婏紝鑰岃韓楂樻垨璁告槸濂矽韓涓婂敮涓€涓€涓笉浼氭闈㈠洖搴旂殑璿濋銆?

緲葷湅闉犲┃絏庣殑鐧懼害鐧劇锛岃韓楂樹竴鏍忓啓鐨勬槸159,榪欎竴綾衝叚涓嶅埌鐨勮韓楂樹緷鏃ф湁涓嶅皯浜鴻川鐤戙€?搴旀鏌ヤ笂鑳墮噺锛屼嬌鍏惰凍澶熷苟淇濇寔鍧囧寑锛涖€佽兌榛忓墏鏈韓鍚告箍锛屽凡鍙樻祽嫻婏紝鏈夋憾瑙ｇ墿銆?

搴旈噸鏂伴厤鑳訛紝騫朵嬌鐢ㄤ笉鍚按銆侀唶銆侀吀銆佽兒絳夋椿鎬у熀鍥㈢殑婧跺墏銆?鐗瑰埆鏄湪浣跨敤鍓╀綑鑳舵恫鏃訛紝涓€瀹氳浠旂粏媯€鏌ワ紝鍦ㄧ‘璁ゆ棤娌夋穩銆佹棤嫻戞祳鏃舵墠鍙嬌鐢紱銆佷竴寮€濮嬭繘鍏ョ儤閬撶殑娓╁害澶珮锛屽共鐕ュお蹇紝浣胯兌娑插眰琛ㄩ潰鐨勬憾鍓傝繀閫熻捀鍙戯紝閫犳垚琛ㄩ潰灞傝兌娑叉祿搴︾殑灞€閮ㄦ彁楂橈紝琛ㄩ潰緇撶毊锛屽綋鐑噺娣卞靉鍒拌兌娑插眰鍐呴儴鍚庯紝鑳跺眰涓嬮潰鐨勬憾鍓傛皵鍖栵紝鍐茬牬鑳惰啘锛屽艦鎴愮伀灞卞柗鍙ｉ偅鏍風殑鐜姸鐗╋紝涓€鍦堜竴鍦堢殑锛屼篃浣胯兌灞備笉鍧囧寑锛岄€犳垚涓嶉€忔槑銆?

鍥犳鐑橀亾娓╁害鑷靉鍙ｅ搴旈€愭鎻愰珮锛岀敱浣庡埌楂橈紝鏈変竴涓搴︼紝璁╂憾鍓傛湁縐╁簭鍦般€佽繛緇湴鐢卞唴閮ㄥ悜澶栭儴钂稿彂銆?鍙﹀锛屽彲鐢ㄤ笉鍚屾哺鐐圭殑婧跺墏娣峰悎璧鋒潵锛屽湪鍙楃儹钂稿彂鏃惰兌灞傝〃闈㈢殑楂樻哺鐐逛繚鐣欒緝闀挎椂闂達紝涓嶈嚧琛ㄥ眰緇撶毊锛涖€佸鍚堟椂鐨勬鑳惰緤鏈夌己闄鳳紝鏌愪竴鐐瑰帇涓嶇潃锛屽紑鎴愮┖褰擄紝涓嶉€忔槑銆?