解秘 Node.js 单线程实现高并发请求原理，以及串联同步执行并发请求的方案

鎻Node.js鍗曠嚎绋嬪疄鐜伴珮骞跺彂璇锋眰鐨勫師鐞嗭紝骞跺彂璇锋眰涓茶鍚屾鎵ц鐨勬柟妗圗xecute杩斿洖缁撴灉銆傛槸鐨勶紝杩欎釜闇€姹傚ソ濂囨€紝涓氬姟鍦烘櫙濂藉鎬€傛弧瓒宠姹傘€備负浜嗗Node.js楂樺苟鍙戣姹傜殑鍘熺悊鏈夋洿娣卞叆鐨勭悊瑙ｏ紝鐗瑰湴鍐欎簡涓€绡囨枃绔犲珐鍥虹浉鍏崇煡璇嗙偣銆侼ode.js鐨勯棶棰樼敱杩欎簺鍏抽敭璇嶇粍鎴愶細浜嬩欢椹卞姩銆侀潪闃诲I/O銆侀珮鏁堛€佽交閲忕骇銆傛墍浠ュ綋鎴戜滑鍒氬紑濮嬫帴瑙ode.js鐨勬椂鍊欙紝鎴戜滑灏辨湁鐤戞儜锛氫负浠€涔堣繍琛屽湪娴忚鍣ㄤ腑鐨凧avaScript鑳藉鍦ㄨ繖涔堜綆鐨勫眰娆′笂涓庢搷浣滅郴缁熻繘琛屼氦浜掑憿锛烴ode鐪熺殑鏄崟绾跨▼鐨勫悧锛熷鏋滄槸鍗曠嚎绋嬶紝浠栨€庝箞澶勭悊楂樺苟鍙戣姹傚憿锛烴ode浜嬩欢椹卞姩鏄浣曞疄鐜扮殑锛熷揩涓嬫潵锛屼竴璧锋潵瑙ｅ紑璋滃洟鍚э紒鏋舵瀯姒傝涓婇潰鐨勯棶棰橀兘姣旇緝搴曞眰锛岄偅鎴戜滑灏变粠Node.js鏈韩璇磋捣锛屽厛鐪嬩竴涓婲ode.js鐨勭粨鏋勩€侼ode.js鏍囧噯搴擄紝杩欓儴鍒嗘槸鐢↗avascript鍐欑殑锛屼篃灏辨槸鎴戜滑鍦ㄤ娇鐢ㄨ繃绋嬩腑鍙互鐩存帴璋冪敤鐨凙PI銆傚湪婧愮爜涓殑lib鐩綍涓嬪彲浠ョ湅鍒般€傝妭鐐圭粦瀹氾紝杩欎竴灞傛槸Javascript涓庡簳灞侰/C++閫氫俊鐨勫叧閿€傚墠鑰呴€氳繃缁戝畾璋冪敤鍚庤€呯浉浜掍氦鎹㈡暟鎹€傜涓夊眰鏄敮鎸丯ode.js杩愯鐨勫叧閿紝鐢盋/C++瀹炵幇銆俈8锛欸oogle鎺ㄥ嚭鐨凧avascriptVM涔熸槸Node.js涓轰粈涔堜娇鐢↗avaScript鐨勫叧閿€傚畠涓篔avaScript鍦ㄩ潪娴忚鍣ㄧ杩愯鎻愪緵浜嗕竴涓幆澧冦€傚畠鐨勯珮鏁堟槸Node.js楂樻晥鐨勫師鍥犱箣涓€銆俵ibuv锛氬畠涓篘ode.js鎻愪緵浜嗚法骞冲彴銆佺嚎绋嬫睜銆佷簨浠舵睜銆佸紓姝/O绛夎兘鍔涳紝鏄疦ode.js寮哄ぇ鐨勫叧閿€侰-ares锛氭彁渚涘紓姝ュ鐞咲NS鐨勮兘鍔涖€俬ttp_parser銆丱penSSL銆亃lib绛夛細鎻愪緵鍖呮嫭http瑙ｆ瀽銆丼SL銆佹暟鎹帇缂╃瓑鍏朵粬鑳藉姏鍗曠嚎绋嬨€佸紓姝ュ崟绾跨▼锛氭墍鏈変换鍔￠兘闇€瑕佹帓闃燂紝涓嬩竴涓换鍔″彧浼氬湪涓婁竴涓换鍔′箣鍚庢墽琛屼换鍔″畬鎴愩€傚鏋滃墠涓€涓换鍔¤€楁椂寰堥暱锛屽悗涓€涓换鍔″氨寰椾竴鐩寸瓑涓嬪幓銆侼ode鍗曠嚎绋嬫槸鎸嘚ode鍦ㄦ墽琛岀▼搴忎唬鐮佹椂锛屼富绾跨▼鏄崟绾跨▼銆傚紓姝ワ細闄や簡涓荤嚎绋嬩箣澶栵紝杩樼淮鎶や簡涓€涓€滀簨浠堕槦鍒椻€濓紙Eventqueue锛夈€傚綋鐢ㄦ埛鐨勭綉缁滆姹傛垨鍏朵粬寮傛鎿嶄綔鍒版潵鏃讹紝Node浼氭妸瀹冩斁鍏ventQueue涓紝骞朵笉浼氱珛鍗虫墽琛岋紝涔熶笉浼氶樆濉炰唬鐮侊紝缁х画寰€涓嬭蛋锛岀洿鍒颁富绾跨▼浠ｇ爜鎵ц瀹屾瘯銆傛敞鎰忥細JavaScript鏄崟绾跨▼鐨勶紝Node鏈韩鏄绾跨▼鐨勶紝鍙槸I/O绾跨▼鍗犵敤CPU灏戯紱杩樻湁涓€鐐瑰緢閲嶈锛岄櫎浜嗙敤鎴蜂唬鐮佷笉鑳藉苟琛屾墽琛屽锛屾墍鏈夌殑I/O锛堢鐩業/O鍜岀綉缁淚/O锛夐兘鍙互骞惰銆俵ibuv绾跨▼姹犻粯璁ゅ紑鍚?涓紝鏈€澶氬紑鍚?28涓嚎绋嬨€侼odejs鎵€璋撶殑鍗曠嚎绋嬩簨浠跺惊鐜紝涓嶈繃涓荤嚎绋嬫槸鍗曠嚎绋嬬殑銆備富绾跨▼杩愯V8鍜孞avaScript銆傞€氳繃浜嬩欢寰幆璋冨害澶氫釜瀛愮嚎绋嬶紝鍙互鎶借薄涓猴細涓荤嚎绋嬪搴旇€佹澘锛屾鍦ㄥ伐浣溿€備竴鏃﹀彂鐜版湁浠诲姟鍙互鍒嗛厤缁欒亴鍛橈紙瀛愮嚎绋嬶級锛屽氨浼氭妸浠诲姟鍒嗛厤缁欎笅闈㈢殑鑱屽憳銆傚悓鏃讹紝鑰佹澘缁х画鍋氳嚜宸辩殑宸ヤ綔锛屽綋鍛樺伐锛堝瓙绾跨▼锛夊畬鎴愪换鍔℃椂锛屼細閫氳繃浜嬩欢灏嗙粨鏋滃洖璋冪粰鑰佹澘銆傝€佹澘涓嶆柇閲嶅瀹屾垚鍛樺伐鐨勫瓙浠诲姟锛堝瓙绾跨▼锛夈€傝€佹澘锛堜富绾跨▼锛夌粰鍛樺伐锛堝瓙绾跨▼锛夊垎閰嶄换鍔★紝鍛樺伐锛堝瓙绾跨▼锛夊畬鎴愪换鍔″悗锛岄€氳繃浜嬩欢灏嗙粨鏋滃洖璋冪粰鑰佹澘銆傝€佹澘锛堜富绾跨▼锛夊鐞嗗洖璋冪粨鏋滃苟鎵ц鐩稿簲鐨凧avaScript銆傛洿鍏蜂綋鐨勮В閲婅鐪嬩笅鍥撅細1.姣忎釜Node.js杩涚▼鍙湁涓€涓富绾跨▼鎵ц绋嬪簭浠ｇ爜锛屽舰鎴愪竴涓墽琛屼笂涓嬫枃鏍堛€?銆丯ode.js鍦ㄤ富绾跨▼涓淮鎶や簡涓€涓€滀簨浠堕槦鍒椻€濓紙Eventqueue锛夈€傚綋鐢ㄦ埛鐨勭綉缁滆姹傛垨鍏朵粬寮傛鎿嶄綔鍒版潵鏃讹紝Node浼氬皢鍏舵斁鍏ventQueue涓€傝繖涓椂鍊欎笉浼氶┈涓婃墽琛岋紝浠ｇ爜涓嶄細闃诲锛岀户缁線涓嬭蛋锛岀洿鍒颁富绾跨▼浠ｇ爜鎵ц瀹屻€?銆佷富绾跨▼浠ｇ爜鎵ц瀹屾垚鍚庯紝鍐嶉€氳繃EventLoop锛屽嵆浜嬩欢寰幆鏈哄埗锛屽幓妫€鏌ラ槦鍒椾腑鏄惁鏈夐渶瑕佸鐞嗙殑浜嬩欢銆傝繖鏃跺€欐湁涓ょ鎯呭喌锛氬鏋滄槸闈濱/O浠诲姟锛屼細鑷繁澶勭悊銆傚苟閫氳繃鍥炶皟鍑芥暟杩斿洖涓婂眰璋冪敤锛涘鏋滄槸I/O浠诲姟锛屼粠绾跨▼姹犱腑鍙栧嚭涓€涓嚎绋嬫潵澶勭悊浜嬩欢锛屽苟鎸囧畾鍥炶皟鍑芥暟锛屽綋绾跨▼涓殑I/O浠诲姟瀹屾垚鏃讹紝鎵ц鎸囧畾鐨凜allback鍑芥暟锛屽皢瀹屾垚鐨勪簨浠舵斁鍏ュ湪浜嬩欢闃熷垪鐨勬湯灏撅紝灏嗙嚎绋嬭繑鍥炲埌绾跨▼姹狅紝绛夊緟浜嬩欢寰幆銆傚綋涓荤嚎绋嬪啀娆″惊鐜埌璇ヤ簨浠舵椂锛岀洿鎺ュ鐞嗗苟杩斿洖缁欎笂灞傝皟鐢ㄣ€傝繖涓繃绋嬬О涓轰簨浠跺惊鐜€?銆佹湡闂翠富绾跨▼涓嶆柇妫€鏌ヤ簨浠堕槦鍒椾腑鏄惁杩樻湁鏈墽琛岀殑浜嬩欢锛岀洿鍒颁簨浠堕槦鍒椾腑鐨勬墍鏈変簨浠堕兘鎵ц瀹屾瘯銆備箣鍚庯紝姣忓綋鏈夋柊鐨勪簨浠跺姞鍏ュ埌浜嬩欢闃熷垪涓紝灏变細閫氱煡涓荤嚎绋嬫寜椤哄簭鍙栧嚭浜嬪姟銆備簨浠跺惊鐜鐞嗐€侼odejs鐨勪紭缂虹偣浼樼偣锛欼/O瀵嗛泦鍨嬪鐞嗘槸Nodejs鐨勫己椤癸紝鍥犱负Nodejs鐨処/O璇锋眰閮芥槸寮傛鐨勶紙姣斿锛歴ql鏌ヨ璇锋眰锛屾枃浠舵祦鎿嶄綔鎿嶄綔璇锋眰锛宧ttp璇锋眰...锛塏odejs鐨勭己鐐癸細涓嶆搮闀縞pu瀵嗛泦鍨嬫搷浣滐紙澶嶆潅鎿嶄綔锛屽浘鐗囨搷浣滐級鎬荤粨1.Nodejs涓庢搷浣滅郴缁熶氦浜掋€傛垜浠湪JavaScript涓皟鐢ㄧ殑鏂规硶鏈€缁堜細閫氳繃process.binding浼犻€掑埌C/C++灞傞潰锛屾渶缁堢敱瀹冧滑鏉ユ墽琛屽疄闄呯殑鎿嶄綔銆傝繖灏辨槸Node.js涓庢搷浣滅郴缁熶氦浜掔殑鏂瑰紡銆?銆丯odejs鎵€璋撶殑鍗曠嚎绋嬶紝灏辨槸涓荤嚎绋嬫槸鍗曠嚎绋嬨€傛墍鏈夌殑缃戠粶璇锋眰鎴栬€呭紓姝ヤ换鍔￠兘浜ょ粰鍐呴儴绾跨▼姹犲幓鎵ц銆傚畠鍙礋璐ｈ繛缁殑寰€杩旇皟搴︼紝浜嬩欢寰幆涓嶆柇椹卞姩浜嬩欢鎵ц銆?銆丯odejs涔嬫墍浠ヨ兘澶熺敤鍗曠嚎绋嬪鐞嗛珮骞跺彂锛屾槸寰楃泭浜巐ibuv灞傜殑浜嬩欢寰幆鏈哄埗鍜屽簳灞傜嚎绋嬫睜鐨勫疄鐜般€?.浜嬩欢寰幆鏄寚涓荤嚎绋嬩笉鏂粠涓荤嚎绋嬬殑浜嬩欢闃熷垪涓鍙栦簨浠讹紝浠庤€岄┍鍔ㄦ墍鏈夊紓姝ュ洖璋冨嚱鏁扮殑鎵ц銆備簨浠跺惊鐜竴鍏辨湁7涓樁娈碉紝姣忎釜闃舵閮芥湁涓€涓换鍔￠槦鍒椼€傚綋鎵€鏈夐樁娈典緷娆℃墽琛屼竴娆″悗锛屼簨浠跺惊鐜畬鎴愪竴涓猼ick銆傚弬鑰冩枃绔狅細Nodejs鎺㈢储锛氭繁鍏ョ悊瑙ｅ崟绾跨▼瀹炵幇楂樺苟鍙戝師鐞嗗苟鍙戣姹傜殑涓茶鍚屾鎵ц涓婃枃鎻愬埌锛歂ode.js鍦ㄤ富绾跨▼涓淮鎶や簡涓€涓€滀簨浠堕槦鍒椻€濓紙Eventqueue锛夛紝褰撶敤鎴风殑缃戠粶璇锋眰鎴栬€呭叾浠栧紓姝ユ搷浣滃埌鏉ユ椂锛孨ode浼氭妸瀹冩斁鍏ventQueue涓紝姝ゆ椂涓嶄細绔嬪嵆鎵ц锛屼篃涓嶄細闃诲浠ｇ爜锛岀户缁線涓嬭蛋锛岀洿鍒颁富绾跨▼浠ｇ爜鎵ц瀹屾瘯銆傛墍浠ュ苟鍙戣姹備覆琛屽悓姝ユ墽琛岀殑鍏抽敭鏄淮鎶や竴涓槦鍒椼€傞槦鍒楃殑鐗圭偣鏄厛杩涘厛鍑恒€傛寜鐓ч槦鍒椾腑鐨勯『搴忔墽琛岋紝鍙互杈惧埌骞跺彂璇锋眰涓茶鍚屾鎵ц鐨勭洰鐨勩€傝鏂规鏍规嵁姣忎釜璇锋眰鐨剈niqueId鍙橀噺缁存姢涓€涓猺esult鏁扮粍鍜屼竴涓墽琛岄槦鍒椾綔涓哄敮涓€token闃熷垪锛屽皢鎵ц闃熷垪瀹屾垚鐨則oken鍜岀粨鏋滃瓨鍌ㄥ湪result鏁扮粍涓€傞棿闅斾负200姣锛岃秴鏃剁瓑寰呮椂闂翠负10鍒嗛挓銆傜瓑寰呭苟寰楀埌缁撴灉锛岀瓑鍒版湁缁撴灉锛屽啀杩斿洖璇锋眰锛涘苟鏍规嵁token鍒犻櫎result鏁扮粍涓殑瀵瑰簲椤广€傞槦鍒椾唬鐮侊細classRecorder{privatelist:any[];绉佷汉闃熷垪鍒楄〃锛氫换浣昜]锛涚浜洪棿闅旇鏃跺櫒锛涙瀯閫犲嚱鏁帮紙锛墈this.list=[];this.queueList=[];this.intervalTimer=null;}//鏍规嵁id鑾峰彇浠诲姟缁撴灉publicget(id:string){letdata;console.log('this.list:',this.list);璁╃储寮曪紱for(leti=0;i{clearInterval(this.intervalTimer);//缁х画鎵ц閲岄潰鐨勪换鍔waitthis.runQueue();this.interval();},200);}}constrecorder=newRecorder();recorder.interval();exportdefaultrecorder;涓嬮潰鐨勬湇鍔℃ā鎷熶竴涓狽ode鏈嶅姟璇锋眰涓€涓鍙ｄ唬鐮侊細constKoa=require('koa')constRouter=require('koa-router')constcuid=require('cuid');constbodyParser=require('koa-bodyparser')浠庘€?/libs/recorder鈥濆鍏ヨ褰曞櫒锛涘父鏁癕AX_WAITING_TIME=60*5;//鏈€闀跨瓑寰呮椂闂?/web鏈嶅姟绔彛constSERVER_PORT:number=3000;constapp=newKoa();app.use(bodyParser());constrouter=newRouter();/***programsleep*@paramtimemilliseconds*/consttimeSleep=(time:number)=>{returnnewPromise((resolve)=>{setTimeout(()=>{resolve("");},time);});};/***programsleep*@paramsecondseconds*/constsleep=(second:number)=>{returntimeSleep(second*1000);};router.post("/getPort",async(ctx,next)=>{const{num}=ctx.request.body;constuniqueId=cuid();console.log('uniqueId:',uniqueId);recorder.addQueue({id:uniqueId,callback:getPortFun(num)});letwaitTime=0;while(!ctx.body){awaitsleep(0.2);console.log('1');甯搁噺鏁版嵁锛歛ny=recorder.get(uniqueId)锛涘鏋滐紙鏁版嵁锛墈ctx.body={浠ｇ爜锛?锛屾暟鎹細鏁版嵁锛屽懗绮撅細'鎴愬姛'};}绛夊緟鏃堕棿++锛?/濡傛灉瓒呰繃鏈€澶ф椂闂村垯杩斿洖涓€涓粨鏋渋f(waitTime>MAX_WAITING_TIME){ctx.body={};}}});//杩斿洖涓€涓嚱鏁癴unctiongetPortFun(num){return()=>{returnnewPromise((resolve)=>{//妯℃嫙寮傛绋嬪簭setTimeout(()=>{console.log(`num${num}:`,num);resolve(num*num);},num*1000);});};}app.use(router.routes()).use(router.allowedMethods());app.listen(SERVER_PORT);鏈€鍚庯紝鏈€杩戠姸鎬佸緢涓嶅ソ锛屾墍浠ユ渶杩戠殑鍘熷垱鎶€鏈枃绔犳湁鐐归毦鍑吼煒ュ績鎬佹€ラ渶璋冩暣銆傛垜鎯冲懆鏈嚭鍘绘斁鏉句竴涓嬶紝瀵绘壘鍏呮弧鏂楀織鐨勭湡瀹炶嚜鎴戯紝鍞夛紝鎺ㄨ崘闃呰TypeScript鎻愬崌骞哥鎰熺殑10涓繘闃舵妧宸э紝鏀寔鎴戰煈?/p>