原來rollup這么簡單之 rollup.rollup篇


大家好,我是小雨小雨,致力於分享有趣的、實用的技術文章。
內容分為翻譯和原創,如果有問題,歡迎隨時評論或私信,希望和大家一起進步。
分享不易,希望能夠得到大家的支持和關注。

計划

rollup系列打算一章一章的放出,內容更精簡更專一更易於理解

目前打算分為以下幾章:

TL;DR

在進入枯燥的代碼解析之前,先大白話說下整個過程,rollup.rollup()主要分為以下幾步:

  1. 配置收集、標准化
  2. 文件分析
  3. 源碼編譯,生成ast
  4. 模塊生成
  5. 依賴解析
  6. 過濾凈化
  7. 產出chunks

按照這個思路來看其實很簡單,但是具體的細節卻是百般復雜的。
不過我們也不必糾結於具體的某些實現,畢竟條條大路通羅馬,我們可以吸納並改進或學習一些沒見過的代碼技巧或優化方法,在我看來,這才是良好的閱讀源碼的方式。😃

注意點

所有的注釋都在這里,可自行閱讀

!!!版本 => 筆者閱讀的rollup版本為: 1.32.0

!!!提示 => 標有TODO為具體實現細節,會視情況分析。

!!!注意 => 每一個子標題都是父標題(函數)內部實現

!!!強調 => rollup中模塊(文件)的id就是文件地址,所以類似resolveID這種就是解析文件地址的意思,我們可以返回我們想返回的文件id(也就是地址,相對路徑、決定路徑)來讓rollup加載

rollup是一個核心,只做最基礎的事情,比如提供默認模塊(文件)加載機制, 比如打包成不同風格的內容,我們的插件中提供了加載文件路徑,解析文件內容(處理ts,sass等)等操作,是一種插拔式的設計,和webpack類似
插拔式是一種非常靈活且可長期迭代更新的設計,這也是一個中大型框架的核心,人多力量大嘛~

主要通用模塊以及含義

  1. Graph: 全局唯一的圖,包含入口以及各種依賴的相互關系,操作方法,緩存等。是rollup的核心
  2. PathTracker: 無副作用模塊依賴路徑追蹤
  3. PluginDriver: 插件驅動器,調用插件和提供插件環境上下文等
  4. FileEmitter: 資源操作器
  5. GlobalScope: 全局作用局,相對的還有局部的
  6. ModuleLoader: 模塊加載器
  7. NodeBase: ast各語法(ArrayExpression、AwaitExpression等)的構造基類

主流程解析

  • 1.調用getInputOptions標准化input配置參數

    const inputOptions = getInputOptions(rawInputOptions);
    
    • 1.1. 調用mergeOptions,設置默認的input和output配置,並返回input配置 和 使用非法配置屬性的錯誤信息
      let { inputOptions, optionError } = mergeOptions({
        config: rawInputOptions
      });
      
    • 1.2. 調用options鈎子函數,以在input配合完全標准化之前進行自定義修改
      inputOptions = inputOptions.plugins!.reduce(applyOptionHook, inputOptions);
      
    • 1.3. 標准化插件操作:為返回對象中沒有name屬性的插件設置默認的插件名 => at position 當前插件在所有插件中索引值
      inputOptions.plugins = normalizePlugins(inputOptions.plugins!, ANONYMOUS_PLUGIN_PREFIX);
      
    • 1.4. 對不兼容內嵌動態引入模塊或保留模塊兩種情況的配置,進行警告報錯
      // 將動態導入的依賴(import | require.ensure() | other)內嵌到一個chunk而不創建獨立的包,相關的代碼邏輯如下
      if (inputOptions.inlineDynamicImports) {
        // preserveModules: 盡可能的保留模塊,而不是混合起來,創建更少的chunks,默認為false,不開啟
        if (inputOptions.preserveModules) // 如果開啟了,就與內嵌沖突了
          return error({
            code: 'INVALID_OPTION',
            message: `"preserveModules" does not support the "inlineDynamicImports" option.`
          });
        // 其他判斷,具體參考代碼倉庫:index.ts
      } else if (inputOptions.preserveModules) {
        // 又對 以原始文件命名,不綜合打包 的功能進行排異處理
        if (inputOptions.manualChunks)
          return error({
            code: 'INVALID_OPTION',
            message: '"preserveModules" does not support the "manualChunks" option.'
          });
        // 其他判斷,具體參考代碼倉庫:index.ts
      }
      
    • 1.5. 返回處理后的input配置
      return inputOptions;
      
  • 2.是否開啟性能檢測,檢測inputOptions.perf屬性,如果未設置沒那么檢測函數為空

    initialiseTimers(inputOptions);
    
  • 3.創建圖,參數為input配置和watch,watch當前不考慮

    const graph = new Graph(inputOptions, curWatcher);
    
    • 3.1. 初始化警告函數,對已經提示過得警告進行緩存

      this.onwarn = (options.onwarn as WarningHandler) || makeOnwarn();
      
    • 3.2. 給當前圖掛載路徑追蹤系統,無構造函數,只有屬性和更改屬性的方法

      this.deoptimizationTracker = new PathTracker();
      
    • 3.3. 初始化當前圖的唯一模塊緩存容器,可以將上個打包結果的cache屬性賦給下一次打包,提升打包速度 =>

        this.cachedModules = new Map();
      
    • 3.4. 讀取傳遞的上次build結果中的模塊和插件。插件緩存參考 =>,下文中解釋。

      if (options.cache) {
        if (options.cache.modules)
          for (const module of options.cache.modules) this.cachedModules.set(module.id, module);
      }
      
      if (options.cache !== false) {
        this.pluginCache = (options.cache && options.cache.plugins) || Object.create(null);
      
        for (const name in this.pluginCache) {
          const cache = this.pluginCache[name];
          for (const key of Object.keys(cache)) cache[key][0]++;
        }
      }
      
    • 3.5. treeshake信息掛載。

      if (options.treeshake !== false) {
        this.treeshakingOptions =
          options.treeshake && options.treeshake !== true
            ? {
                annotations: options.treeshake.annotations !== false,
                moduleSideEffects: options.treeshake.moduleSideEffects,
                propertyReadSideEffects: options.treeshake.propertyReadSideEffects !== false,
                pureExternalModules: options.treeshake.pureExternalModules,
                tryCatchDeoptimization: options.treeshake.tryCatchDeoptimization !== false,
                unknownGlobalSideEffects: options.treeshake.unknownGlobalSideEffects !== false
              }
            : {
                annotations: true,
                moduleSideEffects: true,
                propertyReadSideEffects: true,
                tryCatchDeoptimization: true,
                unknownGlobalSideEffects: true
              };
        if (typeof this.treeshakingOptions.pureExternalModules !== 'undefined') {
          this.warnDeprecation(
            `The "treeshake.pureExternalModules" option is deprecated. The "treeshake.moduleSideEffects" option should be used instead. "treeshake.pureExternalModules: true" is equivalent to "treeshake.moduleSideEffects: 'no-external'"`,
            false
          );
        }
      }
      
    • 3.6. 初始化代碼解析器,具體參數和插件參考Graph.ts

      this.contextParse = (code: string, options: acorn.Options = {}) =>
        this.acornParser.parse(code, {
          ...defaultAcornOptions,
          ...options,
          ...this.acornOptions
        }) as any;
      
    • 3.7. 插件驅動器

      this.pluginDriver = new PluginDriver(
        this,
        options.plugins!,
        this.pluginCache,
        // 處理軟連文件的時候,是否以為軟連所在地址作為上下文,false為是,true為不是。
        options.preserveSymlinks === true,
        watcher
      );
      
      • 3.7.1. 棄用api警告,參數掛載

      • 3.7.2. 實例化FileEmitter並且將實例所攜帶方法設置到插件驅動器上

        // basePluginDriver為PluginDriver的第六個參數,代表graph的'根'插件驅動器
        this.fileEmitter = new FileEmitter(graph, basePluginDriver && basePluginDriver.fileEmitter);
        this.emitFile = this.fileEmitter.emitFile;
        this.getFileName = this.fileEmitter.getFileName;
        this.finaliseAssets = this.fileEmitter.assertAssetsFinalized;
        this.setOutputBundle = this.fileEmitter.setOutputBundle;
        
      • 3.7.3. 插件拼接

        this.plugins = userPlugins.concat(
          basePluginDriver ? basePluginDriver.plugins : [getRollupDefaultPlugin(preserveSymlinks)] 
        );
        
      • 3.7.4. 緩存插件們的上下文環境,之后執行插件的的時候會通過index獲取並注入到插件內

        // 利用map給每個插件注入plugin特有的context,並緩存
        this.pluginContexts = this.plugins.map(
          getPluginContexts(pluginCache, graph, this.fileEmitter, watcher)
        );
        
      • 3.7.5. input和output設置的插件沖突的時候,報錯

        if (basePluginDriver) {
          for (const plugin of userPlugins) {
            for (const hook of basePluginDriver.previousHooks) {
              if (hook in plugin) {
                graph.warn(errInputHookInOutputPlugin(plugin.name, hook));
              }
            }
          }
        }
        
    • 3.8. 監聽模式的設定

      	if (watcher) {
      		const handleChange = (id: string) => this.pluginDriver.hookSeqSync('watchChange', [id]);
      		watcher.on('change', handleChange);
      		watcher.once('restart', () => {
      			watcher.removeListener('change', handleChange);
      		});
      	}
      
    • 3.9. 全局上下文

      this.scope = new GlobalScope();
      
    • 3.10. 設置模塊的全局上下文,默認為false

      this.context = String(options.context);
      
      	// 用戶是否自定義了上下文環境
      	const optionsModuleContext = options.moduleContext;
      	if (typeof optionsModuleContext === 'function') {
      		this.getModuleContext = id => optionsModuleContext(id) || this.context;
      	} else if (typeof optionsModuleContext === 'object') {
      		const moduleContext = new Map();
      		for (const key in optionsModuleContext) {
      			moduleContext.set(resolve(key), optionsModuleContext[key]);
      		}
      		this.getModuleContext = id => moduleContext.get(id) || this.context;
      	} else {
      		this.getModuleContext = () => this.context;
      	}
      
    • 3.11. 初始化moduleLoader,用於模塊(文件)的解析和加載

      // 模塊(文件)解析加載,內部調用的resolveID和load等鈎子,讓使用者擁有更多的操作能力
      this.moduleLoader = new ModuleLoader(
      		this,
      		this.moduleById,
      		this.pluginDriver,
      		options.external!,
      		(typeof options.manualChunks === 'function' && options.manualChunks) as GetManualChunk | null,
      		(this.treeshakingOptions ? this.treeshakingOptions.moduleSideEffects : null)!,
      		(this.treeshakingOptions ? this.treeshakingOptions.pureExternalModules : false)!
      	);
      
  • 4.執行buildStart鈎子函數,打包獲取chunks,以供后續生成和寫入使用

    try {
      	// buildStart鈎子函數觸發
      	await graph.pluginDriver.hookParallel('buildStart', [inputOptions]);
      	// 這一步通過id,深度分析拓撲關系,去除無用塊,進而生成我們的chunks
      
      // build的邏輯詳見下文
      	chunks = await graph.build( // 這個chunks是閉包,所以generate和write可以用到
      		inputOptions.input as string | string[] | Record<string, string>,
      		inputOptions.manualChunks,
      		inputOptions.inlineDynamicImports!
      	);
      } catch (err) {
      	const watchFiles = Object.keys(graph.watchFiles);
      	if (watchFiles.length > 0) {
      		err.watchFiles = watchFiles;
      	}
      	await graph.pluginDriver.hookParallel('buildEnd', [err]);
      	throw err;
      }
    
  • 5.返回一個對象,包括緩存,監聽文件和generate、write兩個方法

    return {
      cache,
      watchFiles,
      generate,
      write
    }
    
graph.build邏輯解析

build方法通過id,深度分析拓撲關系,去除無用塊,進而生成我們的chunks
接受三個參數:入口、提取公共塊規則(manualChunks)、是否內嵌動態導入模塊

  • build是很單一的方法,就是產出我們的chunks。他返回一個promise對象供之后的使用。
      return Promise.all([
        入口模塊, // 代碼為: this.moduleLoader.addEntryModules(normalizeEntryModules(entryModules), true)
        用戶定義公共模塊 // 這塊沒有返回值,只是將公共模塊緩存到模塊加載器上,處理結果由入口模塊代理返回。巧妙的處理方式,一舉兩得
      ]).then((入口模塊的返回) => {
        // 模塊的依賴關系處理
        return chunks;
      });
    
  • 入口模塊: this.moduleLoader.addEntryModules(normalizeEntryModules(entryModules), true)
    • normalizeEntryModules對入口進行標准化處理,返回統一的格式:
        UnresolvedModule {
            fileName: string | null;
            id: string;
            name: string | null;
        }
      
    • addEntryModules對模塊進行加載、去重,再排序操作,最后返回模塊,公共chunks。其中,在加載過程中會將處理過的模塊緩存到ModuleLoaders的modulesById(Map對象)上。部分代碼如下:
        // 模塊加載部分
        private fetchModule(
          id: string,
          importer: string,
          moduleSideEffects: boolean,
          syntheticNamedExports: boolean,
          isEntry: boolean
        ): Promise<Module> {
          // 主流程如下:
          
          // 獲取緩存,提升效率:
          const existingModule = this.modulesById.get(id);
          if (existingModule instanceof Module) {
            existingModule.isEntryPoint = existingModule.isEntryPoint || isEntry;
            return Promise.resolve(existingModule);
          }
          
          // 新建模塊:
          const module: Module = new Module(
            this.graph,
            id,
            moduleSideEffects,
            syntheticNamedExports,
            isEntry
          );
          
          // 緩存,以備優化
          this.modulesById.set(id, module);
          
          // 為每一個入庫模塊設置已監聽
          this.graph.watchFiles[id] = true;
          
          // 調用用戶定義的manualChunk方法,獲取公共chunks別名,比如:
          // 比如 manualChunkAlias(id){
          // 	if (xxx) {
          // 		return 'vendor';
          // 	}
          // }
          const manualChunkAlias = this.getManualChunk(id);
          
          // 緩存到 manualChunkModules
          if (typeof manualChunkAlias === 'string') {
            this.addModuleToManualChunk(manualChunkAlias, module);
          }
          
          // 調用load鈎子函數並返回處理結果,其中第二個數組參數為傳到鈎子函數的的參數
          return Promise.resolve(this.pluginDriver.hookFirst('load', [id]))
            .cache()
            .then(source => {
              // 統一格式: sourceDescription
              return {
                code: souce,
                // ...
              }
            })
            .then(sourceDescription => {
              // 返回鈎子函數transform處理后的代碼,比如jsx解析結果,ts解析結果
              // 參考: https://github.com/rollup/plugins/blob/e7a9e4a516d398cbbd1fa2b605610517d9161525/packages/wasm/src/index.js
              return transform(this.graph, sourceDescription, module);
            })
            .then(source => {
              // 代碼編譯結果掛在到當前解析的入口模塊上
              module.setSource(source);
              // 模塊id與模塊綁定
              this.modulesById.set(id, module);
              // 處理模塊的依賴們,將導出的模塊也掛載到module上
              // !!! 注意: fetchAllDependencies中創建的模塊是通過ExternalModule類創建的,有別的入口模塊的
              return this.fetchAllDependencies(module).then(() => {
                for (const name in module.exports) {
                  if (name !== 'default') {
                    module.exportsAll[name] = module.id;
                  }
                }
                for (const source of module.exportAllSources) {
                  const id = module.resolvedIds[source].id;
                  const exportAllModule = this.modulesById.get(id);
                  if (exportAllModule instanceof ExternalModule) continue;
      
                  for (const name in exportAllModule!.exportsAll) {
                    if (name in module.exportsAll) {
                      this.graph.warn(errNamespaceConflict(name, module, exportAllModule!));
                    } else {
                      module.exportsAll[name] = exportAllModule!.exportsAll[name];
                    }
                  }
                }
              // 返回這些處理后的module對象,從id(文件路徑) 轉換到 一個近乎具有文件完整信息的對象。
              return module;
            })
          
        }
      
        // 去重
        let moduleIndex = firstEntryModuleIndex;
      		for (const entryModule of entryModules) {
      			// 是否為用戶定義,默認是
      			entryModule.isUserDefinedEntryPoint = entryModule.isUserDefinedEntryPoint || isUserDefined;
      			const existingIndexModule = this.indexedEntryModules.find(
      				indexedModule => indexedModule.module.id === entryModule.id
      			);
      			// 根據moduleIndex進行入口去重
      			if (!existingIndexModule) {
      				this.indexedEntryModules.push({ module: entryModule, index: moduleIndex });
      			} else {
      				existingIndexModule.index = Math.min(existingIndexModule.index, moduleIndex);
      			}
      			moduleIndex++;
      		}
        // 排序
        this.indexedEntryModules.sort(({ index: indexA }, { index: indexB }) =>
      			indexA > indexB ? 1 : -1
      		);
      
  • 模塊的依賴關系處理 部分
    • 已經加載處理過的模塊會緩存到moduleById上,所以直接遍歷之,再根據所屬模塊類進行分類

        // moduleById是 id => module 的存儲, 是所有合法的入口模塊
      		for (const module of this.moduleById.values()) {
      			if (module instanceof Module) {
      				this.modules.push(module);
      			} else {
      				this.externalModules.push(module);
      			}
      		}
      
    • 獲取所有入口,找到正確的、移除無用的依賴,並過濾出真正作為入口的模塊

        // this.link(entryModules)方法的內部
        
        // 找到所有的依賴
        for (const module of this.modules) {
          module.linkDependencies();
        }
        
        // 返回所有的入口啟動模塊(也就是非外部模塊),和那些依賴了一圈結果成死循環的模塊相對路徑
        const { orderedModules, cyclePaths } = analyseModuleExecution(entryModules);
        
        // 對那些死循環路徑進行警告
        for (const cyclePath of cyclePaths) {
          this.warn({
            code: 'CIRCULAR_DEPENDENCY',
            cycle: cyclePath,
            importer: cyclePath[0],
            message: `Circular dependency: ${cyclePath.join(' -> ')}`
          });
        }
        
        // 過濾出真正的入口啟動模塊,賦值給modules
        this.modules = orderedModules;
        
        // ast語法的進一步解析
        // TODO: 視情況詳細補充
        for (const module of this.modules) {
          module.bindReferences();
        }
        
      
    • 剩余部分

        // 引入所有的導出,設定相關關系
        // TODO: 視情況詳細補充
          for (const module of entryModules) {
      			module.includeAllExports();
      		}
        
        // 根據用戶的treeshaking配置,給引入的環境設置上下文環境
      		this.includeMarked(this.modules);
        
      		// 檢查所有沒使用的模塊,進行提示警告
      		for (const externalModule of this.externalModules) externalModule.warnUnusedImports();
        
        // 給每個入口模塊添加hash,以備后續整合到一個chunk里
        if (!this.preserveModules && !inlineDynamicImports) {
      			assignChunkColouringHashes(entryModules, manualChunkModulesByAlias);
      		}
        
        let chunks: Chunk[] = [];
        
        // 為每個模塊都創建chunk
      		if (this.preserveModules) {
      			// 遍歷入口模塊
      			for (const module of this.modules) {
      				// 新建chunk實例對象
      				const chunk = new Chunk(this, [module]);
      				// 是入口模塊,並且非空
      				if (module.isEntryPoint || !chunk.isEmpty) {
      					chunk.entryModules = [module];
      				}
      				chunks.push(chunk);
      			}
      		} else {
      			// 創建盡可能少的chunk
      			const chunkModules: { [entryHashSum: string]: Module[] } = {};
      			for (const module of this.modules) {
      				// 將之前設置的hash值轉換為string
      				const entryPointsHashStr = Uint8ArrayToHexString(module.entryPointsHash);
      				const curChunk = chunkModules[entryPointsHashStr];
      				// 有的話,添加module,沒有的話創建並添加,相同的hash值會添加到一起
      				if (curChunk) {
      					curChunk.push(module);
      				} else {
      					chunkModules[entryPointsHashStr] = [module];
      				}
      			}
      
      			// 將同一hash值的chunks們排序后,添加到chunks中
      			for (const entryHashSum in chunkModules) {
      				const chunkModulesOrdered = chunkModules[entryHashSum];
      				// 根據之前的設定的index排序,這個應該代表引入的順序,或者執行的先后順序
      				sortByExecutionOrder(chunkModulesOrdered);
      				// 用排序后的chunkModulesOrdered新建chunk
      				const chunk = new Chunk(this, chunkModulesOrdered);
      				chunks.push(chunk);
      			}
      		}
        
        // 將依賴掛載到每個chunk上
      		for (const chunk of chunks) {
      			chunk.link();
      		}
      

以上就是rollup.rollup的主流程分析,具體細節參考代碼庫注釋

部分功能的具體解析

  • 插件緩存能力解析,為開發者們提供了插件上的緩存能力,利用cacheKey可以共享相同插件的不同實例間的數據
function createPluginCache(cache: SerializablePluginCache): PluginCache {
	// 利用閉包將cache緩存
	return {
		has(id: string) {
			const item = cache[id];
			if (!item) return false;
			item[0] = 0; // 如果訪問了,那么重置訪問過期次數,猜測:就是說明用戶有意向主動去使用
			return true;
		},
		get(id: string) {
			const item = cache[id];
			if (!item) return undefined;
			item[0] = 0; // 如果訪問了,那么重置訪問過期次數
			return item[1];
		},
		set(id: string, value: any) {
			cache[id] = [0, value];
		},
		delete(id: string) {
			return delete cache[id];
		}
	};
}

可以看到rollup利用對象加數組的結構來為插件提供緩存能力,即:

{
  test: [0, '內容']
}

數組的第一項是當前訪問的計數器,和緩存的過期次數掛鈎,再加上js的閉包能力簡單實用的提供了插件上的緩存能力

總結

到目前為止,再一次加深了職能單一和依賴注入重要性,比如模塊加載器,插件驅動器,還有Graph。還有rollup的(數據)模塊化,webpack也類似,vue也類似,都是將具象的內容轉換為抽象的數據,再不斷掛載相關的依賴的其他抽象數據,當然這其中需要符合某些規范,比如estree規范

鄙人一直對構建很感興趣,我的github有接近一半都是和構建有關的,所以這次從rollup入口,開始揭開構建世界的那一層層霧霾,還我們一個清晰地世界。😃

rollup系列不會參考別人的分享(目前也沒找到有人分析rollup。。),完全自食其力一行一行的閱讀,所以難免會有些地方不是很正確。
沒辦法,閱讀別人的代碼,有些地方就像猜女人的心思,太tm難了,所以有不對的地方希望大佬們多多指點,互相學習。

還是那句話,創作不易,希望得到大家的支持,與君共勉,咱們下期見!


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM