預實驗我們會寫一系列文章詳細介紹,可參考:4.2 預實驗系列

預實驗的作用

預實驗又稱為pilot experiment,比較casual的講法會講pre-test,大致上就是接下來要做的實驗的縮小版,我們可以想成是為了 “投石問路”,也就是所謂的快速迭代,小跑前進

為甚麼要這麼麻煩投石問路呢? 直接大方地做完實驗本身不就好了嗎,多做一個預實驗還要多花一倍的時間,為何不直接一錘定音呢?

我認為,凡是實驗量大的、步驟不熟悉的實驗、指標性實驗最好都要做 pilot experiment,歸結出來大致有以下幾個原因:

避免因不熟悉實驗流程產生問題

第一次因為不熟悉流程,一次作太大量有可能造成SOP上的問題

第一次做的實驗,對於各項實驗材料、工具性質及實驗流程一定是最陌生的,一次放大實驗量容易低估操作難度,造成時間上錯誤的估計或是流程的錯置 ([研究生日常] — 不知道研究會做多久? 善用 「兩倍定律」預估實驗耗時)。

預先寫一份清楚易懂的SOP可以在一定程度上減輕這個問題 [研究生日常] — 寫好自己的武功秘笈! 詳解如何撰寫良好的實驗步驟SOP,這也是許多實驗課程要求寫實驗預報的原因。然而,許多意外狀況還是要實作才會知道的。一份SOP只能協助緩解陌生感,並不能代替我們熟悉流程,熟悉流程最好的方式還是先做一次小量的預實驗。

預實驗可以發現更好的實驗設計方法

我們可能實驗做下去後,發現了一些預期之外的事情:

  • 發現一些有趣的現象,想做更多實驗來驗證假說
  • 發現先前的試驗設計無法全面支持自己的假說,需要新增control組 (這個最常發生)
  • 發現新的文獻,提到可能有不同的實驗設計思路、實驗假說

基本上只要三個出現一個,原先的實驗設計就必須做修改甚至推翻重來,做預實驗的功用就是希望提早發現這三點的存在,從而減少每次重來的成本

關於實驗設計與除錯,可以參考先前的文章


設計預實驗的注意事項

設計跟進行預實驗時,有幾點可以留意:

組數小的情況下盡量維持實驗的代表性

預實驗其實就是用小批量的測試,試圖來找到正式實驗中的大方向、大問題,所以預實驗的實驗設計必須要盡量貼近之後要做的正式實驗。

也就是說,我們要在有代表性的前提下,盡量將實驗組的數量降低,以下是在合理的實驗設計範圍內,幾個可以考慮的方向:

  • 主要目標/假說優先於次要目標、補充性質的目標
  • 抓大趨勢,拉開取樣的間隔
  • 降低重複數 (5>3之類)

仔細審視預實驗的結果

預實驗畢竟還是和正式大量實驗有差,做完之後大致有幾點需要考量:

  • 看結果是否符合預期,如果不符,那有沒有可能這個 “不符” 是來自於 “預實驗和正式實驗的差異”?
  • 注意可能造成流程問題的地方,哪個步驟在放大時可能造成執行上的困難,決定要不要修改SOP
  • 拋開預設立場,檢視僅憑自己設計中的數據是否能完整支持自己的假說,決定增補設計的地方 (尤其是control組)