표본 크기(Sample Size) 계산 완벽 가이드

표본 크기(Sample Size) 계산은 SCI/SCIE 저널 투고와 기관생명윤리위원회(IRB) 심의 모두에서 가장 먼저 확인받는 항목 중 하나다. 많은 연구자가 선행연구의 대상자 수를 그대로 따르거나, 예산과 일정이 허락하는 만큼만 모집한 뒤 사후에 이를 정당화하려 한다. 그러나 이 방식은 통계적으로 위험하다. European Journal of Internal Medicine에 발표된 분석에 따르면, 2014년 12월 한 달간 PubMed에 등재된 무작위대조시험(RCT) 451편 가운데 사전에 표본 크기를 계산해 보고한 논문은 58.1%에 그쳤다[1]. 나머지 40% 이상의 연구는 애초에 몇 명을 모집해야 임상적으로 의미 있는 차이를 통계적으로 검출할 수 있는지조차 확인하지 않은 채 진행됐다는 뜻이다. 이 글에서는 표본 크기 계산의 기본 개념부터 연구설계별 계산 예시, 실무에서 자주 발생하는 실수, 한국 연구자가 IRB·저널 심사에서 놓치기 쉬운 지점까지 실제 통계 방법론 문헌을 근거로 정리한다.

표본 크기 계산이 왜 중요한가

표본수 계산은 학술 문헌에서 자주 마주치는 개념이지만, 정작 그 원리를 정확히 이해하고 활용하는 연구자는 많지 않다는 지적이 있다[2]. 같은 크기의 진짜 효과가 존재하더라도 표본이 작으면 그 효과가 우연에 의한 변동에 묻혀 통계적 유의성에 도달하지 못할 확률이 높아진다. 반대로 표본이 지나치게 크면 임상적으로는 무의미할 만큼 작은 차이도 p<0.05로 “유의하다”고 나오는 역설이 생긴다. Biochemia Medica에 게재된 리뷰는 부적절한 표본 크기가 결과의 신뢰성을 떨어뜨릴 뿐 아니라 시간과 비용의 낭비, 나아가 연구윤리 문제로까지 이어질 수 있다고 지적한다[3].

이 문제는 동물실험에서 더 직접적인 윤리적 무게를 갖는다. ILAR Journal에 게재된 리뷰는 동물실험을 수행하는 연구자가 사용할 동물의 수를 반드시 정당화해야 하며, 동물실험 심의위원회는 이 정당화 근거를 검토할 의무가 있다고 명시한다[4]. 이는 3R 원칙(Replacement·Reduction·Refinement) 중 ‘축소(Reduction)’를 실제로 구현하는 핵심 수단이기도 하다.

사람을 대상으로 한 연구도 마찬가지다. 국내 한 대학 기관생명윤리위원회의 연구계획서 작성 지침은 연구대상자 수 항목에 “연구목적과 실험절차 등을 고려한 연구대상자의 수에 대하여 선행연구 및 통계적 필요성 등”을 제시하도록 명시하고 있다[5]. “가능한 만큼 모집하겠다”는 식의 서술은 심의 단계에서부터 통과하기 어렵다는 의미다. 국제적으로도 무작위대조시험 보고 표준인 CONSORT 2010 성명은 체크리스트 7번 항목에서 표본 크기를 어떻게 산출했는지 명시적으로 보고하도록 요구한다[6]. SCI/SCIE 저널 심사자가 방법론 섹션에서 표본 크기 근거를 확인하는 관행도 이 국제 기준에서 비롯된다.

표본 크기를 결정하는 5가지 핵심 요소

Journal of General and Family Medicine에 발표된 실무 가이드는 표본 크기를 계산하기 전에 준비해야 할 정보를 다섯 가지로 정리한다: 적용할 통계분석 방법, 허용 가능한 정밀도 수준, 목표 검정력, 신뢰수준, 그리고 실질적으로 의미 있는 차이의 크기(효과크기)다[7]. 보스턴 소아병원(Boston Children’s Hospital) 연구진이 소아외과 연구자를 위해 제시한 5단계 절차 역시 핵심 결과변수 정의 → 효과크기와 목표 검정력 설정 → 적용할 통계 검정 방법 결정 → 표본수 계산이라는 같은 흐름을 따른다[8].

유의수준(α)과 검정력(1-β)

유의수준(α)은 실제로는 차이가 없는데 “차이가 있다”고 잘못 판단할 위험(1종 오류)의 상한이며, 관례적으로 0.05로 설정한다. 검정력(1-β)은 실제로 존재하는 효과를 통계적으로 옳게 검출해낼 확률이다. 중앙대학교 의과대학 마취통증의학과 강현 교수가 Journal of Educational Evaluation for Health Professions에 발표한 무료 소프트웨어 G*Power(ver. 3.1.9.7) 활용 가이드에 따르면, 검정력은 관례적으로 80%(β=0.20) 또는 좀 더 엄격하게 90%(β=0.10)로 설정한다[9].

효과크기(Effect Size)

효과크기는 임상적·실질적으로 의미 있다고 판단하는 차이의 크기를 표준화한 지표다. 독립표본·대응표본 t-검정에는 Cohen’s d, 분산분석에는 Cohen’s f, 상관분석에는 Pearson’s r이 쓰인다. 강현(2021)이 정리한 관례적 기준은 다음과 같다[9].

연구설계별 표본수 계산 예시

효과크기가 표본수에 미치는 영향은 구체적인 숫자로 보면 감이 잡힌다. 독립표본 t-검정에서 유의수준 0.05, 검정력 80%를 가정할 때 중간 효과(d=0.5)를 검출하려면 군당 64명, 총 128명이 필요하다. 이는 강현(2021)이 G*Power로 제시한 예시와 정확히 일치하며, 이 글에서도 R의 power.t.test() 함수로 독립적으로 재계산해 같은 값을 확인했다[9]. 같은 논리로 사전-사후 비교에 쓰이는 대응표본 t-검정에서 효과크기를 작음(d=0.2)으로 낮추면 필요 표본수는 199쌍까지 급증한다[9]. 아래 표는 대표적인 연구설계별로 필요한 표본수를 정리한 것이다.

그림에서 확인할 수 있듯 효과크기가 0.5에서 0.2로 줄어들면 필요 표본수는 약 6배로 증가한다. 선행연구에서 보고된 효과크기를 그대로 가져다 쓰기보다, 그 값이 자신의 연구 모집단과 측정 도구에도 타당한지 신중하게 검토해야 하는 이유가 여기에 있다.

자주 발생하는 표본수 계산 실수

대한마취과학회지(Korean Journal of Anesthesiology)에 실린 다기관 공동 리뷰는 실제 게재 논문에서 반복적으로 나타나는 표본수 계산 오류를 정리했다[10]. 이 리뷰가 검토한 논문 44편 가운데 표본수가 올바르게 계산된 경우는 9편(20%)에 불과했다[10]. 저자들이 지적한 대표적인 실수는 다음과 같다.

• 주요 결과변수(primary outcome)를 명확히 정의하지 않아, 어떤 지표를 기준으로 표본수를 계산했는지 알 수 없는 경우
• 효과크기 계산에 필요한 표준편차나 기저 발생률 등 핵심 수치를 보고하지 않은 경우
• 주요 결과 분석에 사용한 통계 검정과 표본수 계산에 사용한 통계 검정이 서로 다른 경우
• 탈락률(dropout rate)을 보정하는 공식을 잘못 적용한 경우

특히 마지막 항목은 실무에서 매우 흔하다. 탈락을 고려한 보정 표본수는 “계산된 표본수 ÷ (1−예상 탈락률)”로 구해야 하는데, 적지 않은 연구자가 이를 단순히 더하는 방식으로 잘못 계산한다[10]. 예를 들어 통계적으로 500명이 필요하고 탈락률을 10%로 예상한다면, 최종 모집 인원은 500÷(1−0.10)=556명이 되어야 한다[10].

사전 데이터가 없을 때 효과크기를 추정하는 방법

표본수 계산에서 가장 까다로운 입력값은 효과크기다. 앞서 소개한 대한마취과학회지 리뷰가 실제 논문에서 효과크기의 근거를 어떻게 제시했는지 분석한 결과, 선행연구·문헌값을 인용한 경우가 50.0%, 예비연구(pilot study) 결과를 활용한 경우가 31.8%, 근거를 아예 제시하지 않은 경우도 18.1%에 달했다[10]. 문헌이나 예비연구 데이터를 구하기 어려운 상황이라면 Cohen이 제안한 관례적 기준(위 표 1)을 최소한의 대안으로 사용할 수 있으나, 이는 근거가 전혀 없을 때의 차선책이지 기본값으로 삼을 수치는 아니다[9].

한편 새로운 진단검사의 민감도·특이도를 검증하는 연구처럼 설계 자체가 다른 경우에는 별도의 접근이 필요하다. Journal of Biomedical Informatics에 게재된 리뷰는 민감도·특이도, 우도비, AUC 등 진단정확도 지표별로 표본수를 계산하는 공식을 체계적으로 정리하고 있어, 진단검사 연구를 준비하는 연구자에게 참고할 만하다[11].

한국 연구자가 놓치기 쉬운 실무 포인트: IRB와 저널 심사

IRB가 표본수 계산의 타당성까지 꼼꼼히 검증해 줄 것이라고 기대하기는 어렵다. Research Integrity and Peer Review에 발표된 메타역학 연구는 네덜란드의 한 IRB가 2015~2018년 승인한 임상시험 계획서 50건을 분석한 결과, 표본수 계산에 대해 코멘트를 받은 경우는 9건(18%)에 불과했고, 그중에서도 효과크기 설정의 타당성 자체를 문제 삼은 코멘트는 3건(6%)뿐이었다고 보고했다[12]. 심의위원회를 통과했다는 사실이 표본수 계산의 통계적 타당성을 보증하지는 않는다는 뜻이다. 이 연구는 상당수 임상시험이 지나치게 낙관적인 효과크기를 가정해 계획서를 작성했다고 지적한다[12].

따라서 연구자 스스로 계산 과정을 검증하는 습관이 중요하다. 국내 IRB 연구계획서 양식에는 대상자 수 산정 근거를 별도 항목으로 기재하도록 되어 있으므로[5], 심의 신청 전에 (1) 주요 결과변수, (2) 근거로 삼은 효과크기와 그 출처, (3) 유의수준과 목표 검정력, (4) 탈락률 보정까지 네 가지를 문서로 정리해 두면 심의 지연을 줄일 수 있다. SCI/SCIE 저널 투고 단계에서도 마찬가지다. 심사자는 방법론 섹션만 보고도 표본수 계산이 사후 합리화인지 사전 계획인지 대체로 구별해 낸다. 무작위대조시험이 아니더라도 국제학술지 심사자 다수가 CONSORT의 보고 관행을 참고 기준으로 삼는 만큼[6], 관찰연구나 실험연구에서도 표본수 산출 근거를 방법론에 명시하는 것이 안전하다.

전문 통계 분석 지원이 필요한 순간

표본수 계산 공식 자체는 단순해 보이지만, 실제 연구설계에 맞는 통계 검정을 선택하고 결측치·다중비교·군집효과 같은 변수를 반영해 정확한 효과크기를 추정하는 과정은 통계 전문성을 요구한다. Editverse의 통계 분석 서비스는 SPSS, R, SAS, Python을 활용해 표본수 계산부터 최종 결과 보고서 작성까지 지원한다.

학위논문이나 임상연구처럼 방법론 전체를 검토받아야 하는 경우라면 통계 분석 서비스 페이지에서 연구 단계에 맞는 패키지를 확인해 볼 수 있다.

결론

표본 크기 계산은 논문 투고나 IRB 심의를 통과하기 위한 형식적 절차가 아니라, 연구 결과의 신뢰성을 결정하는 설계 단계의 핵심 작업이다. 유의수준과 목표 검정력을 관례적 기준(0.05, 80%)으로 설정하더라도, 효과크기만큼은 자신의 연구 맥락에 맞는 근거를 통해 신중하게 추정해야 한다. 데이터를 다 모은 뒤 표본수를 정당화하려 하기보다, 연구계획서 작성 단계에서 G*Power 같은 무료 도구나 통계 전문가의 검토를 거쳐 표본수 산출 근거를 먼저 확정하는 것이 데스크 리젝트와 심의 지연을 피하는 가장 확실한 방법이다.

참고문헌

1. Lee PH, Tse ACY. The quality of the reported sample size calculations in randomized controlled trials indexed in PubMed. Eur J Intern Med. 2018;40:16-21. doi:10.1016/j.ejim.2016.10.008
2. Jansen MS, Groenwold RHH, Dekkers OM. The power of sample size calculations. Eur J Endocrinol. 2024;191(5):E5-E9. doi:10.1093/ejendo/lvae129
3. Serdar CC, Cihan M, Yücel D, Serdar MA. Sample size, power and effect size revisited: simplified and practical approaches in pre-clinical, clinical and laboratory studies. Biochem Med (Zagreb). 2021;31(1):010502. doi:10.11613/BM.2021.010502
4. Dell RB, Holleran S, Ramakrishnan R. Sample size determination. ILAR J. 2002;43(4):207-213. doi:10.1093/ilar.43.4.207
5. 건국대학교 기관생명윤리위원회. 인간대상연구용 연구계획서 작성 지침. irb.konkuk.ac.kr
6. Moher D, Hopewell S, Schulz KF, et al. CONSORT 2010 explanation and elaboration: updated guidelines for reporting parallel group randomised trials. BMJ. 2010;340:c869. doi:10.1136/bmj.c869
7. Althubaiti A. Sample size determination: A practical guide for health researchers. J Gen Fam Med. 2024;24(2):72-78. doi:10.1002/jgf2.600
8. Staffa SJ, Zurakowski D. Statistical power and sample size calculations: A primer for pediatric surgeons. J Pediatr Surg. 2020;55(7):1173-1179. doi:10.1016/j.jpedsurg.2019.05.007
9. Kang H. Sample size determination and power analysis using the G*Power software. J Educ Eval Health Prof. 2021;18:17. doi:10.3352/jeehp.2021.18.17
10. In J, Kang H, Kim JH, Kim TK, Ahn EJ, Lee DK, Lee S, Park JH. Tips for troublesome sample-size calculation. Korean J Anesthesiol. 2021;73(2):114-120. doi:10.4097/kja.19497
11. Hajian-Tilaki K. Sample size estimation in diagnostic test studies of biomedical informatics. J Biomed Inform. 2014;48:193-204. doi:10.1016/j.jbi.2014.02.013
12. Jansen MS, Groenwold RHH, Dekkers OM. The role of research ethics committees in addressing optimism in sample size calculations: a meta-epidemiological study. Res Integr Peer Rev. 2025;10(1):26. doi:10.1186/s41073-025-00184-w