소리마당 오피니언
바이오 재현성 위기 2
limasierra76 (비회원)
제약·바이오 업계에 몸담다 보면 논문의 결과가 재현되지 않는 현상을 지겹도록 목격한다. 사실 이는 현업의 문제만도 아니다. 돌이켜보면 대학원 시절 학계 연구실에 있던 때부터, 타 연구실의 유명 논문 프로토콜을 그대로 따라 해도 결과가 나오지 않아 밤을 지새우던 경험은 이미 우리 모두에게 익숙하다.
이처럼 업계와 학계 모두가 피부로 체감하는 재현성 결여는 대형 제약사들의 구체적인 수치로도 증명된다.
암젠(Amgen)의 랜드마크 분석 (2012년): C. Glenn Begley 박사가 이끄는 암젠 연구진은 《Nature》지에 충격적인 보고서를 발표했다. 학계 최고 저널에 출판된 종양학(Oncology) 및 혈액학 분야의 랜드마크 논문 53편을 선정해 자체적으로 재현성 검증 실험을 수행한 결과, 오직 6편(11%)만 결과가 재현되었다. 나머지 47편(89%)은 논문에 명시된 프로토콜과 주요 시약, 세포주를 그대로 사용하고 원저자와 직접 소통하며 검증했음에도 핵심 데이터가 재현되지 않았다.
바이엘(Bayer HealthCare)의 타깃 검증 분석 (2011년): Florian Prinz 박사 연구팀 역시 《Nature Reviews Drug Discovery》를 통해 바이엘 내부의 프로젝트 검증 실태를 밝혔다. 심혈관 질환 및 암 분야의 학계 타깃 기반 연구 프로젝트 67건을 검증한 결과, 실질적으로 데이터가 일치하여 프로젝트를 계속 진행할 수 있었던 비율은 20~25%에 불과했다. 거의 3/4에 달하는 프로젝트가 학계 논문의 주요 결과를 재현하지 못해 초기 탐색 단계에서 중단되거나 폐기되었다.
이 대목에서 오해하지 말아야 할 사실이 있다. 이는 결코 학계 연구자들의 윤리 수준이 낮거나 양심이 부재해서 발생하는 문제가 아니다. 명백한 가짜(파란색)를 진짜(빨간색)라고 우기는 의도적 데이터 조작(Fraud)은 극히 일부에 불과하며, 대부분의 연구자들은 학문적 진실성을 가지고 밤낮으로 실험실을 지킨다. 진짜 문제는 연구자 개인의 도덕성이 아니라, 학계와 산업계가 연구를 대하는 '태도'와 '목적', 그리고 '실패의 비용 구조'가 완전히 다르다는 구조적 한계에 있다.
학계에서 연구의 최종 지향점은 논문이다. 논문의 임팩트 지수(Impact Factor)는 연구자의 다음 연구비 수주, 교수 임용, 그리고 연구실의 존폐를 결정짓는다. 연구 결과물에 자신의 직업적 미래가 직접 매달려 있는 셈이다.
아무리 도덕적인 연구자라도 이러한 구조 아래서는 데이터를 완전히 냉철하게 바라보기 어렵다. 생물학 실험에서 우리가 원하는 명확한 '빨간색' 결과가 나오는 경우는 매우 드물며, 대부분은 이도 저도 아닌 '주황색'이나 '분홍색'에 가까운 애매한 데이터다.
문제는 주황색을 있는 그대로 주황색이라 인정하는 순간, 수년간의 노력이 '성과 없음'으로 처리되고 커리어는 정체된다는 점이다. 학계 생태계는 '정직한 실패'에 대해 아무런 보상을 주지 않는다. 결국 연구자는 악의적인 조작을 저지르는 것이 아니라, 생존을 위한 본능적인 '바램'으로 인해 주황색을 빨간색에 가깝게 해석하려는 강력한 인지적 편향(Cognitive Bias)에 노출된다. 표본 수(N)를 늘리거나 조건(Outlier 제거, Sub-group analysis)을 조율하며 p-value라는 통계적 도구로 p < 0.05라는 ‘통계적 착시’를 만들어내는 이유다.
반면, 신약을 개발하는 제약·바이오 산업계의 언어는 완전히 다르다. 제약사에게 연구는 '논문을 내기 위한 과정'이 아니라 '환자에게 투여할 약을 만드는 일'이다.
학계는 p값에 집착하지만, 산업계에 필요한 것은 "이 타깃을 억제했을 때 실제 병태 생리가 확실히 반전되는가?"라는 명확한 효능(Robust Signal)이다. 통계적으로 유의미하다 해서 그것이 실질적인 생물학적 효과 크기(Effect Size)를 담보하지는 않기 때문이다.
무엇보다 두 집단은 '실패의 원가 구조'가 극단적으로 다르다. 학계에서 음성 결과(Negative Result)는 연구 리소스의 완전한 낭비(Sunk Cost)지만, 제약사에게 가장 무서운 것은 탐색 단계의 애매함을 품고 가다 임상에서 터지는 '늦은 실패(Late Failure)'다. 주황색 데이터를 빠르게 솎아내는 것(Fail-Fast)이야말로 수천억 원의 임상 비용을 아끼는 최고의 리스크 관리다. 산업계에서는 자비로운 착각이나 희망사항(Wishful thinking)이 설 자리가 없다. 주황색은 냉정하게 주황색이어야 한다.
학계 논문을 제약사가 선뜻 신뢰하지 못하고 막대한 비용을 들여 자체 검증(In-house validation)을 먼저 거치는 현상은, 각자의 생존 조건이 만든 지극히 자연스러운 결과인지도 모른다. 오랜 시간 공고하게 굳어진 연구 평가 시스템과 생계가 걸린 생태계의 구조를 단번에 혁명적으로 바꾸기는 결코 쉽지 않다. 주황색을 빨간색이라 말할 수밖에 없는 연구자들의 처지 역시 충분히 이해되는 이유다.
하지만 문제를 명확히 인식했기에, 이를 조금씩 보완해 나가려는 시도는 시작되어야 한다. 연구 사전 등록제(Pre-registration)의 순차적 도입이나 '음성 결과' 데이터베이스 구축처럼 작지만 실질적인 장치부터 차근차근 마련해 볼 수 있다.
이 숙제는 어느 한쪽의 노력만으로는 풀 수 없다. 연구비를 집행하는 정부, 연구를 수행하며 인재를 키우는 학계, 그리고 그 결실로 혁신 신약을 만들어내는 바이오·제약 업계가 머리를 맞대야 한다. 서로의 한계와 생존 방식을 인정하는 바탕 위에서 머리를 맞대고 지혜를 모을 때, 우리는 비로소 학계의 위대한 지적 탐구가 산업계의 신약 개발로 연착륙하는 건강한 '바이오 생태계'에 한 걸음 더 가까워질 것이다.
[9/17-18 판교] ODC26 오가노이드 디벨로퍼 컨퍼런스 개최 및 사전등록 안내 (현장 참가 무료)