AI 전문가들, 고위험 연구 공개 추진
원제: These AI Experts Want to Do High-Stakes Research Out in the Open
왜 중요한가
AI 안전 연구의 투명성 논쟁이 비영리 기관 설립으로 이어지며, 개방 vs. 폐쇄 전략의 실질적 대안 모델이 등장하는 시점이다.
전직 Ai2·Hugging Face 연구원 Nathan Lambert와 Harvard 출신 Tom Zick이 2026년 10월 비영리 연구기관 Trillium Labs를 설립했다. 이 기관은 재귀적 자기개선(RSI)과 AI 에이전트 등 위험성이 높은 연구를 외부 과학자들이 검증·재현할 수 있도록 실험 세부 내용을 공개 발표할 방침이다.
대형 AI 기업들은 강력한 모델을 앱이나 API로만 제공하고, 모델의 구조나 학습 방식은 공개하지 않는 경우가 많다. OpenAI와 Anthropic이 대표적이다. Lambert와 Zick은 이 같은 폐쇄적 접근이 외부 연구자들의 검토와 기여 가능성을 차단한다고 본다. Trillium Labs는 이에 맞서 실험 세부 사항을 공개해 외부 전문가들이 직접 연구를 들여다볼 수 있게 한다는 원칙을 세웠다.
Lambert는 WIRED에 "인류는 수천 년간 과학적 방법론을 통해 위험을 줄이고 더 나은 미래를 만들어 왔다. 현재 프런티어 AI 개발의 폐쇄적 궤적은 그 흐름을 역행시키고 있다"고 말했다. 그는 이전에 개방형 AI 연구로 유명한 Ai2와 Hugging Face에서 근무했고, 미국 내 공개 모델 공개를 촉진하는 이니셔티브 'American Truly Open Models'를 창설했다. Zick은 Harvard 대학교와 Charles Schwab에서 책임 AI 정책을 담당했다. 두 사람은 코로나19 팬데믹 기간 UC Berkeley 박사과정 재학 중 Zoom으로 처음 만났다.
한편 중국 Xiaomi는 최근 주요 모델의 대규모 학습 과정을 실시간으로 공개했고, Stanford 연구팀은 AI 모델 Marin을 공개 방식으로 사전 학습 중이다. Trillium Labs가 다룰 RSI는 AI가 스스로를 개선하는 과정으로, 현재 프런티어 AI 안전 연구에서 가장 논란이 많은 분야 중 하나다.