머스크측 전문가 증인, AGI 군비경쟁 경고
원제: Elon Musk’s only AI expert witness at the OpenAI trial fears an AGI arms race
왜 중요한가
AI 안전성과 기업 이익 추구 사이의 갈등을 보여주는 상징적 사례로 업계 규제 논의에 영향
엘론 머스크가 OpenAI를 상대로 제기한 소송에서 유일한 AI 전문가 증인으로 출석한 UC버클리 스튜어트 러셀 교수가 인공일반지능(AGI) 개발 과정에서 발생할 수 있는 군비경쟁을 경고했다. 러셀 교수는 AGI 추구와 안전성 사이의 긴장관계를 지적했다.
머스크의 OpenAI 대상 소송에서 스튜어트 러셀 UC버클리 컴퓨터과학과 교수가 유일한 AI 기술 전문가 증인으로 출석해 AGI 개발의 위험성을 증언했다. 러셀 교수는 수십년간 AI를 연구해온 전문가로, 2023년 3월 AI 연구 6개월 중단을 요구하는 공개서한에 서명한 바 있다. 흥미롭게도 머스크도 같은 서한에 서명했지만, 동시에 자신의 영리 AI 회사인 xAI를 출범시켰다.
러셀 교수는 법정에서 사이버보안 위협부터 정렬 오류, AGI 개발의 승자독식 특성까지 AI와 관련된 다양한 위험을 설명했다. 그는 특히 AGI 추구와 안전성 사이의 긴장관계를 강조했다. 다만 OpenAI 측 변호사들의 이의제기로 AI의 실존적 위협에 대한 러셀 교수의 더 광범위한 우려는 공개 법정에서 다뤄지지 못했다.
OpenAI 측은 반대신문에서 러셀 교수가 OpenAI의 기업구조나 구체적인 안전정책을 직접 평가하지 않았다는 점을 확인받았다. 러셀 교수는 오랫동안 전 세계 프런티어 랩들이 AGI 선점을 위해 경쟁하며 만들어내는 군비경쟁 역학을 비판해왔다.