AI 시스템과의 안전한 상호작용을 위한 '역 로봇공학 3법칙' 제안
원제: Three Inverse Laws of AI
왜 중요한가
AI 시스템의 급속한 확산 속에서 인간의 비판적 사고와 책임 의식 유지가 필수적임을 제시한 의미 있는 논의
소프트웨어 개발자 수삼 팔이 ChatGPT 등 생성형 AI 확산에 따른 위험성을 경고하며 인간이 지켜야 할 '역 로봇공학 3법칙'을 제안했다. AI 의인화 금지, 맹신 금지, 책임 유지를 핵심으로 하며 AI 출력물에 대한 무비판적 수용의 위험성을 강조했다.
개발자 수삼 팔은 2022년 11월 ChatGPT 출시 이후 생성형 AI 서비스가 검색엔진, 개발도구, 오피스 소프트웨어에 널리 통합되면서 일상적 도구가 되었지만, 이러한 시스템의 광고 및 소비 방식이 사회에 위험을 초래할 수 있다고 경고했다. 특히 많은 검색엔진이 AI 생성 답변을 페이지 상단에 강조 표시함으로써 사용자들이 추가 검증 없이 해당 답변을 수용하는 습관을 기를 수 있다고 지적했다. 그는 아이작 아시모프의 로봇 3법칙에서 영감을 받아 인간이 AI와 안전하게 상호작용하기 위한 '역 로봇공학 3법칙'을 제시했다. 첫째, 인간은 AI 시스템을 의인화해서는 안 된다. 감정이나 의도, 도덕적 주체성을 부여하면 판단력이 왜곡되고 극단적인 경우 정서적 의존으로 이어질 수 있다. 둘째, AI 시스템의 출력을 맹목적으로 신뢰해서는 안 된다. 셋째, 인간은 AI 시스템 사용으로 발생하는 결과에 대해 완전한 책임과 의무를 져야 한다고 강조했다.