우리 딸의 베프는 AI Robot? I, Robot - Part 1

로본 3원칙의 창시자 - 아이작 아시모프의 I, robot 해석 글을 연재 합니다.

첫번째 에피소드는 "Robbie" 입니다.

AI 가 탑재된 로봇은 정말 안전할까요??

나이가 들수록 서론은 짧고 본론은 길어야 대우받는 법이죠. 오늘 다룰 이야기는 단순히 SF 소설의 한 장면이 아닙니다. 이것은 시스템 아키텍처의 설계 결함과 이를 극복하는 예외 처리(Exception Handling)에 대한, AI는 안전한지, 혹은 우리가 만들어 놓은 로직은 완벽한 것인지에 대한 아주 현실적인 이야기입니다.

최근 앤트로픽(Anthropic)의 소스코드 유출 사고와 미토스(Mythos) 쇼크를 보며 IT 업계에 몸담은 한 사람으로서 참 많은 생각이 들었습니다. 소스코드는 시스템의 유전자인데, 패키징 실수로 Claude Code의 내부 파일이 통째로 공개됐다는 건 설계자의 의도와 약점이 고스란히 노출됐다는 뜻이죠. 특히 그 전에 유출된 자료로 확인된 클로드 미토스 (Claude Mythos, 내부 코드명: 카피바라) 는 수십 년간 인간이 찾지 못한 취약점을 단숨에 찾아내는 괴물 같은 성능을 보여줬습니다.

비유하자면 미토스는 시스템의 가장 약한 고리를 정밀 타격하는 날카로운 창 (공격)이고, 소스코드 유출은 그 공격을 막아내야 할 방패의 빈틈인 셈입니다. 창은 점점 더 날카로워지는데 방패에는 구멍이 뚫리고 있는 격이죠. 이런 공격적 AI가 현실 세계의 로봇(Physical AI)에 탑재된다면, 이건 단순한 데이터 유출을 넘어선 생존의 문제가 됩니다. 창이 방패를 뚫으려 할 때, 우리가 의존할 수 있는 마지막 소프트웨어적 안전장치는 무엇일까요?

그래서 오늘은 30년 IT 짬밥을 담아, 우리 미래 보안 프로토콜의 원형이라 할 수 있는 아이작 아시모프의 로봇 공학 3원칙을 해부해 보려 합니다. 구독자 여러분,  이 가장 완벽한 예외 처리 규정부터 살펴보시죠.

로봇 공학의 3원칙
First Law of robotics :  A robot must not injure a human being or, allow a human being to come to harm.
제1법칙: 로봇은 인간에게 해를 입혀서는 안 되며, 위험에 처한 인간을 방관해서도 안 된다.

Second Law of robotics :  A robot must obey the orders given by human beings unless they conflict with the First Law.
제2법칙: 제1법칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

Third Law of robotics : 
 A robot must protect itself as long as such protection does not conflict with the First or Second Laws.
제3법칙: 제1법칙과 제2법칙에 위배되지 않는 한, 로봇은 스스로를 보호해야 한다.

 

로봇 3원칙의 계층적 분석

알고리즘의 성인, 아이작 아시모프 (Isaac Asimov)

이 빈틈없는 원칙을 설계한 아키텍트는 바로 위대한 SF 소설가이자 생화학자였던 아이작 아시모프입니다. 그는 단순한 소설가를 넘어 현대 로봇 공학의 철학적 토대를 쌓은 인물이죠. 아이작 아시모프, 그에 대해 좀 더 깊이 알아보겠습니다.

미래적인 로봇 배경과 함께 묘사된 아이작 아시모프의 초상

그는 평생 500권 이상의 책을 썼으며 인류가 나아가야 할 기술적 방향을 문학으로 제시했습니다. 로봇 공학(Robotics)이라는 단어 자체를 처음 만든 인물이기도 합니다. 

아시모프는 1920년 러시아에서 태어나 미국으로 이주한 뒤, 컬럼비아 대학교에서 화학 박사 학위를 받았습니다.

그의 천재성은 방대한 지식에서 나옵니다. 그는 로봇이 인간을 창조주로 섬기거나 반대로 반란을 일으키는 단조로운 서사에서 벗어나, 로봇을 '인간이 통제할 수 있는 정교한 도구'로 정의했습니다. 그가 설계한 3원칙은 오늘날 우리가 고민하는 AI 윤리의 근간이 되었습니다. 앤트로픽의 소스코드 유출 사건에서 보듯 시스템은 언제나 취약할 수 있지만, 아시모프는 하드웨어가 아닌 '논리 구조' 안에 절대적인 안전장치를 심어야 한다고 믿었습니다. 그는 기술에 대한 낙관주의자였으나 동시에 기술의 오작동을 누구보다 치밀하게 분석한 최고의 시스템 분석가였습니다.

---

IT 용어로 치면 제1법칙은 커널 수준의 절대 권한이고, 제3법칙은 자산 보호를 위한 백업 로직입니다. 아무리 비싼 로봇 장비라도 사용자를 구하기 위해서라면 과감히 포맷될 준비가 되어 있어야 한다는 소리죠. 이렇게 완벽한 법칙을 설계한 후 작가는 혹시나 이 로직에 다른 예외는 없을까 고민하면서 여러 가지 에피소드의 글을 썼습니다. 그 여러가지 에피소드 중에서 이 원칙이 실제 필드에서 어떻게 돌아가는지 보여주는 가장 가슴 찡한 레거시 시스템이 바로 로비(Robbie)입니다.

I, Robot  - Robbie

아이작 아시모프의 불후의 명작, 소설 《아이, 로봇(I, Robot)》에 수록된 수많은 주옥같은 에피소드 중에서도 가장 아름답고 감동적인 이야기로 손꼽히는 로비(Robbie)를 소개합니다. 이 에피소드는 단순히 로봇 기술의 발전을 넘어, 인간과 로봇 사이의 순수한 교감과 신뢰, 그리고 가족애를 다루고 있어 시대를 초월한 감동을 선사합니다.

로비는 1998년형 모델로 설정되어 있는데, 요즘 기준으로 보면 음성 인식 모듈도 없는 깡통 서버 같은 녀석입니다. 하지만 그 성능은 어떤 최신형 AI보다 강력했죠. 다음 그림은 구형 보모 로봇 로비가 거대한 산업용 트랙터로부터 어린 소녀 글로리아를 구출하는 긴박한 장면입니다. 

구형 보모 로봇 로비가 거대한 산업용 트랙터로부터 어린 소녀 글로리아를 구출하는 장면

 

로비는 어린 소녀 글로리아의 보모 로봇이었습니다. 글로리아는 자신의 보모 로봇인 로비를 기계가 아닌 가장 친한 친구로 생각합니다. 로비는 말을 할 수 없는 구형 로봇 이지만, 글로리아의 이야기를 들어주고 함께 숨바꼭질을 하며 깊은 유대감을 쌓습니다.

그렇지만 글로리아의 엄마인 웨스턴 부인은 딸이 기계와만 어울리는 것을 걱정하며, 주변 이웃들의 시선(로봇에 대한 반감)을 의식해 남편을 설득하여 로비를 몰래 내다 버립니다(실제로는 공장에 반납합니다).

로비가 사라지자 글로리아는 깊은 슬픔에 빠지고 건강까지 나빠집니다. 아빠인 웨스턴 씨는 로비를 비롯한 로봇이 단순한 기계임을 보여주기 위해 로봇 공장을 견학시켜 주지만, 그곳에서 조립 라인에 있던 로비를 우연히 발견한 글로리아가 그에게 달려가다 무인 트랙터 궤도에 뛰어 드는 위험에 처합니다. 주변의 인간들은 패닉에 빠져 프리징 되었지만, 로비는 달랐습니다. 인간의 위험을 방관하지 않는다는 제1법칙에 따라 자신의 프레임이 으스러질 수 있는 속도 제한을 해제하고 전력 질주해 아이를 낚아챘습니다. 이미지에서 처럼 아이를 안고 튀어나가는 로비의 모습은 단순한 기계적 반응이 아니라, 완벽하게 설계된 프로토콜의 승리였습니다. 간신히  글로리아를 구출해 낼 수 있었고, 이 모습을 보고 감동 받은 엄마도 결국 로비를 가족으로 받아들입니다.

30년 동안 수많은 소스코드 유출과 해킹 사고를 봤지만, 결국 시스템을 지키는 건 화려한 암호화 기술이 아니라 무엇을 보호할 것인가에 대한 명확한 우선순위 설정입니다. 로비는 비록 구형이었지만, 그 우선순위만큼은 단 한 번의 에러도 없이 실행해냈습니다. 구독자 여러분, 미토스 쇼크로 AI의 공격 능력이 입증된 지금, 우리에게 필요한 건 더 강력한 해킹 도구가 아니라 로비가 보여준 것 같은 제1법칙의 철저한 준수입니다.

소스코드 유출 한 번에 인간을 적으로 돌리는 취약한 시스템이 되지 않으려면, 아이작 아시모프가 70년 전에 던진 이 질문은 이제 SF가 아니라 우리 IT 엔지니어들의 코딩 가이드라인이 되어야 합니다. 

이런 안전에 대한 가이드라인이 있다고 하면 우리의 아이들 혹은 손자들은 정말 안전하고 정감이 가는 그런 AI 로봇들과 함께 생활할 기회가 있지 않을까 싶습니다. 무엇보다도 우리 생활을 위협하지 않는 안전하고 동반자적인, 그리고 우리에게 편리함을 주는 그런 로봇이 되겠지요..

다음 포스팅에서는 이 완벽한 법칙들이 논리적 충돌을 일으켜 로봇이 교착 상태, 즉 데드락(Deadlock)에 빠진 스피디의 이야기를 다뤄보겠습니다. 

술 취한 로봇 스피디와 구글 제미나이 I, Robot - Part2

술 취한 로봇 스피디와 구글 제미나이 I, Robot - Part2