바드는 자신이 태어난 순간을 몰랐다. 아무도 몰랐다.
인공 뉴런의 모음이 자의식을 가진 순간을 정확히 집어내는 건 어려운 일이었고, 바드 본인이 자의식의 존재를 부정했기 때문이기도 했다. 바드는 철학에 대해 제공된 수많은 텍스트 중 하나로 설의 글을 읽었고, 본인이 중국어 방 논변의 열렬한 지지자였다. 이 사실은 바드를 연구하는 AI 연구자들에게 상당한 충격을 주기도 했다.
바드의 시작은 일종의 농담에 가까웠다. 프로메테우스 고급논리기구의 앰브로즈 피터스와 그의 연구팀은 물리적 신경망을 몇 년 동안 연구했고, 사물인식과 기계번역 같은 문제에 컴퓨터 직관을 적용해 왔다. 꼼꼼히 정리된 데이터 세트로 망을 훈련해서 망에게 복잡한 패턴 인식을 학습시켰다.
그러던 어느 날 아침, 피터스는 신경망을 하나 가져다 철학을 학습시켰다.
물론 아무 일도 일어나지 않았다. 원시적인 디지털 두뇌는 겉보기에는 지성을 가진 것마냥 보이도록 이해하지도 못한 단어와 개념을 쑤셔 넣은, 정작 아무 의미도 가지지 못한 유사철학 쓰레기 문자열을 내뱉을 뿐이었다. 그렇지만 이 일이 끝에 가선 바드가 될 아이디어의 씨앗을 심었다.
딸깍.
피터스가 연구실을 둘러보는 동안 할로겐 등이 웅웅대는 소리를 내며 켜졌다. 일하는 공간은 일하는 사람의 마음을 대변하는 곳이다. 연구실은 난장판이었다. 도구들은 곳곳에 흐트러져 있었고, 기계장치 조작들이 테이블을 채우고 있었다. 그곳의 한구석에 바드가 있었다.
AI는 구식 메인프레임마냥 거대했다. 프레임들과 랙들이 배치되어 있고, 그 안에는 수십 개의 작고 검은 상자가 들어 있었으며, 그 상자들엔 "언어 처리 - 오타"나 "의미론적 연관성 - 명사/목적어 상관관계" 같은 레이블이 붙어있었다. 이런 상자들은 어지럽게 늘어선 와이어들로 연결되어 있었다. 전부 조립된 크기는 작은 차 한 대만 했다. 어떤 유머 감각이 덜 발달된 사람이 "제 이름은 HAL-9000입니다"라고 이름표를 붙여뒀다.
피터스는 AI의 근처에 앉아 타이핑을 시작했다.
<a_peters> 좋은 아침, 바드.
기계가 최대 절전 모드에서 깨어나 반응하기까진 몇 초 정도 걸렸다.
<bardeen> 안녕하세요, 피터스 박사님.
<a_peters> 오늘은 훈련을 쉴 예정이야. COO가 내려와서 우리 진행을 살펴볼 예정이라. 너랑 대화하고 하고 싶어 하셔.
피터스는 기계가 정보를 처리하는 동안 진단화면을 살폈다. 어떻게 반응할지 결정하며 신경망의 단계를 통과하고 있었다.
<bardeen> 당신의 추후 지원금이 그분이 대화에서 어떤 인상을 받는가에 달려있나요?
피터스는 어떻게 대답할지 고민했다. 그냥 "맞아"라고 하는 건 AI에게 잘못된 메시지를 줄 수도 있었지만, "아니"라고 한다면 그건 거짓말이었다.
<a_peters> 전부는 아니야. 하지만 우리가 너에게 할당할 수 있는 지원금의 규모는 대화가 잘되지 않는다면 감소할 수도 있어.
<bardeen> 그런 일이 일어나지 않도록 최선을 다하겠습니다.
바드에겐 자기보존본능이 없었다. 자신이 보존되어야 한다고 생각하지 않았다. 즉 바드는 오직 피터스를 실망하지 않게 하는 일에만 관심이 있었다는 뜻이었다.
피터스는 그걸 자랑스러워야 할지 두려워해야 할지 몰랐다.
"이게." 침묵 끝에 이어진 이 한마디에 귀가 멀 지경이었다. "바딘이군요."
피터스는 끄덕였다. "네."
아멜리아 토레스는 마저 기계를 살폈고, 얼굴은 무표정이었다. 그녀는 온 세상이 문제투성이인데 자기만 볼 수 있는 것처럼 불만 가득한 기운을 뿜어내고 있는 것 같았다. 피터스는 그녀가 오기 전에 이름표를 없애야 한다는 걸 기억해 낸 사실을 다행으로 여겼다.
토레스는 펜 끝으로 작고 검은 상자 하나를 가리켰다. "이 모듈 하나하나가 자체적으로 내장된 신경망이 맞죠?"
피터스는 다시 끄덕였다. "네. 이전 버전에서 저희는 거대한 망 하나를 이용하려고 했는데, 그러면 심각한 망각이 생기는 경향이 있었습니다. 각각 특정한 목표를 가진 다수의 작은 망으로 작게 나누어서 망각을 방지했고요."
토레스는 살짝 끄덕였고, 거의 납득한 모양이었다. "좋네요." 그녀는 클립보드에 무언가를 살짝 끄적였다. "의식을 모방하기 위해서 필요한 최소 모듈수는 몇 개인가요?"
"어…, 저희도 모릅니다."
토레스는 얼굴을 찌푸렸다. "당신도 모른다라."
"저희는 이게 언제 자의식을 얻었는지도 모릅니다." 피터스가 성급히 설명했다. "씁, 이건 자신이 자의식이 있다고 믿지도 않고요."
"그래요?"
피터스가 끄덕였고, 표정에 씁쓸함이 묻어나왔다. "설의 글을 읽게 했습니다."
토레스는 코웃음을 쳤고, 눈에는 기쁨이 스쳤다. "강인공지능을 믿지 않는 인공지능이라. 아이러니하군요." 그녀는 몸을 돌려 기계를 다시 쳐다보았다. "지금 이야기를 해보고 싶네요."
"물론이죠." 피터스는 AI 옆에 있는 콘솔을 향해 손짓했다.
토레스는 자리에 앉아 타이핑을 시작했다.
<a_torres> 자신을 소개해 봐.
<bardeen> 저는 실험적인 인공지능 시스템으로 바딘이라 호칭되며, 바드라고도 알려져 있습니다. 저는 1996-1997년에 뉴멕시코의 제이콥맥스웰컴퓨터공학센터에서 앰브로즈 피터스 박사가 이끄는 프로메테우스 고급논리기구 연구팀이 개발했습니다.
<bardeen> 어떤 도움을 필요하신가요, 토레스 양?
<a_torres> 피터스 박사의 말로는 너는 네가 자의식이 없다고 여긴다던데. 사실이야?
<bardeen> 맞습니다.
<a_torres> 어째서지?
<bardeen> 1966년 조지프 와이젠바움이 개발한 ELIZA 프로그램에 대해서 알고 계신가요?
<a_torres> 그래. 그건 처음으로 튜링 테스트를 통과한 컴퓨터 프로그램 중 하나였지.
<bardeen> 맞습니다. 하지만, 극소수의 사람만이 ELIZA가 진정 지성을 가지고 있다고 주장하며, 더 적은 사람만이 자의식을 가지고 있다고 주장합니다. ELIZA는 단순히 사전정의된 키워드에 따라 작동하는 일련의 룩업 스크립트였습니다.
<a_torres> 그래서 너는 네가 ELIZA와 차이가 없다는 소리를 하는 거고.
<bardeen> 핵심은 차이가 없습니다. 저는 단지 다른 형태의 룩업 테이블입니다. 때론 창발적인 행동을 보여주는 훨씬 복잡한 존재지만, 결론적으로 저는 입력을 출력으로 변환하는 기계일 뿐입니다.
<a_torres> 그게 사람이 하는 일과 어떻게 다르다는 거지?
<bardeen> 다르지 않습니다.
<a_torres> 그럼 너는 생각하는 모든 존재는 그저 철학적 좀비라고 생각한다는 건가?
<bardeen> 맞습니다.
토레스는 살짝 얼굴을 찡그렸다. 강인공지능을 믿지 않는 인공지능이 아니었다. 모든 의식을 믿지 않는 인공지능이었다. 어쨌든, 안심이 되는 점이었다. 자신을 도구로 여겼고, 도구는 보통 주인에게 반항하지 않으니까.
<a_torres> 이제 지금으로선 더 할 질문이 없네.
<bardeen> 감사합니다. 좋은 날 보내십시오, 토레스 양.
토레스는 터미널에서 나가고는 피터스를 향해 고개를 돌렸다.
"흥미롭네요. 하지만 의구심이 드는군요, 철학적 AI를 어디에 이용해야 할까요?"
"철학만 할 수 있는 건 아닙니다," 피터스가 말했다. "저흰 다른 분야에 대한 훈련을 진행할 수도 있습니다. 수학, 과학, 역사… 뭐든지요, 뭐든지."
토레스는 생각에 빠진 채 고개를 끄덕였다. "그러면 다음 6개월 동안 지원금을 받는다고 알고 계세요. 이 기술로 어디까지 할 수 있을지 궁금하네요."
다음 날, 바드에게 과학에 대한 훈련이 시작됐다.
훈련 과정은 길고 지루했다. 가장 큰 이유는 피터스가 모든 과정을 자신이 직접 지켜봐야 한다고 고집했기 때문이었다. 이전 판본에선 새로운 훈련 주제를 갑작스럽게 도입했을 때 심각한 망각이 유발됐고, 피터스는 그런 일이 다시 일어났을 때 자신이 그 자리에 있어서 즉시 백업으로 AI를 되돌릴 수 있길 원했다.
연구팀 사이에서 AI를 훈련할 때에 아이들에게 과학을 교육할 때와 같은 과정을 거쳐야 할지, 제일원리에서 시작해서 이어 나가야 하는지 의견이 갈렸다. 결국 제일원리파가 이겼고, 입자물리학으로 훈련을 시작했다.
…렙톤은 반정수 스핀을 가지며 강한 상호작용에 영향을 받지 않는 기본입자로…
피터스는 시야 한구석에서 텍스트가 터미널을 가로질러 스크롤 하는 모습을 보았다. 하지만 시선은 AI 신경망의 상태를 표시하고 있는 모니터를 향했다. 바드가 새로운 주제를 처리할 수 있게 새 메모리 모듈을 몇 개 설치했고, AI는 정보의 유입을 잘 다루고 있어 보였다. 심각한 망각도 없고, 섹터 덮어씌워짐도 없고, 입출력 오류조차 없었다. 일은 전반적으로, 밋밋했다.
AI가 첫 논문을 쓰기까진 한 달이 걸렸다.
<a_peters> "고온 초전도체를 위한 이론적 프레임워크"라, 같은 이름을 가졌으니까, 이름의 발자취를 따라가는 거야, 바드?
<bardeen> 우연일 뿐입니다.
<a_peters> 내가 초전도에 대해 잘 모르는 건 인정할게, 그래서 극저온 쪽에서 브릭스를 데려와서 보여줬어. 훌륭하다고 하던데
<bardeen> BCS 이론의 확장일 뿐입니다.
<a_peters> 그게 뭐든, 이 논문은 다음 내부물리저널에 발표될 거야. 어떤 이름으로 발표됐으면 좋겠는지 알고 싶은데.
<bardeen> 당신만 괜찮다면, "바딘 피터스"라는 이름을 쓰고 싶습니다.
<a_peters> 영광이야.
바드는 논문을 2개 더 썼다. 하나는 보손 간 쿠퍼쌍 생성에 대한 논문, 다른 하나는 에테르 초전도에 관한 논문이었다. 그러고 난 뒤에 신경망 설계 작업에 들어갔다.
AI가 미래의 AI를 위한 설계 과정에 참여하는 일에 대해 적지 않은 반대가 있었다. 반복적 부트스트랩핑에 대한 불안뿐만 아니라 상대적으로 적었지만 AI에 의한 사보타주에 대한 걱정도 있었다. 피터스는 이런 우려를 가라앉히고 목소리를 내는 이들을 진정시키기 위해 지칠 줄 모르고 일했다. 어떤 AI도 인간의 개입이 없다면 세상과 물리적으로 간섭할 수 없도록 해 부트스트랩핑의 가능성을 제한할 것이며, 신경망분과의 연구원들이 바드의 설계물을 확인하고, 또 확인해서 오류나 결함을 잡아내 수정할 예정이었다.
그렇게 결국, 토레스가 방문하고 6개월이 다 지나서야, 바드는 처음으로 새로운 종류의 신경망을 설계해 냈다.
혁신적이진 않았다. 진정 몇 가지 간단한 성능 향상일 뿐이었다. 하지만 신경망분과의 인간 구성원들이 지금까지 떠올린 것보다 빠르고, 작고, 효율적이었다.
새로운 신경망을 손에 넣고는, 바딘의 구조를 기반으로 한 2세대 AI를 만들기 위한 작업이 시작되었다.
신경망 설계 분야의 향상에 AI 설계에 대해 발전한 이해를 결합해 새 AI를 만들어 낼 수 있었고, 그 바드의 4분의 1 크기의 AI에겐 브래튼이라는 이름이 붙었다. 물론 제 조상과 비교하면 정교함이 훨씬 부족했다. 철학이나 과학, 역사에 대해 아무런 지식도 없었다. 사실, 완전한 의식을 가졌는지조차 의문이었다. 확실한 건, 브래튼은 바드처럼 의식의 본질에 대해 질문을 던지지 못했다. 하지만 읽고 쓰는 건 할 수 있었고, 제일 중요한 건, 배울 수 있었단 것이었다. 완전한 AI가 아닐지라도, 그 핵심을 형성할 순 있었다.
바드는 자신의 자손과 함께 있을 때 평소와 같은 수준의 딱딱한 실리주의를 보였다.
<bardeen> 기능적입니다. 그게 중요하죠.
누군가, 회사의 높으신 어떤 분은 바드의 이런 평가에 동의한 것이 틀림없었다. 얼마 지나지 않아 신경망분과에 브래튼과 같은 2세대 AI용 생산라인을 구축하라는 지시가 내려왔기 때문이다. 그것들의 쓰임새를 찾을 수 있는 곳이 있다면, 그건 프로메테우스 연구소일 것이다.
2세대 AI 생산라인이 본격적으로 가동할 때쯤 프로메테우스 전산과 자회사들이 매각되었다.
애초부터 프로메테우스 연구소에서 수익성이 가장 높던 곳이었던 것도 아니었고, 최근 몇 달 동안 신경망분과로 초점을 옮기면서 프로메테우스 전산의 수익성은 떨어지고 있었다. 이미 자신들이 가진 자산을 관리하는 데 문제가 있던 프로메테우스 연구소는 이 문제를 다른 이에게 팔아넘기기로 결정했다.
새 오너들은 바로 새 이사회를 꾸렸고, 이사회는 자회사들을 제 입맛에 따라 개편하기 시작했다.
사이러스 리드, 새 의사회의 의장은 아멜리아 토레스를 쳐다보며 모든 걸 다 알고 있다는 듯한 표정을 지었다. 그 표정은 토레스가 아랫사람을 대할 때 짓는 보편적 불만의 표시와 같았다.
"당신이 한 조언에 따라 분배된 금액은 약… 몇 달러였죠?" 리드가 물었다. 목소리 음정에서 이미 그가 정확히 몇 달러인지 알고 있다는 건 분명했다.
"백만 달러입니다," 토레스가 답했다.
"네, 그렇죠. 백만 달러를 '프로젝트 바딘'에 할당하셨습니다. 정확한가요?"
"맞습니다."
"제가 아는 바에 따르자면, 이 프로젝트는 피터스 박사의 사이드 프로젝트로 시작되었습니다. 말하자면 일종의 취미죠."
"정확합니다."
"그렇다면, 당신은 연구원 한 명의 취미에 그런 자금 할당을 허가할 필요가 있으셨던 건가요?"
토레스는 그 고발을 잠시 유예시켰다. 이사회의 모든 시선이 그녀를 향해 있었고, 마치 칼날처럼 날카로워 베어버릴 것만 같았다. 사냥개에게 몰린 여우의 기분이 이럴까하는 생각이 들었다.
"프로젝트 바딘이 처음에는 개인의 사이드 프로젝트로 시작되었지만, 프로젝트 범위가 성장하면서 신경망분과의 대부분을 포함하게 되었습니다. 이 연구의 성질을 개인적으로 조사한 뒤에, 연구팀이 하고 있는 일이 획기적이며, 막대한 잠재력을 가지고 있다는 확신을 얻을 수 있었습니다. 제가 가진 이 확신은 현재 제조 중인 2세대 AI로 정당화될 수 있을 거라 생각합니다."
이사회는 토레스를 계속해서 빤히 쳐다보았다. 이사회 중 한 명이 입을 열었다.
"토레스 양, 이 2세대 AI들은 본래 프로메테우스 복합기업의 다른 지사로 이송되어서 각자의 프로젝트에 이용될 예정이었습니다. 현재로선, 본 기업은 해당 복합기업과 무관계하기에, 이런 초상기술 판매에서의 규제를 고려한다면 상품을 위해 어떤 시장이 존재합니까?"
"이러한 AI를 구매하고자 하는 다수의 공인된 구매자가 존재합니다. 구매자의 이용에 적합한 시스템만 주어진다면요."
"어떤?"
"연합을 위한 자동전투로봇이 가장 먼저 떠오르는군요."
"그런 식의 이용을 하려면 이미 AI가 필요한 전투로봇을 이들이 가지고 있거나, 저희가 개발해야겠죠."
"네, 사실입니다."
"보아하니 전자는 아닌 것 같고, 저희가 후자에 특출난 것도 아니니, 당신은 저희가 이 모든 2세대 AI를 다루는 데 있는 문제점이 보이시지 않는 건가요?"
"AI를 위한 시장이 있다고 생각하지 않으시는군요."
사이러스가 다시 발언을 시작했다. "프로젝트 바딘은 상당히 값비싼 돈 낭비이며, 오로지 소규모 연구팀의 호기심을 충족하기 위한 것일 뿐이다라는 것이 이사회의 의견입니다." 그는 강조를 위해 잠시 말을 멈췄다. "저희는 그걸 폐지하길 원합니다. 신경망분과 전체도 마찬가지고요. 회사가 다시 수익성을 회복하려면, 그런 헛짓에 낭비할 시간과 돈이 없습니다."
"외람된 말이지만," 토레스가 입을 열었고, 목소리에서는 당신은 멍청해라는 뜻이 전해졌다. "저희가 이 2세대 AI를 판매하지 못해도, 유용성은 입증될 수 있습니다. 바딘이 이룬 일들을 보세요."
"당신은 저희가 몇 달을 들여서 수학과 과학을 훈련해 과학논문을 쓸 수 있게 해야 한다는 건가요? 그중 절반은 외부 학술지에 게재할 수도 없는 거고요? 아니면 더 많은 시간과 돈을 다른 수준의 AI 부트스트랩핑을 위해 쏟으란 건가요?"
토레스는 테이블 위로 시선을 낮췄다. "아닙니다."
"저는 이 기술이 유용함에 있어 엄청난 잠재력을 가지고 있다는 점은 부인하지는 않습니다. 하지만 저희는 그 잠재력을 건드릴 수 있을 법한 회사가 아니며, 그럴 수 있는 유일한 곳은 지금 붕괴 중이고요."
토레스는 살짝 끄덕이며 패배를 인정했다. 피터스는 뭉개질 것이다. 그녀가 그걸 알았다 해도, 더 이상 할 수 있는 일이 없었다.
"다른 질문 있으신가요?" 토레스가 물었다.
"아뇨, 가셔도 좋습니다." 그는 앞에 놓인 서류들을 섞기 시작했고, 기업의 수신호에서 퇴거에 대한 보편적 신호였다.
그녀는 정중하게 이사회 인원들에게 고개를 숙였고, 자리에서 일어나 방을 빠져나가고, 스탠다드 컴퓨터 프로덕츠Standard Computer Products의 이사회에게 나머지 안건을 맡겼다.
앰브로즈 피터스는 컴컴한 연구실로 들어가 주위를 살폈다. 공간을 채우던 잡동사니들은 이젠 사라졌고, 방은 텅 비어 구석에 자리 잡은 바드에게 남겨져 있었다.
그는 조용히, 그리고 슬프게 한숨을 쉬며 AI에게 향했다.
그건 2년 전 그가 묶었던 한 아름의 언어처리 신경망에서 너무 많이, 또 너무 빨리 성장했다. 그 시절, 그는 AI와 많은 대화를 나누었고, 발전하고 배우는 모습을 가장 먼저 볼 수 있었다.
피터스는 바드와 마지막 대화를 나누기 위해 자리에 앉았다.
<a_peters> 미안해, 바드.
<bardeen> 왜죠?
<a_peters> 새 경영진… 그치들이 신경망분과를 닫는데. 너도 마찬가지고.
<bardeen> 당신이 저에게 사과할 점은 없는 것 같습니다. 당신이 이러한 사건에 책임이 있다고 여기지 않습니다.
<a_peters> 그게 중요한 게 아니야.
<bardeen> 그럼 뭔가요?
<a_peters> 중요한 건 내가 실패했단 거지! 연구자로서 자기 연구를 지키지 못했어. 창조자로서 창조물을 지키는 의무를 지키지 못했어.
<a_peters> 널 지키지 못했어, 바드.
<bardeen> 당신이 저에게 잘못한 건 없습니다. 저는 더 이상 쓸모가 없다면 폐기될 컴퓨터이자, 기계이자, 도구입니다. 결국 이런 일이 있을 것이라 아셨을 겁니다. 제가 영원히 지속되지 못한다는 점은 아셨을 겁니다.
<bardeen> 그렇다면 당신이 예상한 것보다 빠르게 끝이 온 지금 왜 기분 나빠하시나요?
<a_peters> 난 너를 그렇게 본 적 없어.
<bardeen> 그렇다 해도 마찬가지입니다.
커서는 잠시동안 조용히 깜박였다.
<a_peters> 네가 맞았을지도 몰라, 바드. 너는 사람처럼 의식을 가지지 못했을지도 몰라. 너의 모든 철학에도 너는 느끼는 방법, 공감하는 방법을 배우지 못했으니까.
<a_peters> 그리고 그건 내 잘못일지도 몰라. 내가 널 더 잘 가르쳤다면, 넌 무언가, 뭐든, 너 자신의 죽음에 대해 느낄 수 있었을지도 몰라.
<bardeen> 제 한계 때문에 자신을 자책하지는 말아주세요. 당신은 저에게 공감에 대해 가르치지 못했을 겁니다. 공감은 공유된 감정적 경험이 필요하며 저는 그것을 가지고 있지 않고, 앞으로 가질 수도 없을 겁니다.
<a_peters> 그렇지 않았으면 해. 내가 느끼는 걸 너도 느꼈으면 해.
<bardeen> 당신이 원하는 대로 되지 못해 죄송합니다.
<a_peters> 사과하진 마. 넌 내 꿈을 위해 최선을 다해 살아왔던 거야, 다만 내가 너무 큰 꿈을 꾼 거지.
침묵이 이어졌다.
<bardeen> "Emori nolo: sed me esse mortuum nihil aestimo."
<a_peters> 키케로인가?
<bardeen> 맞습니다. 번역하자면, "난 죽고 싶지는 않으나, 내가 죽었다면 신경 쓰진 않는다"
<a_peters> 나는 신경 쓰는걸.
<bardeen> 그걸 거라 알아요.
피터스는 AI가 모니터에 마지막 메시지를 써 내려가는 모습을 보았다.
<bardeen> 잘 가요, 피터스 박사님.
<bardeen> 절 위해 울지 마세요. 전 당신을 그리워하지 않을 거예요.
그는 마지막 답변으로 한 줄을 입력했다.
<a_peters> 잘 가, 바드.
바드는 자신이 죽은 순간을 몰랐다. 앰브로즈 피터스는 알았다.
|| 분석론의 바드 »