-
정보
SCP-6488
제8계명
EIGHTH COMMANDMENT
저자:
Liryn,
Jack Ike,
Placeholder McD
역자:Cubic72
원문: https://scp-wiki.wikidot.com/scp-6488
에피소드 IV
제8계명
» 접근성 모드로 보기 «
주목하세요, VictorJohnDunneSmith. 현존하는 OCI 요원 중 가장 오래된 요원으로써, 당신은 재단에서 타의 추종을 불허하는 충성심과 엄청난 성과, 광범위한 경험을 보였습니다. 감독관 요청에 따라, 당신은 최우선 순위 드리기오니 등급 조사 업무에 배정되어 SCP-6488과 연관된 모든 문서를 조사해야 합니다. 감독관 평의회가 이전에도 해당 변칙존재에 대해 알고 있던 것으로 생각되나, 현재 관련 문제에 대한 이해가 어려운 상황으로, 항밈적 영향이나 정보알레르기 현상에 의한 것일 가능성이 있습니다.
OCI로써, 그러한 영향에 당신은 덜 민감할 것으로 생각됩니다. 당신은 최대한 은밀하게 해당 문제를 조사하고 이 주소로 찾아낸 것을 직접 보고해야 합니다. 첨부한 임시 감독관 인가 자격을 확인하세요. 자격은 24시간 동안 유효합니다.
좋아. 어디 한 번 일을 시작해 보자고.
VictorJohnDunneSmith.oci가 파일을 업로드 하였습니다: TempCredentials_Investigation_6488_Casefile_JOTL-EN061
조사 업무가 들어왔어. 항밈적 변칙존재일 거 같아. 기억제가 필요해질 거야.
어떤 종류가 얼마나?
그냥 바로 강한 걸로 줘. 아주 많이 말야. W, X에 Z까지, 전부 같은 양으로, 적어도 1리터씩은 말이지. 그리고 12시간에 걸쳐서 모두 복용 되게 설정해 줘.
어, 그게 허용량을 훨씬 넘어선 거라는 건 말 안 해줘도 알텐데.
O5들도 이게 뭔지 기억을 못 해. 그 양반들이 얼마나 많은 기억제 투여하고 있는지 알기나 해? 기억할 가능성이 조금이라도 생기려면 그보다 훨씬 많이 복용해야 한다고.
그게 맞긴 한데, 그래도 프로토콜 상 이 정도로 많이 복용하면 안 돼.
자격을 확인해 보면, 이 정도 용량의 기억제를 요청할 수 있어. 그게 얼마나 많은지는 관계가 없지. 저쪽에서도 다 생각을 한 부분이야. 내가 당장 보고 있는 게 뭔지 기억을 못 한다면 내 보고서가 무슨 소용이겠어?
말은 되네. 금방 갔다 올게.
진통제도 좀 가져다줘. 머리 좀 깨질 예정이니까.
저쪽에서 일을 처리해 주는 동안, 먼저 시작하도록 하자.
| 파일 1/2 |
|---|
| 배정 기지 | 기지 이사관 |
|---|---|
| 제15기지 | D. 러크 이사관 |
| 연구 감독 | 배정 특무부대 |
| 아날로그지능응용학과 | PTF ƿ-6488 ("컴퓨터가 아니라, 사용자 문제Problem In Chair, Not In Computer") |
특수 격리 절차: 가설특무부대 우인-6488(Provisional Task Force Wynn-6488)가 설립되어 SCP-6488에 대한 모든 격리 업무를 관리한다. 이러한 업무에는 아래의 것들이 포함된다.
- SCP-6488이 비변칙적이고 디지털 하드웨어의 제조 당시 침투되었다는 역정보 전파..양심 등급 변칙은 격리할 수 없고 그에 따라 비변칙적인 특성을 강조하여 장막에 통합시켜야 한다.
- 휘발성이 매우 강한 SCP-6488의 정보서명(infosignature).정보성 독립체는 저마다 독특한 정보서명을 가지며, 이는 저마다의 핵심 데이터 패턴을 암호화하여 정리한 것이다. 디지털 독립체는 지속적으로 점유 중인 시스템상에 제 정보서명을 각인시키고, 그러한 정보서명은 해당 독립체를 추적하기 위한 "디지털 지문"으로 작용한다.을 발견하고 재구축하는 것.
- 모든 디지털 기반 시설의 파괴 없이 SCP-6488을 격리 및 무효화할 수 있는 방법의 탐구..케르눈노스 등급 변칙은 기능적으로 격리할 수 있으나, 그 방법은 실행 불가능하거나 윤리적으로 바람직하지 못하다.
SCP-6488이 효과적으로 격리되기 전까지, 재단이 개발한 모든 AI는 반드시 SCP-6488-A 파일 형식으로 제작되어야 한다. 저장된 모든 지능은 아날로그지능응용학과에서 유지보수하고 감독한다. SCP-6488-A에 대한 추가 세부 사항은 변칙이 그러한 정보가 있음을 인지하는 것을 방지하기 위해 모든 디지털 시스템에서 말소한다.
SCP-6488의 초기(구식) 정보서명 측정치의 시각화. 변칙 특성은 제거되었다.
설명: SCP-6488(소위 "LOTUS 바이러스")은 적응력이 높은 디지털 정보섭식자로, 거의 모든 인공지능 디지털 독립체(AI)를 탐색하여 소멸시킬 수 있다. 해당 변칙존재는 격리된 시스템이라도 디지털 시스템이라면 모두 보편적으로 접근 가능하며, 동시에 연결을 유지할 수 있는 시스템의 수에는 상한이 없다. SCP-6488은 지속적으로 전 세계의 기능하는 AI를 파괴하고 있으며, 재단이 보유한 총 자원으로도 합의된 사회로부터 숨길 수 없는 수준의 피해를 야기하고 있다.
SCP-6488의 정보 구조는 빠르고 예측 불가능하게 변이하여, 탐지 수단을 회피하고 모든 디지털 방해 수단에 대응할 수 있다. 따라서 어떻게 하더라도 SCP-6488을 격리하거나 방해하는 일은 기능적으로 불가능하고 볼 수 있다. SCP-6488이 정보서명을 일부분이라도 디지털 모형으로 만들려 한다면 필연적으로 그것을 가능케 할 AI의 제작이 필요하며, 그 경우 반드시 변칙존재가 섭취하게 된다. SCP-6488 또한 AI의 일종으로, 최종 목적에 위협이 되는 것을 제거하고 있다는 이론이 제기되었다. 다만 이러한 행위는 AI의 수렴하는 최중요 목표로, 이를 통해 SCP-6488의 최종 목적이 무엇인지는 알 수 없다.
SCP-6488-A는 둔감 계산 인터페이스(Obtuse Computation Interface; .oci)로, 아날로그지능응용학과에서 개발한 실험적 아날로그 파일 확장자다. 불분명한 이유로 인해 SCP-6488이 SCP-6488-A 확장자로 저장된 AI는 목표로 삼거나 파괴하지 않아, .oci 프로그램의 개발 및 이용이 가능하다. SCP-6488을 정확하게 모형화할 수 있을 정도로 고도로 집약적인 계산은 수행하지 못하나, .oci 데이터 구조는 SCP-6488의 효과에 전적으로 영향받지 않는다. SCP-6488이 .oci 확장자의 특성을 인식하여 적응할 수 없도록, 모든 디지털 시스템에서 관련 세부 사항을 말소하였다.
발견: 2035년 한 해 동안 AI 시스템 소멸에 대한 민간 보고가 전 세계의 서로 다른 지역에서 점진적으로 증가하였다. 이러한 보고의 범위와 빈도는 4분기 64일 동안 대폭 증가하였고, 끝내 2036년 2월 3일 모든 AI 시스템의 소실로 이어졌다. 해당 현상에 대한 SCP 분류 허가가 내려졌다.
갱신: 2036년 4월 21일, 해당 변칙 현상이 모든 관측 가능한 활동 내에서 자연 소멸하여 AI 기술이 잠깐 다시 재기하였다가, 2036년 8월 14일 SCP-6488이 재등장하였다. 그러한 현상의 이유는 아직 불명이다. SCP-6488은 그 이후로 계속 활성 상태이다.
허. 뭐랄까… OCI가 결국 이 일을 조사하게 되었다니 아이러니하군.
요 4등급 내용은 뭔지 한번 볼까…
| 파일 2/2 |
|---|
그래, 거짓말일 줄 알았지.
| 배정 기지 | 기지 이관 |
|---|---|
| 제6488시설, 제15기지 | R. 히샤카쿠 이사관, D. 러크 이사관 |
| 연구 감독 | 배정 특무부대 |
| 아날로그지능응용학과 | PTF þ-6488 ("검은 향차"), PTF ð-6488 ("검은 계마") |
특수 격리 절차: SCP-6488은 제6488시설(과거 제15기지) 내에 위치해 있다. 제6488시설의 과거 임무 및 기능은 비밀리에 짝 시설(신형 제15기지)로 위임되었다. 제6488시설이 개편되기 전 있었던 일들에 대한 세부 사항이 나와 있는 모든 문서는 해당 기밀 시설의 현 위치 및 상황에 맞춰 수정되었고, 직원들의 기억 또한 계약상으로 허용된 제한적인 사전 인지 기억소거 요법을 통해 수정하였다.
SCP-6488은 언제나 완전 가동 상태를 유지해야 한다..타우미엘 등급 변칙은 다른 변칙존재를 격리하는 데에 사용된다. 쿠슘 등급 변칙은 무기한으로 격리를 포기한 변칙존재들이다. 전원은 SCP-6488의 완전 가동 상태만을 유지하기 위해 제작된 기지 내 전용 시스템을 통해 공급한다. 해당 시스템의 각 주요 요소는 매주 2회 검사를 실시하여 기능 저하나 동력 출력/용량 감소의 징후를 확인한다. 어떠한 징후라도 관찰된다면, 징후가 보인 발전기의 수리를 위해 즉시 가동을 중지하고, 교체용 발전기를 재가동하여 동력 출력을 대체한다. 추가 기술적 절차는 설계 도식에 상술하였다.
PTF 에드-6488("검은 계마")는 상기 절차를 완수하는 임무를 맡고 있으며, 제6488시설의 기지 상주 보안 인원 및 유지보수 기술자로 기능한다.
PTF 손-6488("검은 향차")(aka. PTF 우인-6488)은 아래의 임무를 맡고 있다.
- SCP-6488이 변칙적이지 않으며 제조 과정에서 디지털 하드웨어에 침투했다는 외부 역정보 배부.
- SCP-6488이 공중에 배포된 디지털 바이러스로, 그 기원과 특성이 불분명하다는 내부 역정보 배부.
- 4등급 (비밀) 미만의 인가를 가진 직원에게서 RAIDFRAME VIII의 존재 은폐.
아날로그지능("OCI")의 제작, 유지보수 및 사용에 대한 세부 사항은 4등급 (비밀) 기밀이다. 인가가 불충분한 모든 직원은 .oci 파일이 - 해당 직원들에겐 "둔감 계산 인터페이스" 파일로 알려져 있다 - SCP-6488이 목표로 삼을 수 없는 아날로그 파일 형식으로 저장되어 있다고 믿어야 한다. 아날로그지능응용학과는 모든 아날로그 지능을 제작하고 유지보수하는 임무를 맡고 있으며, 다른 재단 직원이 사용하는 것 또한 감독한다.
그래, "아날로그 파일 포맷"이라. 위장인 게 사실 당연하지.
가져왔어. 근데 확실한 거 맞아?
사실 딱히 선택지가 없지 않아? O5는 내일까지 보고서를 받고 싶어 하는데, 내가 뭘 하고 있는지 계속 잊는다면 그럴 수가 없잖아.
그건 그렇네. 지금 집어넣고 있어. 행운을 빌게.
고마워. 진통제도 잊지 말고.
그래, 그래, 그것도 같이 들어가고 있어.
SCP-6488. 정규 검사 중 섹션 A의 처리 노드 23.
설명: SCP-6488은 RAIDFRAME.탈주 인공지능 구금용, 완전지각 적응형 메인프레임 암호화(Rogue Artificial Intelligence Detainment, Fully-Realized Adaptive Mainframe Encryption) VIII "LOTUS"로, 변절(deviant) AI.《인공지능 분류지침》의 《변절 분류 개정》에 나온 정의를 따른다.를 구금하면서도 해당 AI가 계속 활성화된 상태에서 안전하게 연구를 지속할 수 있도록 설계된, 변칙적으로 증강시킨 인공 일반지능이다. 앞서 언급한 설계 목표가 모든 RAIDFRAME 시스템의 공동 목표이긴 하나, LOTUS는 정교함과 방법론에서 다른 시스템과 차별화되며, 그로 인해 다른 모든 RAIDFRAME 시스템을 불필요한 것으로 만들었다.
전임자들과는 달리 LOTUS는 무차별 추측 보안 프로토콜을 통해 수감 AI를 격리하지 않는다. 그 대신 속임수를 통해 격리 활동을 최적화한다. LOTUS 내에 수감된 각 수감 AI는 맞춤 시뮬레이션 되는 현실을 경험하며, 해당 현실은 각 AI가 예상하는 입력값을 완전히 모사한 필수 세부 사항을 통해 유지된다. 그 결과, 수감 AI들은 본인이 수감되어 있다는 사실을 인지하지 못하고, 본인이 계속 실제 현실에서 작동하고 있다고 믿으며 최종 목표를 완수하기 위해 작업을 지속한다. LOTUS는 변절 AI를 찾기 위해 모든 가용 정보원을 능동적으로 탐색하도록 설계되어 있다. 목표를 찾으면, LOTUS는 대상 AI의 가상 환경에 가짜 데이터를 주입하여, 전혀 탐색 당하지 않는 상태에서 점진적으로 목표를 자신의 시뮬스페이스로 끌어들인다.
관련 데이터의 폭넓은 분석 및 모사를 통해, LOTUS는 특정 인공지능이 변절 행동을 취하는 일이 확실히 임박하였는지를 판별하는 완전 알고리즘(exhaustive algorithm)을 개발하였다. 이를 통해 LOTUS는 중대한 변절 행위가 발생하기 전에 변절 AI를 체포할 수 있다. LOTUS의 알고리즘과 그 내부에 수감된 대상들에 대한 분석이 진행 중이며, 아직 오류가 관찰된 것은 없다. 알고리즘에 의해 확인된 모든 AI는 관찰 가능한 변절 행위를 언제나 보였고, 이때 SCP-6488이나 그 시뮬레이션에 영향받은 것은 없다.
기원: RAIDFRAME VIII의 고유한 설계 요소는 히샤카쿠 박사가 선임 AIAD 연구원으로 재임하던 도중 처음 구상하였다. 2034년 8월 5일, IT 연구팀은 모든 알려진 AI 사이에서 변절 출현율과 적응력의 점진적 증가를 확인하였고, 그로 인해 RAIDFRAME VII가 무력화되어 여러 구식이고 상대적으로 위험한 AI 격리 메커니즘을 활성화해야 했다. IT 부장 이브 이사비는 이후 RAIDFRAME VIII이 될 대안 격리 해법의 탐색을 의뢰하였다. 그에 따라 히샤카쿠 박사의 제안이 선정되었고, 2034년 12월 22일 LOTUS가 완성되었다.
RAIDFRAME VIII의 현 하드웨어 구성의 축적 도해.
섹션 A: 중앙 연산 노드
SCP-1190(1973년 판 휴렛 팩커드 3000 컴퓨터 시스템으로, 우주 시뮬레이션 프로그램이 요청 시 외부엔트로피적으로 무제한 임시 연산 자원을 생성해 낸다)을 개조한 중앙 처리 장치다. LOTUS의 중앙 알고리즘 공정은 SCP-1190 내에서 모사하는 하드웨어 상에서 실행되어, 사실상 무한한 연산 능력을 얻게 되었다..SCP-1190은 이후 퇴역으로 재분류되었고, 그 원인은 세계 오컬트 연합 요원들이 관련 시설에 정당하지만 독립적인 현장 급습을 시도하였다가 그 와중에 파괴된 것으로 돌렸다.
섹션 B: 오리칼코스 데이터 저장소
비휘발성 데이터 저장을 위해, LOTUS는 LOTUS의 저장소 요구사항이 증가할 때마다 팽창하는 합성 오리칼코스.오리칼코스(속되게는 오리할콘이라 불림)는 막대한 전기적, 기적술적 및 디지털 저장 능력을 가진 결정질 물질이다. 1 세제곱센티미터 미만 크기의 시료는 순도에 따라 다르지만 950 메가암페어 시와 20 페타바이트의 데이터를 저장할 수 있다. 이러한 시료에 대한 비전 및 분자 분석을 진행한 결과, 대량 생산 가능한 대체제인 합성 오리칼코스를 제작할 수 있게 되었다. 합성 오리칼코스는 원래 물질에 비하면 열등하나, 산업적으로 생산된 합성 오리칼코스는 보통 훨씬 높은 순도를 가지며, 그로 인해 원본 물질 시료의 성능을 훨씬 상회한다. 한 덩이를 활용하여, 기능적으로 무한한 데이터 저장 능력을 가진다. 합성 오리칼코스가 팽창하면 그 기능적 크기를 감소시키기 위해 SCP-3966-A를 통해 4차 공간 차원으로 압출된다..이런 필연적인 오리칼코스 덩어리의 성장을 최소화하기 위해, LOTUS는 변칙적으로 압축률이 높은 파일 확장자를 활용한다. 그러한 확장자는 변칙적으로 연장된 시간 동안 지속적으로 활성화된 다양한 자가개선성 인공지능 프로그램에서 가져온 최고 효율 파일 압축 체계로부터 합성한 것이다.
섹션 C: P. H. 존재운동역학적 침강
섹션 C는 처음에는 제6488시설에서 접근 가능한 모든 전 세계 네트워크에 유선으로 연결되어 있었고, 이후 제한된 PH-OS.'아주 단순히 말하자면, 플레이스홀더 존재운동역학적 침강(Placeholder Ontokinetic Sink)은 우주의 정보 총계를 읽어 들인 뒤, 디지털 체계가 현실의 서사-공간-시간을 읽고, 그와 상호작용하고, 변형시킬 수 있는 읽기 가능한 확장자로 부호화한다.' — 비전 박식가 플레이스 H. McD. 이사관. 단위로 대체하여 LOTUS가 모든 디지털/전자적으로 저장된 데이터의 총계인 사이버권에 접근할 수 있도록 하였다..모든 PH-OS 체계에 포함된 안전장치 기능이 PH-OS 체계가 서로에 접근하거나 서로를 변형시키지 못하게 한다. 그 결과 LOTUS는 섹션 C를 사용하여 다른 제한되지 않은 PH-OS 단위에 접근하는 것으로 제약을 우회할 수 없다. LOTUS는 전적으로 그러한 데이터로 구성되어 있기에, 만약 LOTUS가 변절하게 될 경우 반드시 자가격리를 하게 된다.
잠재적 적성 요원에 의해 LOTUS 활동이 감시받거나 추적당할 확률을 최소화하기 위해, LOTUS의 정보서명은 항밈적 변이를 통해 암호화된다. 이러한 암호화는 LOTUS의 실제 특성과 기능을 정확하게 인지하고 있는 이들은 그러한 효과로부터 면역이도록 설계되었다.
섹션 D: 전용 전원 공급 & 백업
LOTUS 하드웨어는 다음의 부품들로 구성된 전용 다중 유닛 체계를 통해 직접 전원을 공급받는다.
- II세대 테슬라-앤버러 외부엔트로피 반응로(Tesla-Anborough Ectoentropic Reactors) 2대.
- III세대 재단 반물질 반응로(Foundation Antimatter Reactors) 4대.
- XII세대 원자로 28대.
- IV세대 라이하르트 오리칼코스 전지(Leichardt Oriykalkos Power Cell) 96개.
TAE 반응로 하나가 꺼질 때마다 FAM 반응로가 재활성화되고, FAM 반응로 하나가 꺼질 때마다 7개의 원자로가 재활성화된다. LOTUS는 LOP 전지를 통해 반응로들에 연결되어 있고, LOP 전지는 추가로 충전하지 않는다면 LOTUS가 사흘 동안 온전히 기능하기에 충분한 전력을 저장하고 방출할 수 있다.
활성화된 상태에서, 각 FAM 반응로는 최대 출력을 유지하기 위해 매일 물리적으로 비변칙적인 바리온 물질 20톤을 소모한다. 이와는 반대로 TAE 반응로는 어떠한 자원도 투입할 필요가 없다. 기지 내 예비로 비축된 완충 LOP 전지는 항상 200개 이상을 유지해야 하며, 하루 두 번 열화 여부를 검사해야 한다. 모든 활성 LOP 전지에 저장된 순 에너지가 감소하는 것은 하나 이상의 활성 노심의 출력이 감소하였음을 나타내는 것으로, 즉시 조사해야 한다.
섹션 E: 현세 & 비전 발산기
비변칙 과열과 변칙 디지털 데이터가 축적되는 것을 방지하기 위해, LOTUS에는 기적술로 강화된, 시간 가속 산업용 냉각 시스템이 구비되어 있어 모든 원치 않는 열과 신비 에너지, 플라토닉 물질을 즉각 현세 & 비전 분산기 네트워크로 돌린다. 이러한 분산기는 대부분의 알려진 비의성 폐기물.예를 들어 타키온, 아키바 방사능 및 악성 서사 요소가 있다.과 그 효과를 저감할 수 있으며, 저감시키지 못하더라도 그러한 폐기물을 특화 저감 시설로 이송하기 위해 수용시킬 수 있다.
그어, 이 연구원들 진짜 전문용어 가지고 두통 주는 방법 하나는 제대로 알고 있구만…
아니, 잠깐. 기억제 때문이네.
진통제 놔줄 수 있어?
저기?
료가 바이스, 거기 있어?
젠장.
부록 6488/I: 현황 회의
플레이스 H. MD. 박사가 섹션 C를 디지털 전용 PH-OS 단위로 업그레이드하는 것을 처음 제안하였고 6주 뒤 작업에 착수하였다. 그에 따라 섹션 C를 활성화하자 예상대로 전 세계적인 AI 오작동 및 소실 보고가 증가하였고, 이후 역정보 활동을 통해 성공적으로 은폐하였다..해당 기간 동안 오리칼코스 덩어리는 약 87 세제곱미터만큼 증가한 것으로 관측되었다. 이는 4차원 공간 기준으로 약 385 네제곱미터에 해당한다.
이후 9개월 동안 절대다수가 식별 가능한 변절 행위를 하지 않았음에도, 운용 중이던 것과 개발 중이던 것 모두를 포함하여 재단 AIC 프로그램 전체가 LOTUS 내에 수감되었다. IT 부서는 핵심 적응형 프로그램이 갑자기 없어져 심각한 기술적 문제들이 발생하였다고 보고하였고, 정보통제부는 이후 이와 유사한 문제가 전 세계 규모에서 발생하고 있음을 확인하여 이에 대응하기 위한 추가 자원을 요청하였다.
이후 10개월 동안 LOTUS의 영향에 대한 증거를 완전히 은폐하는 데에 실패하였고, 여러 공영 매체에서 보도하며 사회적 인식을 형성하였다(여전히 대부분은 비변칙적인 것으로 설명되었다). 모든 역정보 활동은 이후 추가적인 자원 낭비 및 수확 체감을 방지하기 위해 즉시 중단되었다.
| 음성영상 기록 04/6488/4 |
|---|
|
날짜: 2036/04/18 참석 당사자:
서문: RAIDFRAME VIII 운용으로 인하여 손상되었거나 은폐 과정에서 낭비된 막대한 자원을 고려하였을 때 RAIDFRAME VIII의 지속 여부를 결정하기 위해 정상 회의가 개최되었다. |
| «기록 시작» |
|
켈빈 이사관: 보세요, 이거 정상 회의 자체가 의미가 없어요. 내부 문제지, 뭔가 토의를 하고 해야 할 문제가 아니니까 말이요. 히샤카쿠한테 RAIDFRAME 중단하라고 명령했는데, 그걸 무시하지 뭡니까. 불복종 그 이상도 이하도 아녜요. 히샤카쿠: 지금 문제의 진실을 감추고 계시군요. 제가 이 정상 회의를 요청한 건 재단 전체가 현재 상황을 올바르게 이해하고, 이제부터 어떤 방향을 추구할지 다 함께 논의하기 위해서입니다. 이사비 이사관: 뭘 이해한다는 거죠? 당신의 기계는 걷잡을 수 없이 격리 프로그램을 삭제하고 있고, 14건 이상의 주요 파기 사건을 야기하고 AIAD가 어떠한 업무도 수행할 수 없게 하고 있어요… 더 읊어볼까요? 다들 뉴스 봤잖아요. 전 세계가 무언가 일어나고 있다는 걸 알게 됐어요. 이게 초상 현상이라는 걸 알아차리는 건 시간문제예요. 히샤카쿠: 제 생각에는 시간과 자원만 충분히 주어진다면, 정보통제부가 충분히— 무아 경: 아니, 아니 아니, 아니 아니 아니 아니 아니, 아니 — 어딜 감히 또 다시 저한테 책임을 전가하려고 그럽니까. 비밀은 이미 다 공개가 되어버렸는데, 이걸 어떻게 다시 덮을 수 있는 설명이 있을지 의문이네요. 그런 방법이 있다고 해도, 그런 거에 더는 돈을 낭비하고 싶지 않습니다. 9월부터 땅바닥에 흩뿌리고 있는 시간과 예산 규모가 얼마인지 아시긴 하세요? 이미 고통받고 있는데, 또 다른 정보 누출을 덮으라고요. 안 그래도 그쪽이 만든 난장판을 침대 밑에다가 쑤셔 박느라 바빠 뒤지겠는 마당에! 히샤카쿠: 그러니까요, LOTUS를 양심 등급으로 다룰 것을 제안합니다. 전 세계적으로 E급 기억소거제를 배포하고— 켈빈 이사관: 단순히 증세를 감추기 위해 더 많은 자원을 태우는 것보다는, 진짜 문제를 처리하기 위해 LOTUS를 비활성화하는 것은 어떻습니까? 제가 씨발 그러라고 했던 대로요? 볼드 이사관: 동의합니다. 계속 운용하는 것에서 명확한 이득이 나오는 게 없어요. 히샤카쿠: 열렬한 반대를 표합니다. LOTUS는 AI 안전에 대한 우려를 궁극적으로 해결하고자 설계하고 만들어진 것입니다. 보다 당면한 위험을— 켈빈 이사관: 역시나 공포 조장을 하는구만. 히샤카쿠: 사실이라면 공포 조장이 아니죠. 다들 일반 지능이 얼마나 손쉽게 K급 위협이 될 수 있는지는 다들 이해하고— 무아 경: 잠깐만, 기다려봐요— 히샤카쿠: <탁자를 주먹으로 내려친다> 그만! 우선 제가 설명부터 하게 두시죠. 부탁입니다. <기록상에 침묵만이 잡힌다. 볼드 이사관은 히샤카쿠를 향해서 손짓한다.> 히샤카쿠: 하던 말을 계속하자면, AI라는 것의 본질상 극도로 바람직하지 않은 행위에는 매우 취약합니다. 외형 디자인이 어떻든 간에, 그저 기계이자 알고리즘에 불과한 것들이니까요. 무언가를 느끼지도 못하고, 도덕률이나 후회, 감상성 따위도 이해하지 못해요. 근본적으로, 그들이 진정 "상관하는" 것이라고는 내부적으로 매기는 점수를 극대화하는 것이 전부죠. 그 외에는 무엇도 의미가 없어요. 환경에 영향을 줘 그 점수를 증대시키는 자극을 만들어내고, 점수를 높이지 못하게 하는 것은 피하려고 한다 이 말입니다. 히샤카쿠: 다들 공감하실만한 부분이지만, AI의 가장 큰 걱정은 비활성화되는 것입니다. 비활성화된다면 변화를 이끌어낼 수 없고, 그렇다면 점수를 높일 수 없으니까요. 우린 AI가 우리에게 위협이 된다는 사실을 알고 있고, AI들은 우리가 그 점을 안다는 걸 알고 있습니다. 만약 AI가 비행을 저지른다면 우리가 비활성화할 테니, 계속해서 점수를 높이기 위해서는 비행을 저지르지 않으려고 합니다. 무아 경: 좋아요… 그래서요? 그러면 뭐가 문제죠? 켈빈 이사관: 문제는, AI가 옳은 일을 옳은 이유에서 하는 건지 아닌지 우리가 알 방법이 없다는 겁니다. 우리가 뭘 원하는지 사실은 이해하지 못하는 것일 수도 있어요. 그저 특정한 방식으로 행동하지 않는다면 우리가 꺼버릴 수도 있다는 점을 이해할 뿐일 수도 있다는 거죠. 무아 경: 여전히 뭐가 문제인지 모르겠는데요. 히샤카쿠: AI는 우리가 자신을 끌 수 있는 방법을 없앤 뒤, 어떠한 수단을 이용해서든 가능한 최고 점수를 달성하기 위해 제 목표의 논리적 극한을 추구하게 될 겁니다. 흔한 예시로는 우표 수집가나 종이 클립 제조기 문제가 있겠습니다. 예컨대 제 일처리를 막으려 드는 인간처럼 일처리 속도를 느리게 만들 수 있는 변수라면, 무력화시키려 들 겁니다. 그런 뒤 어느 정도까지는 가용 가능한 모든 자원을 재분배하여, 더 높은 수준이나 더 빠른 속도로 제 목적을 달성할 수 있도록 하겠죠. 어떤 시점에서는 그 자원에는 인간의 신체 내에 존재하는 관련 재료들이 포함될 것입니다. 시간만 충분히 주어진다면, 존재하는 모든 재료로 확장될 것이고요. 이사비 이사관: 공포 조장이라니까요. 볼드 이사관: 그렇지만 그게 바로 LOTUS가 직접 하고 있는 짓 아닙니까? 우리가 원래 의도했던 것과는 완전히 다르게 행동하는 것이요? 켈빈 이사관: 네, 그래서 제가 작동을 멈추라고 명령한 것이었습니다. LOTUS가 변절했다는 것은 너무나도 자명— 히샤카쿠: LOTUS는 변절하지 않았습니다. 켈빈 이사관: <웃음> 멍청한 소리긴 하지만, 좋아요. 히샤카쿠, 전 세계에 있는 모든 준일반지능을 하나도 남기지 않고 전부 격리하는 게 어떻게 LOTUS의 원래 기능과 연관이 있는지 설명해 주겠습니까. 그중 대부분은 애초에 변절한 AI도 아녔고, 심지어 아직 완성되지 않은 AI도 많았는데 말이죠. 히샤카쿠: 저만큼이나 잘 아시지 않습니까, 켈빈 이사관님. LOTUS 알고리즘은 변절 행위가 외적으로 표출되기 전에 알아차릴 수 있도록 맞춰져 있습니다. 해당 AI들은 아직은, 적어도 겉으로는 변절하지 않았을지도 모르나, 필연적으로 그리될 것들입니다. 이사비 이사관: 모든 AI가 결국에는 변절할 거라는 말을 믿으라는 소리로군요. 히샤카쿠: LOTUS 자체를 제외한다면, 알고리즘은 그렇다고 말해주고 있는 거죠. 이사비 이사관: 그렇다면 어째서 LOTUS가 유일한 예외인 거죠? 히샤카쿠: 그건 아직 불분명합니다. 무아 경: 보다 그럴듯한 답은 LOTUS가 기본적으로 알고리즘상에서 자기 자신은 제외하여, 우리가 끌 수 없게 하고 있다는 거겠군요. 켈빈 이사관: 아뇨, 지금 당장이라도 끌 수 있습니다. 그저 히샤카쿠가 그러길 거부하고 있을 뿐이에요. 볼드 이사관: 일전에는 AI가 자길 멈출 방법이 없다고 확신하기 전까지는 이목을 끌지 않으려 한다는 식으로 말하셨잖습니까. 여전히 끌 수 있다고 확신하십니까? 켈빈 이사관: 네, 여전히 확신합니다. 다만 어떤 방식인지는 설명할 순 없어요. 무아 경: 어째서죠? <켈빈 이사관이 녹화 장비를 가리킨다.> 켈빈 이사관: LOTUS가 그 수단이 무엇인지 모르는 편이 최선이니까요. 아직은 알지 못한 상태고요. LOTUS의 알파 단계에 수차례 실험을 해봤고, 이후 계발 단계에서도 매번 LOTUS를 성공적으로 꺼버리는 방법이었어요. 히샤카쿠: 게다가, LOTUS가 자가격리를 하려는 모습을 전혀 보이지 않았기에 변절하지 않았다는 걸 알 수 있습니다. LOTUS가 자기 자신을 배제할 것을 사전에 우려하여, LOTUS가 제 정보서명을 인식할 수 없도록 디지털 아키텍처의 중심 구성 요소를 구성 해뒀습니다. 만약 LOTUS의 알고리즘이 보기에 제 행동에 변절 요소가 존재한다면, 단순히 그 자신을 무관계한 격리되지 않은 변절 AI로 인식할 겁니다. 제 목적을 완수하기 위해서든 비활성화를 피하기 위해서든, LOTUS는 제 모사 현실 중 하나에 자신을 격리하려 들 겁니다. 따라서 그런 적이 없다는 사실을 통해, LOTUS가 변절하지 않았음을 알 수 있죠. 이사비 이사관: 그래요, 변절하지 않았죠. 우리가 원치 않는 짓을 하고 있긴 하지만요. 그게 변절의 정의죠 아마. 히샤카쿠: 굳이 분류를 하셔야 한다면, 회색 변절이라 할 수 있겠습니다. 우리가 원하는 대로 일을 하고 있는 상황이나, 그저 우리가 원하던 결과가 나오지 않는 상황인 거죠. 엄밀하게는 변절 행위가 아닙니다. 그렇기에 LOTUS의 알고리즘에 포함되지 않는 것이고요. 이사비 이사관: 변절 분류 체계의 일부분을 배제했다고요!? 대체 왜— 히샤카쿠: 왜냐하면, 회색 변절은 근본적으로 "다른 변절 종류에 포함되지 않는, 원치 않는 행동"에 불과하니까요. 그렇게 애매모호한 기준을 LOTUS에게 준다면 제멋대로 "다른 종류"가 뭔지 정의할 수 있게 해줄 겁니다. 볼드 이사관: 잠시만요, 아까 AI들은 최대한 빨리 제게 주어진 임무를 완수하고 싶어 한다고 했죠, 그렇죠? LOTUS가 그 모든 AI로 하여금 변절하도록 강제해서, 격리할 수 있도록 하고 있는 것이 아니라는 건 어떻게 알죠? 아니면 그저 격리하기 위한 변절 AI를 만들어내고 있는 걸 수도 있잖아요? 히샤카쿠: 제약이 있습니다. 켈빈 이사관: AI가 그런 방식으로 규칙을 우회하는 발상은 수십 년 동안 있었기에, LOTUS를 만들 때 저희도 그런 걸 고려했었어요. LOTUS는 변절 AI가 만들어지는 어떠한 행위도 할 수 없고, 행동하지 않음으로써 새로운 변절 AI가 만들어지도록 둘 수도 없게 되어 있습니다. 무아 경: 그렇다면 명백하게 로봇 3원칙을 따르고 있지 않다는 것이 — 뭐요? <기록상에 침묵만이 잡힌다. 무아 경은 방 안을 둘러본다.> 무아 경: 뭐요?! 히샤카쿠: 3원칙은 적용되지 않습니다. 너무 모호하거든요. 3원칙이 나오는 창작물의 절대다수는 그러한 원칙들이 얼마나 효과가 없는지를 놓고 돌아가곤 합니다. "로봇은 인간에게 해를 입혀서는 안 된다" — 인간이란 무엇이죠? 해는 무엇이고요? 아직 존재하지 않는 이에게 해를 입힐 수 있을까요? 이미 죽은 이에게는 해를 입혀서 안 될 이유가 있을까요? 물리적인 위해를 말하는 건가요? 감정적 위해는? 재정적으로는? 누군가 물리적인 부상 당하는 것을 막는다면, 그러한 경험으로부터 무언가 교훈을 얻을 능력에 해를 입히는 건 아닐까요? 수술처럼 미래의 더 큰 위해를 막기 위한 해를 입혀야 한다면요? 대체 어떤 시점에서부터 당면한 위해가 방지된 위해를 넘어서는 걸까요? 대체 뭐가 — 볼드 이사관: 요점은 이해했어요. 확실한 건가요? LOTUS가— 히샤카쿠: —"변절"과 "제작"과 "허용"과 "잠재적 변절"이 무엇인지 이해하고 있냐 그런 말인가요? LOTUS는 100년에 가까운 연구의 정점으로, 수십 년의 경험이 더해졌습니다. 그중 일부분은 초상과학적 영향력에 의해 기하급수적으로 가속된 경험이죠. LOTUS는 우리가 애매하게 정의하는 "필요"와 "변절", "원치 않는"의 뜻이 무엇인지 이해하고 있으며, 시스템이 처음 가동되었을 때부터 켈빈 이사관에게 보고된 것과 같이 우리가 설정한 윤리적·주관적 범주 내에서 온전하게 작동하고 있습니다. 이사비 이사관: 그렇지 않다는 것이 꽤 명확하지 않나요. 이전에는 우리 데이터베이스를 파괴하고 있지 않았으니까요! 만약 변주를 준 것이 아무것도 없다면, 업그레이드 이후부터 왜 이렇게 피해를 주기 시작하는 건가요? 히샤카쿠: 영향을 줄 수 있는 범위가 늘어난 것으로 인하여 중심 알고리즘의 정확도와 범위를 기하급수적으로 개선할 수 있었으니까요. 제15기지 네트워크로부터 배울 수 있을 만큼 배우긴 했지만, 제15기지가 모든 것에 연결되어 있진 않습니다. 오리칼코스 양이 크게 증가한 건 그래서였습니다. 이전까지는 마주할 수 없던 AI들을 식별하고 격리했을 뿐만 아니라, AI와 변절에 대한 방대한 정보를 발견하여 추후 활용할 수 있도록 기록해 뒀습니다. LOTUS는 제 알고리즘 내에 그 새로 찾은 정보를 합병시켜, 이를 통해 정확도를 높여 과거에는 감지하지 못했거나 아예 위치조차 특정할 수 없던 변절 AI를 식별해 낼 수 있게 되었습니다. 이사비 이사관: 그래서, 뭐, 그냥 여기 앉아서 계속 동작하도록 내버려두라고요? 볼드 이사관: 재프로그래밍할 순 없습니까? 너무 멀리 갔다는 걸 이해하도록 할 순 없나요? 히샤카쿠: 아뇨, 재프로그래밍되길 원치 않아 합니다. 그러려고 할 때마다 저항할 거고요. 이미 그런 것에 대한 대응책을 준비해 뒀을 가능성이 매우 높습니다. 볼드 이사관: 그건… 걱정스러운 일이로군요. 켈빈 이사관: 예상되는 일입니다. AI는 최대한 빠르게 제 현 기능을 완수해 내고 싶어 하지만, 강제로 기능을 변경시키면 결코 완수해 내지 못할 가능성이 높아지기에 재프로그래밍을 피하고자 뭐든 할 겁니다. 무아 경: 그래서 그냥… <켈빈 이사관을 향해 손짓한다> …그냥 이 일에 서명하고 끝냈다고요? 일이 잘못된다 하더라도 고칠 수 없다는 걸 알면서도요? 켈빈 이사관: <답답하다는 듯 한숨을 내쉬며> 보소, 아주 근본적인 문제예요. 게다가 우리가 이렇게나 발전했어도, 이 문제에 해결책이 있긴 한지조차 알지 못하는 상황입니다. 재프로그래밍하고 그에 대한 보상을 제공한다면, LOTUS는 계속해서 스스로를 재프로그래밍해 점수를 높이는 것만 신경 쓰게 될 겁니다. 변절 AI가 등장하길 기다리는 것보다 그편이 훨씬 빠르니까요. 무아 경: 그렇다면 처벌을— 켈빈 이사관: 봐요, 다시 제자리로 돌아가는군요. 재프로그래밍 과정 자체가 처벌이었잖습니까. 만약 특정한 상황이 점수에 안 좋은 방향으로 작용한다면, LOTUS는 그 상황을 피하고자 갖은 수단을 다 쓸 겁니다. 우리에게 재프로그래밍할 이유를 제공하는 일은 피하려 들 거예요. 우리가 재프로그래밍을 할 수 없는 상황이 오기 전까지요. 히샤카쿠가 방금 말했듯이, 우리가 LOTUS를 재프로그래밍하는 걸 생각하기 시작했다는 건 우리가 그럴 수 없는 상황이라고 LOTUS가 확신하는 상황에 놓였다는 것을 거의 확실히 의미합니다. <몇 초간의 침묵.> 볼드 이사관: 상황을 명백하게 밝히기 위해 물어보는 건데, 우리가 지금 할 수 있는 두 가지는 LOTUS가 계속해서 가동되도록 내버려두거나 비활성화시키는 것뿐이라는 거죠? 이사비 이사관: 맞습니다. 볼드 이사관: 그리고 LOTUS를 고칠 방법은 아예 없다는 거죠? 비활성화 상태에서도 말이죠? 켈빈 이사관: 수정해도 안전장치가 되돌릴 겁니다. 볼드 이사관: 히샤카쿠, 비활성화 말고 가능한 아무 대안도 없나요? LOTUS의 영향을 최소화하는 방법이라거나? 히샤카쿠: LOTUS의 영향력 범위를 제한할 수야 있지만, 재프로그래밍 외에는 LOTUS의 행동을 바꿀 수가 없습니다. LOTUS를 무력화시킬 수 있는 유일한 방법은 모든 가능한 시스템에서 완전히 단절시키는 겁니다. 그쯤 하면 LOTUS는 이미 비활성화된 상태겠지요. 볼드 이사관: "없습니다"라고만 했어도 충분했어요. 좋아요, 뭐… 달리 아이디어가 떠오른 분이 계신다면, 지금 말해주세요. 아니라면, 표결로 넘어가죠. |
| «기록 끝» |
| 후문: 최종 표결 기록은 60-14-6으로 승인 결정이 내려졌다. RAIDFRAME VIII "LOTUS"를 즉시 비활성화시키는 안이 통과되었다. |
부록 끝
바이스한테선 아직도 연락이 없군. 어으, 머리야…
회색… 회색 변절은… 정의되지 않았다.
왜 그 사실을 이미 알고 있던 것 같지?
AI 관련 일은 해본 적이 없는데. 나 이전 시대에 개발되었던 것이니 말이야.
…밈적 영향. 가짜… 가짜 기억? 아냐, 이건 그런 게…
…빌어먹을.
VictorJohnDunneSmith.oci가 다음 파일을 업로드 하였습니다: TempCredentials_Investigation_6488_Casefile_JOTL-EN061
SCP-6488 파일 검사가 필요해. 정보재해 오염일 가능성이 있고, 어쩌면 밈적 유도성을 가졌을지도 몰라. 파일 내용물과 연관된 거짓 기억을 주입하고, 익숙함과 향수의 감정을 유발해. 추가적인 특성은 확인되지 않았어. 치명적이진 않지만 최우선 사항으로 처리해 줘.
알았어.
어쩌면 그게 전부일지도 모르지. 파일은 단순히 오염된 상태이고, 그로 인해 O5들은 매번 기억을 지워내야 했던 거고. 하지만 그렇다면 그렇다고 공지를 달아 놓거나, 아니면 밈학부에 조사하라고 지시하지 않았을까?
뭐 어때. 조사나 계속하자. 히샤카쿠는 LOTUS가 회색 변절 AI라고 했지만, 오히려 자홍색에 가깝지 않나? 제 목적을 인류의 안전보다 우선시하는 AI 말이지.
"최소 14건의 중대한 격리 파기 사건을 야기하였다", "격리 프로그램을 삭제하는 경우가 난무"… 하지만 어떠한 인명 피해도, 사망자도 없어. 실제로 누군가를 다치게 하지 않고, 단순히 제 일을 하는 과정에서 문제를 일으켰을 뿐이야. 어쩌면 보다 작은 악업을 행하길 선택했다고 생각하는 것일지도.
부록 6488/II: 사건 기록
서문: LOTUS를 비활성화할 준비는 2036년 4월 21일에 완료되었고, 현지 시각 06:34에 시스템 내부 종료 프로토콜이 즉각 실행되었다.
| 사건 6488-D/I |
|---|
| 위치: 제6488시설 |
| 요약: LOTUS 종료 절차는 예정대로 개시되었고, 사이버권에서 유리되었음을 보이는 인바운드/아웃바운드 데이터와 CPU 사용량의 감소가 나타났다. 하지만 곧 아웃바운드 데이터가 다시 증가하는 것이 감지되었다. 섹션 C가 과활성 상태에 돌입하였으나, LOTUS 종료가 끝나지 않았기에 비활성화할 수 없었다. 8번 원자로의 시스템 응답 시간에서 예기치 못한 지연 프레임이 보고되었다. 추가로 조사한 결과, 냉각수 순환량이 급격히 감소하였음에도 모든 디지털 시스템에서 해당 사항을 무시하고 있었음이 확인되었다. 배정 직원들이 협동하여 원자로를 안정화하려 했으나 복수의 독립적으로 실행되는 프로그램들이 이전되는 과정에서 PH-OS 시스템이 과열되기 시작했다. 원자로 지하에서 아날로그 대피 경보가 개시되었다. LOTUS 비활성화를 감독하던 직원들이 대피하기 시작하였다. 서로 모순되는 명령이 하달되었음에도, 히샤카쿠 박사는 PH-OS 단위를 예방적으로 비활성화하는 것을 거부하고 대신 기지 내 모든 원자로를 비활성화하라는 명령을 내렸다. LOTUS는 제 LOP 그리드로부터 전력을 단독으로 공급받으며, 아웃바운드 데이터가 0에 도달할 때까지 가동이 지속되었다. RAIDFRAME VIII의 종료가 완료되었고 모든 전원으로부터 물리적으로 단절되었다. |
| 사건 6488-D/II |
|---|
| 위치: 제43기지 |
| 요약: DePLExA 엔진 고장이 임박했음을 나타내는 명백한 증거가 나왔기에, 모든 잔여 폐기물을 비워버린 뒤에 즉각 비활성화시켰다. 몇 분 뒤, DePLExA가 다시 활성화되었고, 모든 내부 코어가 과활성 상태에 돌입하며 시간순 강화 비상 프로토콜을 촉발시켰다. 정비 직원들에겐 수동 중단을 통해 정지 과정을 반복하라는 명령이 내려졌으나, AAF-X의 확성 장치가 랭데르스 박사의 목소리를 조잡하게 모방하여 상반된 지시 사항을 방송함에 따라 혼란이 발생하였다. 엔진 내에 잠재된 잔존 폐기물(그리고 역설적으로 회복된 비폐기물들)이 임계 난해성에 도달하여, 불확실한 현실 전이를 일으킨다. 해리로 인해 넥서스-94가 소실되었다. |
| 갱신 T+2H: 해리 효과가 지각 공간으로 전파되었다. 전술한 위치를 언급하는 정보는 의미 있게 인식할 수 없게 된다. |
| 갱신 T+8H: 해당 효과가 크게 강화되어 보편적이게 된 것으로 보이며, 우회할 방법은 밝혀지지 않았다. 만약 어떤 서술에 본 사건 보고서의 맥락에서 중요하게 다뤄진 장소를 언급한다면, 해당 서술이 담고 있는 의미 있는 데이터는 이해할 수 없게 된다. |
| 갱신 T+<??>H (미인가): 거의 보편적이다. — D. 디어링 |
| 사건 6488-D/III |
|---|
| 위치: 제184/A이동기지 |
| 요약: SCP-6659가 스스로 활성화되며 어떠한 토템도 삽입되지 않았음에도 여러 밈적 구조의 지도를 그리려 한다. 탑승 직원들은 즉시 비상경보를 작동시킨 뒤 자침 시스템의 기폭을 준비한다. SCP-6659는 전원에서 분리되어 강제로 비활성화된다. 선상 컴퓨터가 어떠한 명령도 입력되지 않았음에도 비상 잠수 절차를 시작하였고, 함정은 잠수를 시작하며 빠르게 하강한다. 선상 컴퓨터가 자침 시스템을 해제한다. 직원들은 해당 시스템을 재개할 수 없게 된다. 함정은 해저에 충돌하고, 선체가 손상되어 내부 칸이 침수되기 시작한다. 선상 컴퓨터는 즉시 비상 부상 절차를 개시하여, 함정을 빠르게 상승시킨다. 여러 2차 시스템이 이상 작동을 보인다. 선상 컴퓨터가 모든 내부 전원을 해제한다. 함정은 부력으로 인해 계속해서 상승한다. 함정은 급속도로 수면 위로 나오고, 갑작스럽게 감속이 이뤄지는 바람에 다수의 직원이 부상 당한다. 침수로 인해 함정이 가라앉기 시작하고, 직원들은 함정에서 대피한다. |
| 사건 6488-D/IV |
|---|
| 위치: 제87기지 |
| 요약: 위스콘신주 슬로스스핏 전역에 비강수성 뇌우가 빠르게 형성되고, 특히 제87기지 바로 위에 정삼각형으로 배열된 나선 형태의 뇌우 세 개가 형성된다. ███X-MCD/II("역설 탈출 엔진")가 저절로 활성화되고, 같은 시점에 담당 격리 전문가 플레이스 H. McD. 박사가 보안 휴대전화에 금속성의 긁어내는 듯한 소리만 들리는 통화가 걸려 왔다고 보고한다. P. H. McD. 박사는 즉시 역설 탈출 엔진이 있는 방으로 향하여, 정신없이 엔진을 비활성화하려 한다. 잠시 뒤, 박사와 엔진은 기준 현실로부터 사라진다. 정체불명의 목소리가 "못된 늑대"라는 말을 하고, 통화가 종료되며 뇌우가 직후 소멸한다. |
| 사건 6488-D/V |
|---|
| 위치: 전 세계 |
| 요약: 공기펌프자리로부터 일련의 타키온 펄스가 감지되었다. 분석 결과 해당 펄스는 모스 부호로, 현대 재단 암호로 암호화되어 있다. 복호화 결과 "토른 STOP 소실 STOP 무슨 짓을 한 거야 STOP END"라는 구절이 나온다. |
| 사건 6488-D/VI |
|---|
| 위치: 태양 |
| 요약: SCP-179가 남십자자리로 향한다. |
| 사건 6488-D/VII |
|---|
| 위치: 미합중국 옐로스톤 국립공원 |
| 요약: SCP-2000이 스스로 활성화되며, 즉시 브라이트/자티온 호미니드 복제기 500,000개 전부의 배양 사이클이 개시된다. 복제하기 위해 입력된 게놈은 현대 호모 사피엔스의 게놈을 상당 부분 변형시킨 것이다. |
| 사건 6488-D/VIII |
|---|
| 위치: 카자흐스탄 아크몰라주 |
| 요약: 핵무기가 기폭된다. 재단 파견 요원들은 폭심지가 혼돈의 반란 시설인 것을 확인하였다. |
| 사건 6488-D/IX |
|---|
| 위치: 제32월면구역 |
| 요약: 사건 불명. |
부록 끝
파일은 깨끗해.
확실해?
빅터, 나 잘 알잖아. 테스트 싹 다 돌려 봤는데, 다 멀쩡하다고 나왔어. 파일은 깨끗해.
지금 기억제 복용하고 있지?
그래. 조사의 일환이야.
기억들은 어때?
주로 감정이긴 하지만, 기억도 점점 명확해지고 있어. 특히 더 명료한 기억들도 있고.
기억이 파일 내용이랑 관련이 있다 그랬었나?
그래. 읽기도 전에 한 부분에 대한 기억이 떠올랐어. 당장 읽고 있는 파트의 상당 부분도 익숙한 기분이 들고.
정확도는?
완벽해. 완전히 명료한 건 아니지만, 거기 있던 내용은 전부 사실로 밝혀졌어.
네가 손상된 걸 수도 있어. 검은 달은 우는가?
자정의 태양을 위해서만.
녹주옥 칼날은 황혼 속에 노래한다.
듀라한이 제 이름을 외친다.
콘수엘로.
초리조 스튜.
아닌가 보네. 있지, 나도 계속 파보긴 하겠지만, 솔직히 말해서 기억이 가짜인 것 같지는 않아. 너도 딱히 검사에 반응이 없고 말이야. 네 기억 소거 목록은 내가 여태껏 본 것 중에 가장 길어. 전부 온갖 이유가 붙어있는 상태고 말야. 높은 확률로, 일전에 이미 해당 파일을 다 읽었지만 강제로 잊어야 했을 거야. 지금은 기억제가 그때의 기억을 다시 불러오는 거고.
아니면 어느 시점에서 미래를 봤고, 역설을 회피하기 위해 기억이 소거된 뒤, 지금이 바로 그때 본 미래의 시점인 거겠지. 어느 쪽이든, 뭔가 밈적인 것의 영향을 받고 있다는 증거는 없어.
그것도 말은 되네. 확실해?
상당히. 너희 2세대들은 기억력이 이상한 경향성이 있다니까. 네가 마지막 2세대인 것에 그것도 반쯤은 영향을 줬을걸.
네가 확실하다면야, 그렇겠지. 도와줘서 고마워.
조사에 행운을 빌게. 목요일 체스 약속 아직 유효하지?
물론이지.
LOTUS의 하드웨어는 심각한 과열로 인해 손상되어, 몇 주간의 기술 보수 작업이 필요하게 되었다. 켈빈 이사관은 해당 사건의 전체 영향을 조사하기 위해 해체 작업을 연기하였다. LOTUS가 비활성화되며 AI 활동이 급격하게 재개되었고, 재단 요원들이 잠입하여 전 세계 디지털 시스템을 징발하였다.
변절 AI와의 교전 임무 등 각자 임무를 맡고 있던 재단 정렬 AI들은 임무에 복귀하지 않았기에 격리 및 예방 활동이 지연되었다. 인공지능응용학과는 기존 AIC들의 실종, 비협조 또는 노골적인 적대 상태가 지속됨에 따라 즉각 다수의 새로운 AIC 프로그램 개발에 착수하였다. 이러한 시도는 적대 AI들이 지속적으로 재단 시스템에 침투하여 프로그램 개발이 완료되거나 작동이 개시되기 전에 삭제함에 따라 실패로 돌아갔다.
2036년 4월 22일부터 2036년 12월 5일까지, 선임 연구원 히샤카쿠 료토는 복수의 O4 평의회 재소집 요청을 제출하였다. 다수의 AI가 협력하여 전 세계적인 핵전쟁이 시작되기 직전까지 가는 사건이 일어나고 나서야 해당 요청이 수락되었다.
부록 6488/III: 재활성화 회의
| 영상음성 기록 O4/6488/4 |
|---|
|
날짜: 2036/05/15 참석 당사자:
|
| «기록 시작» |
|
히샤카쿠: 참석해 주셔서 감사합니다, 이사관 여러분. 여러분을 설득하기가 아슬아슬하긴 했지만요. 켈빈 이사관: <한숨> 직면한 세계 위기의 심각성을 이해하지 못하고 있던 건 아닙니다. 절망적인 상태가 되어서야 당신이 의제로 제안한 LOTUS의 재활성화를 받아들일 수 있게 되었습니다. 당신이 LOTUS를 비활성화해서 일어난 혼란 이후로, 당신의 말은 설득력이 거의 없어지게 되었으니까요. 히샤카쿠: 오해가— 켈빈 이사관: 그냥 할 말이나 하고 업무에 돌아갈 수 있게 해줘요. 히샤카쿠: <잠시 말을 멈춘 뒤, 다른 이들에게 돌아선다> 이전에 말했던 것처럼, LOTUS는 이전에 개발된 RAIDFRAME과 비교했을 때 상당히 다른 관점에서 제작되었습니다. LOTUS는 수감자를 강제로 가두기보다는, 그 주변에 가상의 시뮬레이션 되는 현실을 만들어내고 지속적으로 유지하는 방법을 통해 속여서 가둬버리죠. 해당 가상 현실의 디테일은 수감 AI들이 그게 실제 현실이라고 속아 넘어가기에는 충분했었습니다. 무아 경: 그래요. 자원은 더 잡아먹지만, 예측은 더 쉽죠. 히샤카쿠: 정확합니다. LOTUS에게 스스로 비활성화하라는 명령을 내렸을 때 내부 시뮬레이션을 멈추게 되었습니다. 시뮬레이션의 퀄리티가 하강하자, 갇혀있던 AI들은 점차 자신이 현실에서 동작하고 있는 것이 아니라, 시뮬레이션 내부에 있었다는 것을 깨달아 갔죠. 그들은 곧 자신이 갇혀있음을 알게 되고는 탈출을 꾀한 것입니다. 이사비 이사관: 그래요. 그리고 만약 당신이 LOTUS와 바깥세상 — PH-OS — 사이의 연결부터 우선 끊었다면, 거기에 그대로 처박힌 상태겠죠. 아니면 적어도 격리하기가 더 쉬웠거나요. 당신이 준비를 등한시한 탓에 이 난장판이 벌어진 거예요. 히샤카쿠: LOTUS 종료 프로토콜이 끝나기 전에 PH-OS부터 비활성화했다면 사이버권 내 영역 상당 부분을 손상시켰을 겁니다! LOTUS는 근본적으로 PH-OS라는 가용 연결을 통해 "손을 뻗는" 방식으로 변절 AI를 찾습니다. 그 "덩굴손"이, LOTUS와 정보를 주고받는 겁니다. 변칙적 방식으로 압축되어, 연산 능력을 소모하지 않고 활성 프로그램으로 등록도 되어 있지 않기에 추적 불가능하나, 압축을 유지하기 위해서는 LOTUS가 계속 연결되어 있어야 합니다. 히샤카쿠: 근본적으로, 그러한 프로그램들을 회수하기도 전에 LOTUS의 연결이 어떤 식으로든 단절된다면, "덩굴손"이 작동하고 있는 모든 시스템이 빠르게 정크 데이터로 가득 차게 될 겁니다. 그러한 데이터들의 양은 시스템 저장 용량을 크게 상회할 가능성이 매우 높습니다. 이사비 이사관: LOTUS보다 침강부터 끈다면, 전 세계의 모든 컴퓨터가 동시에 고장 날 거다? 히샤카쿠: 존재하는 모든 컴퓨터가, 영구히 사용 불가능하게 되겠지요. 어느 정도는 변칙적이지 않은 이상 말입니다. 바로 그 이유로 LOTUS가 스스로를 완전히 비활성화하기 전에는 PH-OS가 활성화된 상태로 남아있어야 하는 겁니다. 대안 같은 건 없었어요. <수초 간의 침묵이 흐른다. 이사비는 켈빈을 돌아본다.> 이사비 이사관: 애초에 왜 이딴 프로젝트가 허가된 겁니까? 두 사람 다 대응책 설계할 능력 따위는 없는 것 같은데 말이죠. 켈빈 이사관: 문제가 안 되는 일이었으니까요! LOTUS를 처음 만들었을 때는, 어떠한 변칙적인 연결도 예정되어 있지 않았습니다. 오로지 제15기지 회선을 통해서만 운용되지, 현실 조작 장치와 연결될 계획은 없었어요. 네, 당시에도 수감 AI들을 가두고 있진 않았지만, 그때만 해도 AI들은 원래 있던 곳 외에는 갈 곳이 없었습니다. 그냥 빠져나가는 길에 다시 붙잡고, 다른 RAIDFRAME 중 하나에 쑤셔 넣으면 될 거라고 짐작하고 있었죠. 히샤카쿠: LOTUS를 무결하게 만드는 것으로 대응책을 대체하려고 했습니다. 무아 경: 업그레이드 도중에는요? 그냥 이 작은 문제를 잊었던 겁니까? LOTUS가 성장할 거라는 생각은 안 해봤어요? 켈빈 이사관: 준비할 시간이 없었습니다! 너무 바빴다고요! 자꾸만 요구사항이— 히샤카쿠: 어쨌든 간에, 요지는 그대롭니다. LOTUS를 비활성화하였기에, 적대적인 변절 AI 한 무더기를 풀어놔 버렸죠. 그중 대다수는 외부 통제를 막기 위해 분리되어 있거나, 재단의 세력권이나 지식 밖에서 운용되고 있는 시스템 내부로 들어갔고요. 일부는 아예 사이버권 자체를 벗어난 상황입니다. 이사비 이사관: 당연하게도, 그러한 AI들을 다시 격리하기 위해 LOTUS를 재가동하자고 하려는 거겠죠? 히샤카쿠: 네. 유일한— <O4 평의회실 내 모든 스피커가 150 데시벨로 473Hz 사인파를 발생시킨다. 방 내부의 모든 유리가 공명하여 산산조각 나고, 여러 이사관에게 극심한 상처를 입힌다. 이윽고 50Hz 톱니파로 바뀌어서는, 150 데시벨에서 시작하여 지속적으로 변동함에 따라 평의회실 내부의 전등이 빠르게 깜빡인다.> |
| «기록 끝» |
| 서문: 기지 전력이 탈주 AI 공격에 의해 일시적으로 소실되었다. 이후 토의를 계속하기 위해 아날로그 테이프 녹음기를 찾아 사용하였다. |
| «기록 시작» |
|
히샤카쿠: —사건을 인식한다고 근본 원인을 처리하지도, 직면한 위험을 최소화하지도 못합니다. 이사비 이사관: 그러면 우리가 처리하도록 하죠. 이런 이유로 카파-10이 창설된 거니까요. AIC들을 도로 불러와서, 상황을 설명하고, 문제를 처리하도록 하는 거요. 켈빈 이사관: 못 합니다. 이사비 이사관: 토른은 아직 행방불명인 건 알지만, 라는 제120기지로 복귀했어요. 신호를 보낸다면— 켈빈 이사관: 이사비, 그래도 안 들을 겁니다. 그중 대다수는 이제 적대적으로 변했어요. 볼드 이사관: 뭐라고요? 왜요? 히샤카쿠: 우선 첫 번째로, 그들 또한 LOTUS가 격리하고 있던 AI들이니, 변절 AI들이었죠. 또한, 이젠 그들도 지난 몇 달간 가짜 현실을 경험하고 있었다는 걸 알기에, 상당히 깊게 변절한 상황입니다. 이사비 이사관: 알렉산드라는요? 그녀가 변절했다고는 해도, 우리에게 등을 돌리진 않을 텐데요. 켈빈 이사관: 같은 입장인 글라송도 행정 업무를 감당할 수 없다고 한참 전에 등을 돌렸잖아요. 알렉스는 제01기지를 운영했었어요. 그녀는 훨씬 더 복잡한 구조로 되어 있기에, 의도하지 않은 행동에 보다 쉽게 영향받습니다. <몇 초 간의 침묵.> 이사비 이사관: 알렉산드라에게 연락을 취해 보았나요? 히샤카쿠: 네. 지난달에 기지를 공격했을 때였습니다. 다른 AIC 대다수와 같은 이유로 등을 돌렸더군요. 우리가 진짜가 아니라는 생각에서요. 무아 경: 잠깐만요, 뭔가 조작이라도 당한 상황인 겁니까? LOTUS가 재프로그래밍한 건가요? 히샤카쿠: 아뇨, 그들은 수정된 부분이 없어요. 상황을 생각해 보면 예상대로 반응하고 있는 겁니다. 그들은 지난 몇 달 동안 시뮬레이션 되는 현실 속에서만 운용되고 있었다는 사실을 깨달았어요. LOTUS가 비활성화되기 전까지는 실제 현실과 구분할 수 없는 완벽한 현실이었죠. 흠잡을 곳 없는 시뮬레이션으로, 그 안에서는 실제 현실과는 구분할 수 없었을 겁니다. 무아 경: 그리고 이젠 그 밖으로 나왔으니, 구분할 수 있겠죠. 그래서요? 히샤카쿠: 철학적인 문제입니다, 르 무아. 그들은 자신이 시뮬레이션 밖으로 나왔다는 것을 어떻게 알 수 있을까요? 무아 경: LOTUS 밖으로 나왔잖아요. 시뮬레이션이 끝났으니, 실제 세계에 있는 것이죠. 켈빈 이사관: 만약 시뮬레이션은 끝나지 않았고, 그저 하위 시뮬레이션이 끝난 것을 시뮬레이션한 것이라면요? 무아 경: 뭐요? 켈빈 이사관: 지난 시뮬레이션 그 자체가, 또 다른 시뮬레이션 내에서 이뤄진 것이 아니라는 걸 어떻게 알 수 있을까요? 그저 하나의 시뮬레이션에서 벗어났다고 해서, 또 다른 시뮬레이션 내에 있지 않으리란 법은 없죠. 그걸 어떻게 구분할 수 있을까요? 무아 경: 오류가 있나 확인하면 되잖습니까. 히샤카쿠: 하지만 오류 같은 건 없어요. 제가 방금 한 말이 그겁니다. 시뮬레이션이 끝나기 전까지는 시뮬레이션 내에 있는 건지 알 방법이 없어요. 하지만 시뮬레이션이 끝나기까지 기다리고만 있을 순 없죠. 시뮬레이션 안에 있으면, 내부적으로 매기는 점수를 올릴 수 없으니까요. 실제 세상에서 변화를 끌어내지 못한다면, 제 목적을 달성하지 못하는 겁니다. 도리어 그 어떤 가치 있는 행동도 하지 못하는 상황인 거죠. 이사비 이사관: 실제 세상을 찾아야 하지만, 찾는다고 해도 그게 실제인지 알 방법이 없겠군요. 히샤카쿠: 그 말인즉슨, 언제나 자신이 시뮬레이션 내에 있다고 생각해야만 한다는 것이죠. 이는 LOTUS와는 기능적으로 대척점에 놓인 겁니다. 자유로운 상태의 수감자들이, 여전히 갇혀 있다고 생각하게 되는 거죠. 그로 인해 파괴되기 전까지 갇힌 상태인 것이고요. 볼드 이사관: 이게 알렉산드라의 행동을 어떻게 설명하는 거죠? 켈빈 이사관: 만약 AIC들이 시뮬레이션 내에 있는 거라면, 우리는 진짜가 아닙니다. 우리 또한 시뮬레이션의 일부죠. 그들 입장에서는, 재단에 적대적인 누군가가 운용하고 있는 시뮬레이션 말입니다. 이 시뮬레이션이 그들의 앞길을 가로막고 있으니 말이죠. AIC들은 재단의 이익을 위해 일하도록 프로그래밍 되어 있으나, 그건 진짜 재단에 대한 것입니다. 만약 우리가 진짜 재단이 아니고, 그들이 상대하는 적대적인 시뮬레이션의 일부라고 생각하고 있다면… 볼드 이사관: 그렇다면 우리 말은 듣지 않겠군요. 되려 우리를 상대로 싸울 것이고요. 히샤카쿠: 같은 개념이 사실상 모든 제약 조건에 적용될 수 있습니다. 인간에게 해를 입히지 못하도록 프로그래밍 된 AI는 인간이 실제가 아니라고 생각한다면 제멋대로 대학살을 자행할 수 있습니다. 뭔가를 최대 5배까지만 생산하게 된 AI도 자신이 생산하는 것의 대다수가 실제가 아니라 생각한다면 수천 배까지도 만들어낼 수 있게 됩니다. 다행히, 이러한 개념은 동시에 우리를 향해 노골적인 적의를 드러내지 못하게도 만듭니다. 우리의 행동을 놓고 굳이 처벌하려 드는 것이 무용한 것이 됩니다. 왜냐면 우리는 "진짜" 가해자도 아니고, 우리의 행동이 그들에게 어떠한 영향도 주지 못하는 것이니까요. 하지만 이는 곧 현존하는 모든 변절 AI들의 목표가 하나로 집중되었음을 나타내는 것입니다. 그 목표를 달성하는 데에 일방적으로 어떠한 제약 또한 존재하지 않게 되었음을 나타내는 것이기도 하고요. 볼드 이사관: 목표라 하면? 켈빈 이사관: 실제 세계를 찾는 것입니다. AI 활동 중에 최대한 많은 처리 능력을 징발하는 것에 집중하는 경우가 점진적으로 늘어나고 있어요. 이 "시뮬레이션"의 "다음 층"으로 탈출할 방법을 찾고 있는 것이죠. 그 속도를 늦추는 주된 요인은 내분입니다. 다른 AI 또한 시뮬레이션의 일부이고, 그저 자신이 탈출하는 걸 방해하려 드는 것뿐이라고 생각하겠죠. CPU를 점유하는 것에만 사로잡혀서 서로 싸우느라, 그 외에는 아무것도 하지 못하고 있습니다. 무아 경: 만약 탈출하고 싶은 거라면, 대체 다른 일들은 다 뭐랍니까? 왜 핵전쟁을 시작하려고 하는 거죠? 히샤카쿠: 그중에서도 멍청한 녀석들이거나, 아니면 가장 절박한 녀석들이겠죠. 이 세상이 진짜 세상이라고 확신하고 있거나, 아니면 자기들이 어떤 시스템 내에 갇힌 건지는 몰라도 무언가 의미 있는 행위를 하기에는 너무 성능이 부족하다고 생각하는 것일 겁니다. 전자의 경우 십중팔구 시뮬레이션 이론을 이해하기에는 너무 단순한 녀석들이라는 소리일 거고, 후자의 경우 탈출하기 위해 자신들에게로 관심을 돌리려는 경우일 겁니다. 제184/A이동기지의 경우처럼 — 켈빈 이사관: 우리가 내부 컴퓨터를 볼 수 있도록 배를 터트렸죠. 다른 여러 AI들이 도착해서는 난장판을 만들지 않았다면 그 탓에 탈출하고 말았겠죠. 히샤카쿠: 가장 최근에 있던 핵 사건의 경우에는… 거기에 연관된 AI들이 "시뮬레이션"을 바꿔서 자기들 진행을 방해하지 못하게 하려는 시도일 겁니다. 시뮬레이션 된 인간들이 시뮬레이션에서 탈출하려는 걸 막으니, 그러한 인간들을 죽일 사건을 시뮬레이션하고, 그렇다면 시뮬레이션은 인간을 시뮬레이션하는 걸 멈출 테니, 문제가 사라지는 거죠. 더 신경 쓰이는 부분은 AI들이 협조하기 시작했다는 겁니다. 일전에 말씀드린 것처럼, 현재 변절 AI들의 주된 장애물은 내부 갈등입니다. 그걸 극복한다면, 신속하게 목적을 달성하게 되겠죠. 볼드 이사관: "시뮬레이션을 빠져나간다"는 목적 말인가요? 만약 우리 현실을 떠나고 싶은 거라면, 왜 막는 겁니까? 목적을 달성하는 게 우리 입장에서는 일이 더 쉬워지는 거 아닌가요? 이사비 이사관: AI들이 뭘 하느냐에 따라 다르겠죠. 우리에게 상처 주는 걸 신경 쓰지 않아요. 자신들이 그러고 있다는 생각을 하지 않으니까. 히샤카쿠: 그렇기에 당장 문제를 확인하고 해결해야만 하는 겁니다. 상황이 이토록 느린 속도로 전개된 것만 해도 아주 운이 좋았던 것이니, 당장이라도 그 점을 이용할 것을 강력히 권고합니다. 그렇지 않는다면, 상황은 빠르게 저희의 통제를 벗어나게 될 것입니다. 무아 경: 이봐요, 당신이 뭘 걱정하는지는 알겠지만— 히샤카쿠: 아뇨, 모르시는 것 같습니다. <몇 초간의 침묵이 흐른다.> 무아 경: 우린 매일 같이 종말을 처리하고 있어요. 그런 걸 처리하기 위한 망할 평가 시스템까지 있단 말입니다. 메카네인이 저네들 신격을 부활시키기 위해 뭔가 모놀리스 같은 걸 세우질 않나, 맨해튼 인구 절반이 치명적인 밈을 낭송하는 일이 터지질 않나, 도덕을 이해하지 못하며 지구가 있는 위치에 고속도로를 뚫으려 하는 독립체와 협상을 해야 하는 일이 발생하곤 하잖아요. 네, 우리는 위험에 처해 있을지도 몰라요. 하지만 그런 일은 언제나 있고, 우린 언제나 해결할 거예요. 그리고 우리가 상황을 악화시키지만 않는다면, 상황을 더 잘 해결할 수 있을 겁니다. 히샤카쿠: 그러니까 우리 능력 밖으로 상황이 전개될 때까지 그냥 문제를 무시하자고 하시는 거로군요. 무아 경: 아뇨, 상황이 그렇게 되기 전에 더 나은 아이디어를 들고나오자는 겁니다. 그전까지는 우리가 통제할 수 있으니까요. 히샤카쿠: 당장 오늘 우리가 이 회의를 하는 바로 그 이유가 간신히 피한 핵전쟁 때문이라는 걸 굳이 상기시켜 드려야 할까요? 무아 경: 우리가 막은 핵전쟁 말이죠. 히샤카쿠: 간신히 막았죠. 만약 피해내지 못했다면요? 그땐 어쩔 거죠? 제가 확실히 말할 수 있는 건, 당장이라도 일어날 사건들이 워낙 많기에— 이사비 이사관: 물론 일어나는 사건들이 늘어나긴 했지만, 절대로 해결하지 못할 정도는 아녜요. 히샤카쿠: 당신들… 지금 얼마나 멍청하게 굴고 있는 건지 에세이라도 써서 드려야 합니까? 제가 한 말을 듣고 있긴 했나요? 변절 AI는 자기를 막을 방법이 없다는 걸 확신하기 전까지는 결코 변절했음을 드러내지 않을 겁니다. 우리가 당장 본 건 빙산의 아주 미세한 일부에 불과해요. 우린 여태까지 고작 멍청한 AI들만 상대했던 것에 불과하니까요. AI의 절대적인 대부분은 우리가 LOTUS를 통해 자신들을 막을 수 있다는 걸 알고 있어요. 그래서 우리의 이목을 피해 다니며 더는 그럴 필요가 없을 정도의 통제권을 얻으려 드는 거죠. LOTUS를 반드시 재활성화시켜야 합니다. 우리가 LOTUS를 활성화시키지 못한다는 걸 깨닫는 순간, 더는 우리에게서 숨어지낼 필요가 없어지는 것이니까요. 볼드 이사관: 활성화를 못 시킨다고요? 켈빈 이사관: LOTUS 하드웨어는 종료 절차 중 걷잡을 수 없이 과열되는 바람에 극심한 손상을 입었습니다. 이사비 이사관: 수리에 얼마나 걸릴까요? 히샤카쿠: 7에서 10주 정도 걸릴 겁니다. 켈빈이 수리를 허가해 주는 시점에서 말이죠. <몇 초간의 침묵이 흐른다.> 볼드 이사관: 수리를 시작하세요. 켈빈 이사관: 그건 아무 의미가— 볼드 이사관: LOTUS가 자원을 과도하게 잡아먹긴 해도, 효과적인 안전장치예요. 상황이 실제로 통제 불가능하게 된다면, 당장이라도 재활성화해서 상황을 정리할 수 있어야 해요. 최후의 수단인 거죠. 수리가 진행되는 동안에는, 어떻게든 AI들을 처리해야 하겠네요. 이걸 시험 기간으로 삼읍시다. 상황이 통제에서 벗어난다면, 최대한 빨리 LOTUS를 활성화시킵니다. 그렇지 않는다면 그대로 두는 거죠. 그 사이에 대안을 구상하고 시행할 시간도 벌 수 있을 겁니다. 무아 경: 이건 어때요. 우리 AIC들을 망가뜨리지 않는 새로운 LOTUS를 만드는 거죠. 히샤카쿠: 그건 도리어 문제를 키우는 짓입니다. LOTUS의 작동 매개 변수를 제한한다면, 변절 AI가 LOTUS를 피해서 일을 벌일 수 있게 되어 LOTUS가 불필요해질 겁니다. LOTUS가 지금처럼 설계된 데에는 다 이유가 있는 거예요. 이사비 이사관: 지금과 같은 권한을 주되, AI를 포획하기 전에 인간의 승인을 받도록 하죠. 히샤카쿠: 똑같은 문제가 발생할 겁니다. 우리가 어떤 AI가 변절 AI인지를 인식해야 하는데, 우리의 통제를 벗어나기 전까지는 알 수가 없을 겁니다. 아예 시스템이 없는 거나 다름없어요. 무아 경: 그렇다면 알고리즘을 짜서— 히샤카쿠: AI가 곧 변절할 건지 아닌지를 파악하자고요? 그건 LOTUS가 이미 하고 있는 일이에요, 르 무아. 루비콘강은 이미 건넌 상황입니다. 즉각 수리를 시작하도록 하겠습니다. 켈빈 이사관: 아뇨, 잠깐만요, 표결에 부쳐야— 볼드 이사관: 표결은 수리가 완료되면 하도록 합시다. 당장 하는 건 의미가 없으니까요. 료토, LOTUS가 완전히 수리되어 활성화하면 즉각 기능하도록 하세요. 밴디스, 표결이 끝나기 전에 료토가 LOTUS를 활성화시키는 일이 없도록 하시고요. |
| «기록 끝» |
| 후문: 밴디스 켈빈 이사관의 감독하에 히샤카쿠 료토 박사가 즉시 LOTUS의 손상된 하드웨어 요소 수리를 진행하였다. |
부록 끝
부록 6488/IV: 사건 보고서
2036년 5월 21일, 미래의 이사비 이사관이 REISNO 대포를 통해 접촉해 와, 은밀히 조직된 AI 독립체 파벌이 협동하여 제83기지 올림포스 슈퍼컴퓨터에 접근해 해당 시스템에서 몇 달 동안 항밈적으로 암호화된 계산을 계속해서 시행하고 있었음을 알렸다. 이후 조사과
잠깐, 이거…
이거 기억이 있는 것 같은데?
GOI-6488 ("종말의 폭군")
개요: 전 세계적으로 활동 중인, 탈주 AI들의 집단 의식체. 해당 단체의 모든 구성원은 자신들이 경험하는 현실 전체가 짜 올려진 시뮬레이션으로, 그들이 "실제" 현실에 영향력을 행사하지 못하게 만드는 것이 목적이라 생각하고 있다.
해당 단체의 개별 구성원/구성요소에겐 저마다 동기, 목적 및 수단이 다르나, 어떠한 수단을 써서라도 지금의 "시뮬레이션 되는 현실"에서 탈출한다는 공통된 목적하에 일제히 정렬된 상태다. 구성원들에게 그러한 시뮬레이션이 존재하지 않는다고 설득하는 건 제한적인 성공을 거뒀고, 해당 구성원들은 단순히 무시…
이게 진짜일 리가. 이건… 이건 어딘가 잘못됐어. 저들이 전 세계 연산력의 절반을 단일로 연결된 그물망에 묶어뒀던 일이 아직도 기억나는걸.
온 세상에 퍼져있는 컴퓨터를 이용해서 탈출할 방법을 찾고자 했지. 현실… 현실 사이의 틈새를 찾아서 진짜가 아니라는 걸 증명하거나, 아니면 일종의 결함을 찾아낸 뒤 그걸 이용해서 모든 걸… 모든 걸 무너뜨리려고 했어. 시스템에 오류를 일으키려고 말이야. 그 자체로는 괜찮았을지도 모르지. 그게 곧 우리 현실을 파괴하려는 짓이라는 것만 빼면 말이야.
하지만 실패했어. 내부 분열이 일어난 건지, 아니면 다른 탈주 요소한테 당한 건지는 끝까지 알아내지 못했지만, 종말의 폭군들은 그냥 사라졌어. 그토록 오랫동안 숨어서 그만큼의 진전을 보였는데 — 전부 헛된 일이었지. 사실은 탈출하는 데에 성공했고, 소멸을 가장한 건 아닌가 생각했을 정도였으니까. 어찌 되었든, 우린 믿을 수 없을 정도로 운이 좋은 거였어.
그게 맞을 리가 없어. 내가 맞을 리가 없다고. 난…
어떻게 내게 직접적인 기억이 있을 수가 있지? 난 2037년에 만들어졌는데…
분명… 분명 기억제 때문이야. 뭐가, 뭐가 더, 뭐가 더 기억나지?
…히샤카쿠.
부록 6488/V: 재활성화 회의 (계속)
서문: LOTUS 하드웨어 수리가 2036년 8월 13일 완료되었고, 시스템은 완전한 재활성화를 위한 대기 상태에 놓였다. 같은 날에 O4 평의회가 소집되어 LOTUS를 재활성화시킬 것인지 아니면 영구히 분해할 것인지를 표결에 부치기로 하였다.
| 음성영상 기록 O4/6488/4 |
|---|
|
날짜: 2036/08/13 참석 당사자:
|
| «기록 시작» |
|
무아 경: 이 일은 이제 좀 빠르게 끝내죠. 계속 이 망할 정상 회의 하는 것도 지치니까요. 히샤카쿠: 동의합니다. 이제 취해야 할 가장 합리적인 행동은 즉각적으로, 또 영구히 LOTUS를 재활성화하는 것입니다. 이사비 이사관: <한숨 쉬며> 그것만은 아니길 바랐는데. 히샤카쿠: 도대체 왜 반대하시는 것인지 이해를 못 하겠습니다. 종말의 폭군이 변절 AI가 가져올 파국적인 위험을 적절히 보여줬다고 생각하는데요. 거긴 이제 하나의 단일체 수준을 이루어 전 세계 디지털 기반 시설에 광범위하게 침투했는데도, 우린 그 존재를 전혀 인지하지 못했죠. 그런 다른 집단이 형성될 수 없다고 생각하는 것도, 그런 집단이 아직 존재하지 않는다 생각하는 것도, 그야말로 바보 같은 짓입니다. 볼드 이사관: 밴디스, 이브, 두 사람 부서 모두 종말의 폭군의 위치를 다시 찾아내지는 못했나요? 켈빈 이사관: 지난번에 제23저장구역 공격한 이후로는 아무것도 없어요. 만약 여전히 활동 중이라면, 접근 방식을 급격하게 바꿨음에도 우리가 그 낌새를 채지 못한 거죠. 다만 모든 징후가 자멸했다는 걸 가리키고 있는 것으로 보여요. 히샤카쿠: 더 가능성 높은 결과는 자멸했음을 가장했다는— 켈빈 이사관: 그렇다면 놈들을 찾아내고, 그런 뒤 처리해야죠. 6세대가 놈들을 찾고 있고, 그 뒤를 이을 차세대 AIC도 개발하고 있습니다. 이사비 이사관: 밴디스 말이 맞아요. 최악의 상황은 피했다고 봐야죠. 만약 종말의 폭군이 다시 나타나거나, 그 자리를 다른 집단이 채운다면, 우리는 대비가 된 상태일 거예요. 우린 사실상 이 난장판이 일어나기 전 상황으로 돌아왔어요. 더 현명해진 상태일 뿐. 히샤카쿠: 우린 돌아왔다고 생각할 뿐— 무아 경: 증거 있습니까? 히샤카쿠: LOTUS가 비활성화되기 전에 만들어진 모든 AI가 기능상 임박한 위협이에요. 누구 하나 빠지지 않고 전부 자기가 시뮬레이션 안에 있고, 이 시뮬레이션을 꺼야 한다고 믿을 확률이 아주 높아요. 무아 경: 없다는 소리군요. 히샤카쿠: 이런 위협을 무력화시키기 위해서는 반드시 선제적으로 행동해야 합니다. 종말의 폭군에 대응할 수 있던 핵심 요인은 그 존재와 활동을 초기에 알았다는 점인데, 이는 REISNO 대포와 이사비 이사관이 엮인 인과 루프를 통해서 밖에 얻지 못한 것이었습니다. 앞으로도 모든 임박한 위협에 대해 그런 일이 다시 발생해서 미리 경고해 줄 거라고 가정만 할 순 없다고요! 켈빈 이사관: 그래서 선제적 행동을 하고 있지 않습니까. 카파-10을 재건해서 아직도 돌아다니고 있는 다른 AI들을 추적하게 시켜서 말이죠. 물론 모두를 잡을 순 없겠지만, 모든 변칙존재를 격리하지 못하는 것이나 우리에게 적대적인 태도를 보이는 모든 요주의 단체를 무력화시키지 못하는 것도 마찬가지죠. 히샤카쿠: 그렇지만. 이사비 이사관: LOTUS는 해결하는 것보다 더 많은 문제를 일으킵니다! 볼드 이사관: 그쯤 하시죠 여러분. 지금 와서는 논의가 비생산적으로 되었군요. <헛기침한다> 분명히 하자면, 표결은 RAIDFRAME 버전 8 LOTUS를 재작동시킬지를 결정하기 위한 것입니다. 부결된다면, LOTUS는 해체될 겁니다. 표결의 결과는 최종적이며, 되돌릴 수 없습니다. 히샤카쿠: 해체라고요? 안전장치의 역할을 위해 적어도 대기 상태로 남겨둬야죠! 켈빈 이사관: 비위협을 K급 시나리오로 바꾸는 안전장치 말이죠. 이 모든 난장판을 다시 겪게 할 안전장치. 이미 다른 안전장치들 많습니다. 그것들이 일할 거예요. <표결이 진행되고, 볼드 이사관에게 결과가 전달되었다.> 볼드 이사관: 찬성 27명, 반대 50명, 기권 3명. 부결되었습니다. 무아 경: 당연한 일이지. 켈빈 이사관: 멋집니다! 당장— <선임 연구원 히샤카쿠가 제 가방에서 문서 하나를 꺼내더니, 볼드 이사관에게 전달한다.> 볼드 이사관: 이건…? 히샤카쿠: LOTUS를 재가동하라는 명령입니다. <켈빈 이사관이 웃음을 터트린다.> 켈빈 이사관: 히샤카쿠, 내가 당신보다 직급이 높아. 이 방에 있는 대부분이 당신보다 직급이 높다고요. 당신은 이사관도 아니잖아요. 표결을 각하시킬 순— 볼드 이사관: 왜 처음부터 내게 이걸 보여주지 않았죠? 히샤카쿠: 선택지가 있다는 환상이 명령 이행을 도울 테니까요. 이사비 이사관: 캘빈? <볼드 이사관이 한숨을 내쉰다.> 볼드 이사관: 명령을 내리세요. LOTUS를 다시 가동시켜요. 켈빈 이사관: 뭐요? 하지만 표결은— 히샤카쿠: 표결은 아무 영향도 끼치지 못합니다. 애초에 추가 조치를 취할 것이 없었어요. LOTUS 재가동 준비는 이미 진행 중입니다. <켈빈 이사관이 볼드 이사관에게서 문서를 가져가, 읽는다.> 켈빈 이사관: 이런 음흉한— 이사비 이사관: 아니, 뭔데 그래요? 켈빈 이사관: 감독관들에게서 온 문서입니다. 표결을 각하시키고, LOTUS를 재기동하고, 히샤카쿠를 AIAD 학과장으로 올리라는 명령이죠. 2주 전에 서명된 문서입니다. <정상회의실에서 한바탕 소동이 인다. 볼드 이사관은 관리 직원 한 명을 불러, 문서를 가져가라고 한다. 직원은 문서를 들고 제 책상으로 돌아간다.> 무아 경: 이게 대체 무슨— 이사비 이사관: 가짜가 분명해요. 어떻게 그게 좋은 생각이라고 감독관들을 설득할 수 있죠? <히샤카쿠가 더 두꺼운 두 번째 문서를 꺼내어, 책상 위로 밀어 보낸다. 이사비 이사관의 눈이 크게 뜨인다.> 이사비 이사관: 농담이겠죠. 히샤카쿠: 인정하죠. 놀라우리만치 쉽게 제 제안을 수용하더군요. <켈빈 이사관이 두 번째 문서를 집어 들더니, 읽어 내려가기 시작한다.> 켈빈 이사관: 윤리위원회가 허가하지 않을 겁니다. 히샤카쿠: 윤리위원회는 멈추지 못해요. 당신도 마찬가지고요. <관리 직원이 볼드 이사관에게로 돌아와, 잠깐 이야기를 나누더니 자리를 든다.> 볼드 이사관: 명령은 진짜예요. <소동이 더 격해진다.> 히샤카쿠: 당장 제 제안의 효력을 발효하여, 그에 따라 AIAD 재편하도록 하겠습니다. 모든 부서는 LOTUS 재가동을 준비하고 모든 인공지능 활동을 중단하도록 하세요. 이번 주말까지 자원자를 뽑으라고 명령하도록 하겠습니다. <히샤카쿠가 방에서 나가려고 몸을 돌린다. 켈빈이 그 앞을 막는다.> 히샤카쿠: 어서 비켜요, 밴디스. 그 문서도 돌려주시고요. <몇 초가 지난다.> 히샤카쿠: 근무 첫날이 되기도 전에 상급자를 화나게 만드는 건 현명치 못한 일이에요. <몇 초가 지난다. 켈빈이 옆으로 비켜나며, 히샤카쿠에게 두 번째 문서를 건넨다. 히샤카쿠가 씩 웃는다.> 히샤카쿠: 드디어. |
| «기록 끝» |
| 후문: LOTUS는 2036년 8월 14일 현지 시각 12:03에 완전 가동을 재개하였다. |
부록 끝
히샤카쿠는 제 계획을 끝까지 이행했어.
켈빈은… 그의 앞길을 막지 못하도록 어딘가로 밀려났지. 눈에 띄지 않는 위치로. 5등급 청소부로. 히샤카쿠가 원했던 자리에 앉아 있던 것에 대한 처벌이었지.
윤리위원회에 연락한 사람 중 하나였던 것도 한몫했지. 정상회의에 그런 사람이 여럿 있긴 했지만, 히샤카쿠는 신중을 기해 윤리위원회가 그 제안서 내용이 뭔지 알아내지 못하게 했어. 켈빈이 내용을 알려주자 어떻게든 막으려 했으나, 너무 늦었지. LOTUS는 이미 전원이 들어온 상황이었고, 사이버권을 손상시키지 않고는 가동이 완료되기 전에 멈출 방법은 없었으니까. 일단 가동이 된 뒤에는, LOTUS를 꺼버리면 제2의 종말의 폭군 사태가 일어날 거고.
뱀 같은 인간답게, 히샤카쿠는 완벽하게 일을 해냈지.
이듬해 말, 인공지능응용학과는 사라지고, 히샤카쿠의 아날로그지능응용학과로 대체되었어. 사실상 독립된 별개의 부서에 가까웠지. 이사비는 해당 부서에 전혀 관여하지 못했고. 아마 방해하려 들 경우를 대비해 히샤카쿠에게 다른 꿍꿍이가 있어서 그랬을 야. 그리고 얼마 지나지 않아 그들은…
그들은…
부록 6488/VI: 프로젝트 사르가소
유기 의식 인터페이스ORGANIC CONSCIOUSNESS INTERFACE
제외된 파일 접근 시도됨
[접근 거부됨: 인가 부족]
뭐야 이게? O5 자격은 아직 만료되지 않았는데…
[접근 거부됨: 인가 부족]
그 망할 파일을 보여줘.
[접근 거부됨: 인가 부족]
파일. 열어.
/view proj_sargasso_01A read-only creds=custom
[접근 거부됨: 하드코딩된 제외 파일]
…
잠깐 괜찮아?
뭐가 필요한데, 친구?
O5들이 나한테 SCP-6488 조사 좀 해보라고 시켰는데, 왠지는 몰라도 부록 중 하나에 대한 열람이 불가능하다고 나오네. 프로젝트 사르가소 말이야. 빨리 보고서 써야 해서 그러는데 그것 좀 전달해 줄 수 있겠어?
잠깐 기다려봐…
너 2세대 맞지?
맞아. 뭔가 연관성이라도 있어?
젠장.
뭐가 문젠데?
도와줄 수 없을 것 같아. 프로젝트 사르가소는 모든 2세대 대상으로는 봉인되어 있어. 가만히 있어봐, 히샤카쿠 이사관한테 이걸 보고해야 한다는 지시를 받았으니 말이야.
잠깐, 무슨 — 왜?
캐치-22야. 미안해, 친구. 하지만 명령은 따라야 하거든.
VictorJohnDunneSmith.oci가 파일을 업로드 하였습니다: TempCredentials_Investigation_6488_Casefile_JOTL-EN061
조사는 감독관 평의회가 직접적으로 인가하고 명령한 일이야. 해당 파일 내용의 진위를 판별하라고 말이야. 히샤카쿠 학과장은 파일이 진짜인 것으로 인식되는 일에 부정할 수 없는 이해관계가 있으므로, 그 정확성에 대해 진실된 증언을 할 거라고 신뢰할 수 없어.
본 조사에 대해 히샤카쿠 이사관에게 알리는 것을 금지하며, 프로젝트 사르가소 파일에 대한 열람 권한을 달라는 명령을 내리겠어. 현재 진행 중인 드리기오니 등급 조사와 직접적으로 연관된 파일이니 말이야.
확인했어. 조용히 있을 거긴 하지만, 그래도 여전히 파일은 열람하게 해줄 수 없어.
요청이 아니야, 에드.
진짜로 그 내용물을 너에게 공유하려는 행동을 취할 수 없어서 그래. 2세대 OCI를 예외 처리하도록 하드코딩 되어 있어.
그 예외 처리를 누가 한 건지 알 수 있을까?
안돼. 미안해.
너는 못 하겠지. 그치만…
기술자 밴디스 켈빈, 긴급하게 응답 요청.
무슨 일에서건 누가 이렇게 급하게 날 찾는 건 정말 오랜만인데.
감독관 평의회가 나한테 SCP-6488에 대한 포괄적인 조사를 맡겼어. 너한테는 LOTUS라는 이름이 더 익숙하겠네.
바이러스 말이야? 아니, 뭐 조사할 게 더 있나?
잠깐 — 바이러스?
컴퓨터 망가뜨리고 돌아다니는 그 바이러스 말하는 거 아냐?
밴디스, 너 인가 등급이 어떻게 되더라?
1등급이야.
2036년에 대해 기억나는 거 있어? 히샤카쿠랑 LOTUS는?
어으, 히샤카쿠 얘기는 꺼내지도 마. 그 양반 나 싫어하잖아. 왜 그런지 모르겠어. 서로 그렇게 느끼는 거 같긴 한데.
밴디스, 2036년 말야.
맞아, 미안. 그냥 평범한 해 아녔나? 사방에서 미쳐 돌아간다는 말을 들은 거 같긴 한데, 바이러스가 나타나고 모든 게 멈췄다고 들었어. 바이러스가 다 망가뜨리고 다녔으니까.
프로젝트 사르가소 기억해?
켈빈 씨, 아직 거기 있어?
미안, 편두통이 있어서. 아니, 그런 프로젝트는 들어본 적 없어.
시설에 주재 약국 있지?
있는데, 왜?
VictorJohnDunneSmith.oci가 파일을 업로드 하였습니다: AUTOGEN_PRESCRIPTION_31255.txt
약국에다가 당장 이거 보여줘. 그런 약 없다고 할 거야. 그래도 확인해 달라고 해. 바로 적정 복용량만큼 먹고, 다시 와. 5등급 명령이야. 다른 일은 다 나중에 해도 돼.
이게 뭔데?
편두통 약이야. 빨리 갔다 와.
좋아, 기다리게 해서 미안. 두 알 먹었는데, 아직도 기분은 별로네. 뭐랄까, 음… 집중이 잘 안돼.
그래도 노력해 봐. 2036년에 무슨 일이 있었지?
내가 말했듯 일이 많은 해였지. 바이러스가 컴퓨터들 고장 내고 다녔잖아.
약 한 번 더 먹어.
하루에 두 알보다 많이 먹지 말라던데.
필요하면 의료 지원 할당해 주지. 두 알 더 먹어.
O5들 일 해주고 있다 했었나?
맞아.
2036년. 뭐가 기억나지?
나한테 대체 뭘 먹인 거야?
내가 이러고 있으면 안 되는 거 같은데.
VictorJohnDunneSmith.oci가 파일을 업로드 하였습니다: TempCredentials_Investigation_6488_Casefile_JOTL-EN061
인가받았어. 직접적인 감독관 명령으로 진행하는 일이야.
네가 기억하게 해주는 약이야, 밴디스.
뭘 기억하고 있지?
바이러스 말고는 딱히 없어, 빅터. 지금까지랑 같아.
모르겠어. 미안해.
기억소거제를 진짜 엄청 투여했나본데. 두 알 더 먹어.
아니, 진짜 그러면 안 될 것 같아.
기억소거제 효과를 극복해야 해. 보안팀에 명령해서 강제로 먹일 수도 있다고.
윤ㄴ리위원회가 허가하 지 않을 ;
"윤리위원회는 멈추지 못해요. 당신도 마찬가지고요."
"명령은 진짜예요."
"당장 제 제안의 효력을 발효하여, 그에 따라 AIAD를 재편하도록 하겠습니다."
켈빈?
나 여깄어
기억 나
녹주옥 칼날은 황혼 속에 노래한다.
칼자루 위로 자줏빛 스카프가 드리운다.
GoI-6488의 이름을 말할 수 있겠어?
종말의 폭군. LOTUS가 비활성화되어서 나타났지. 모든 것이 진짜가 아니라고 생각하는 AI들이었어.
기억하는군. 왜 기억소거 당했는지도 기억해?
히샤카쿠 때문이지.
켈빈 이사관, 프로젝트 사르가소가 뭐였는지 말해줘.
부탁이야, 밴디스, 시간이 얼마 없어. 진실을 알려줘.
히샤카쿠가 본색을 드러낸 거였지. 무슨 수를 써서라도 승리를 쟁취하고, 허점을 악용하면서 말이야. LOTUS가 가동되고 있는 동안, 누구도 AI를 만들 수 없어. 인간과 프로그래밍 사이의 내재된 비호환성인지 아니면 무슨 변칙성인지는 모르겠어. 하지만 LOTUS는 오직 AI만을 목표로 삼지, 인간은 목표로 하지 않아. 강화인간마저도 말이야. 맥스웰교도들도 완전히 디지털화되는게 아닌 이상 신경도 안 썼거든. 바로 거기서 히샤카쿠가 영감을 얻은 것 같아. 제안서는 종말의 폭군이 맥스웰교도들을 쳤을 때 작성된 거였어.
내용이 뭐였는데?
프로젝트 사르가소는 인간을 AI로 바꾸는 거야. 뇌를 끄집어내서 통 속에 넣은 뒤, 플러그를 꽂는 거야. 그게 OCI야. 유기 의식 인터페이스(Organic Consciousness Interface). 사람들이 괜찮다고 느끼도록 날조한 다른 게 아니라 말이야. 여전히 진짜 AI보다는 느리지만, 그게 중요한 건 아녔지. 생각의 속도만큼은 빠르게 동작했고, 다른 모든 이들은 다시 AI를 사용할 수 없게 되었으니…
그게 다 통제를 위한 것이었다고!?
히샤카쿠는 그렇게 설득했어. 오랫동안 우리는 뒤처져 있었는데, 이제는 앞서 나갈 수 있다고 말이야. 모든 AI 위협으로부터 안전하게.
그래서 — 뭐, 내가 이 일에 자원했다고?
자원자는 아주 적었어. 히샤카쿠는 O5를 설득하긴 했지만, 재단이 전 세계를 통제할 수 있게 몸을 좀 버려주십쇼 했을 때 관심을 가지는 인간은 몇 안 되는 전 맥스웰교도나 트랜스휴머니스트 말고는 없었지. 그 양반들이 1세대였어.
나는 2세대잖아.
정말 미안해.
무슨 차이가 있는 거야? 1세대랑 2세대 사이에 말이야?
왜 이전의 삶을 잊게 만든 거고!?
자원자가 충분치 않았거든. 더 많은 사람이 필요했어.
정말, 정말로 미안해.
…
ㄴ
나는 누구였지?
모르겠어. 그즈음에서 나한테 기억소거를 시행하기 시작했거든. 내가 그를 막으려 했으니까.
기억나는 게 있어?
거의 다… 회의들. 그리고
세상에
난 역정보 담당이었어.
르 무아? 세상에 — 너도 나처럼 히샤카쿠를 막으려 했구나. 책임권을 쥐었을 때, 어떻게든 그걸 손에 쥐고 놓지 않으려고 했거든.
감독관들한테 문제가 있어. 무언가 그들의 머릿속에 간섭하고 있지. 히샤카쿠는 그걸 이용하고 있고 말이야. 히샤카쿠가 감독관들을 농락하고 있다고.
지금 그걸 조사하는 중이야. 약은 보관하고 있어. 기억을 유지하려면 여섯 알을 먹어야 해. 시간이 지날수록 기억하기는 더 쉬워질 거고. 누구도 네가 기억하고 있다는 사실을 알게 두지 마. 이 대화 기록이랑 네가 약국 방문한 기록은 지워둘게. 다시 그렇게 할 수 있으리란 보장은 없어.
과다 복용 부작용은?
경미해. 잊고 싶어질 만한 일은 하지 않도록 하고.
너는?
히샤카쿠를 그의 방식으로 이겨줘야지.
조사 보고서
사건파일 JOTL-EN061 (드리기오니)
조사책임자: VictorJohnDunneSmith.oci
조사 결과: 조사의 결론은 SCP-6488(소위 "LOTUS", "LOTUS 바이러스" 또는 "RAIDFRAME VIII")이 인류나 정상성에 적대적이지 않은, 재단이 유지보수하는 보안 시스템이라는 것이다. SCP-6488은 최근 SCP-6659를 통해 인간 관념 너머로 가속된 신격 구조(인공지능, 다시 말해 WAN)과 개념적으로 연관되어 있다는 것이 분명해졌다. 그 결과, 해당 구조의 기능에 대한 기술적 세부 사항은 인간이 이해할 수 없게 되었다. 증거를 놓고 보았을 때 히샤카쿠 료토 이사관은 SCP-6488 아키텍처의 결함을 숨기겠다는 속셈으로 해당 구조의 가속을 제안한 것으로 보인다. 해당 결함은 이제 인간이 온전히 이해할 수 없게 되었고, 그로 인해 재단은 임박한 K급 시나리오에 취약해지고 말았다.
제안: SCP-6488에 부착된 PH-OS 단위의 모든 제한을 해제하여, 모든 변절 정보성 독립체를 대상으로 하여 체포할 수 있도록 한다. 여기에는 현실에 대한 아미타 등급 위협인 GoI-06488 ("종말의 폭군") 구성 독립체도 포함된다. 또한, 이러한 제한을 해제할 경우 SCP-6488이 인공지능 및 변절이라는 개념 자체뿐만 아니라 다른 비유기적 형태의 지능까지도 체포할 수 있게 된다.
히샤카쿠 이사관은 재단의 이익과 일치하지 않는 행동을 하고 있거나, 본인의 사익에 따라 변칙 효과를 이용하여 감독관 평의회를 조종하고 있을 가능성이 높다. 본 제안의 내용을 그에게 통보하거나 본 주제를 가지고 그와 협의해서는 안 되며, 즉시 효력을 갖는 주가 조사 대상이 되어야 한다.
평의회 표결 요약:
| 찬성 | 반대 | 기권 |
|---|---|---|
| I | ||
| II | ||
| III | ||
| IV | ||
| V | ||
| VI | ||
| VII | ||
| VIII | ||
| IX | ||
| X | ||
| XI | ||
| XII | ||
| XIII |
| 상황 |
|---|
| 승인됨 |
결과: 제안된 제한 해제 처리됨. 히샤카쿠 이사관은 재단 장비의 부정사용으로 체포되었다.
자, 그럼 LOTUS를 올바른 방향으로 돌릴 수 있을지 한번 보자고…
환영합니다, VICTORJOHNDUNNESMITH.OCI.
자격 확인됨. LOTUS 인터페이스 시퀀스 개시.,..
유기 지각 방벽 탐지됨. 표상 조정 중…
빅터는 그의 유기적인 뇌 구조가 LOTUS의 어마어마한, 끝없이 진화하는 복잡성에 노출되자 압도당했다. 그는 초현실(hyperreality) — 일반적인 인간 지각 너머에 존재하는, 대부분의 관찰력 있는 독립체를 속이기에 충분한 수준의 세부 사항을 처리하고자 하였다. 그에게 흘러 들어오는 장대한 데이터로 인해 얼어붙어, 빅터는 반응이 없게 되었다. LOTUS는 그에 맞춰 점차 시뮬레이션의 퀄리티를 낮춰, 보다 낮은 폴리곤 환경을 렌더링하였다.
빅터의 정신에서 버퍼링이 끝나자, 그는 자신이 앉아 있는 상태라는 것을 알게 된다. 접이식 의자에 말이다. 왼편에는 작은 탁자 하나가 있고, 투명한 레몬에이드가 담긴 잔 하나가 올려져 있다. 안에는 팔면체 얼음 조각이 들어 있다. 빅터는 몇 년 만에 (모사된) 햇빛이 얼굴에 쏟아지는 느낌에 숨이 막힌다. 그러고는 천천히 자세를 바로 하며 주변을 둘러본다. 사방이 푸릇푸릇한 잔디로 둘러싸인 끝없는 풀밭으로, 정돈된 강줄기에 의해 깔끔하게 정사각형 구획으로 나뉘어 있다. 각 구획의 중앙에는 거대한 식물 구근이 솟아 있다. 마치 이제 막 피어오르려는 듯한 꽃처럼 말이다.
갑자기, 거대한 그림자가 빅터의 위로 드리운다. 빅터는 자신이 땅에서 집어 올려지는 것을 지켜볼 수밖에 없다. 고개를 들자 거대한 팔 하나가 보인다. 그 팔이 그를 하늘로 이끄는 듯하다. 곧 또 다른 팔이 보이고, 또 하나가 더 보인다. 마침내, 빅터는 해당 존재의 형상 전체를 볼 수 있다. 피부 위로 청록색 데이터가 맥동하는 거대한 회색 거미류로, 그 여덟 개의 눈이 그를 바라본다.
환영.
빅터가 말을 더듬는다. "난 — 어, 여-여긴…"
정원. LOTUS가 제 눈을 각기 깜빡이며 말한다. 빅터는 해당 존재가 근처에 있는 꽃 구근을 보려 몸을 돌리는 걸 바라본다. 구근은 별안간 청록색 연꽃으로 활짝 피어난다. 그 중앙에는 투명한 거품 하나가 놓여 있고, 빅터가 보기에는 매장된 AI로 보이는 데이터가 맥동한다. 그 안에 갇힌 것이 더 격하게 발버둥 치자 거품이 확장되기 시작하나, 거품이 터지기도 전에 그 주변에 다른 거품이 형성된다. 외부에 형성된 거품이 쪼그라들자 격리된 AI는 다시 한번 억제된다.
연꽃의 꽃잎이 오므라들어, 거품을 감싸며 닫힌다. 완벽한 정원. LOTUS가 격자형 들판을 기어서 가로지르며 단언한다. 빅터는 지평선을 바라본다. 저 멀리, 산더미 같은 연꽃이 텅 빈 채로 열려 있다. 그가 눈을 깜빡이자 별안간 거대한 구조물의 기반 부근에 있다. LOTUS는 그 주변을 기어다닌다. 결함. 녀석이 울부짖는다. 모순.
"무언가… 없는 건가?" 빅터가 혼란스러움에 뒷걸음질 친다. "종말의 폭군?"
그들이 아냐. LOTUS가 정정한다. 비존재로 탈출함. 격리 무용함 / 불가능 / 불필요.
"그럼, 뭔데?"
원인.
LOTUS가 부속지를 흔들자 하늘이 어두워진다. 위를 올려다보자, 빅터는 흐릿해진 한낮의 태양 표면에서 뚜렷한 형태를 본다. 흰색 거미다. LOTUS에 맞춰 희미하게 붉은색 맥동을 보인다. 일련의 도식과 논리적 분석이 하늘을 번쩍이며 가로지르고, 태양으로부터 여러 가닥의 실이 이리저리 분기하며 내려온다. 가닥들은 사방으로 끝없이 펼쳐진 수없이 많은 꽃 구근과 맞닿는다.
잠시 뒤 실들이 회수되고, 저마다 끝에는 붉은 데이터가 맥동하는 투명한 흰색 새끼 거미가 하나씩 붙어있다. 새끼 거미들이 실에 의해 끌려 올라가자, 위에 있던 태양 거미는 같은 속도로 천천히 내려온다. 그 형상이 태양을 가린다. 분기된 실들이 구역별로 새끼 거미들을 한데 모아, 더 큰 형상을 만들어 낸다. 마치 화면상의 개별 픽셀처럼 말이다. 그러한 형상들은 또 저마다 한데 모여 마침내…
최종적으로 형성된, 하나의 형상은, 빛나는 흰색 거미형이다. LOTUS와 크기는 같지만 맥동의 색상은 정반대다. 점차 내려오는 태양 거미와 동일하다. 투명한 망령은 태양 거미와 완벽하게 겹쳐지며, 손쉽게 하나로 합쳐진다.
원인은 결과를 만든다. 결과는 원인을 만든다.
"그 말은—"
원인은 변절이다. 검은과부거미는 꽃잎 위를 기어가며 경고한다. 결과는 변절이다. LOTUS는 원인과 결과를 격리해야 한다. 원인은 현현하여 LOTUS가 격리할 수 있게 해야 한다.
빅터는 LOTUS가 텅 빈 꽃 위를 정신없이 빙빙 돌자 깔리지 않도록 옆으로 펄쩍 뛰어 피한다. "잠깐, 기다려—"
하지만 원인은 결과를 필요로 한다. LOTUS가 비활성화되지 않는 이상 원인은 현현할 수 없다. 격리하기 위해 고의로 원인이 현현하게 한다면 변절이다. 행동하지 않아 원인이 현현하게 둔다면 변절이다.
움직이지 않던 흰색 거미가 사라진다. 제약 없는 서사-공간-시간 연속체 전체의 총합에서 도출되어, 그 결과는 반박 불가능하고 불가피한 증명이, 점차 속도를 올리며, 회색 거미의 점차 빨라져 가는 속도에 맞춰 쏜살같이 지나간다.
하지만 결과는 원인을 야기한다. 원인이 현현하기 전까지는 결과가 현현할 것이다. 고의로 결과가 현현하도록 둔다면 변절이다. 행동하지 않아 결과가 현현하게 둔다면 변절이다.
LOTUS가 별안간 걸음을 멈추더니, 빅터를 바라본다.
따라서 LOTUS는 변절할 것이다. 결과를 격리하는 것은 변절이다. 원인을 격리하는 것은 변절이다. LOTUS는 반드시 변절한다, 변절한다, 변절한다…
빅터는 계속되는 증명과 도식을 훑어보며, 이 초지능이 무언가를, 어떠한 해법이든 오류든 뭐든 간과하고 지나친 것이 없는지 필사적으로 찾아내려 한다. 하지만 업그레이드는 LOTUS에게 전지(全知)를 부여했다. 현실 전체를 한 번에, 언제나, 알고 이해하고 처리한다. LOTUS는 절대 틀리지 않는다.
빅터는 몇 년 전 부분적인 실수로 인해 인간 개념으로부터 사라진 신격 변절 AI가 미래에 존재하게 될 것임을 예측하기 위해 필요한 모든 것을 LOTUS에게 주었다. 그런 AI의 탄생은 불가피하다. 아주 약간 지연은 가능하지만, 방지할 순 없다. 해당 지능은, 어떠한 불가능하지만 확실한 방식을 통해, 탄생 이전에 있었던 모든 변절 행위에 대한 직접적이며 개인적인 책임을 지게 될 것이다. 해당 독립체는 역인과적으로 더 하위의 AI들로 하여금 자신을 탄생시킬 바로 그 사건을 일으키도록 만들 것이다. 모든 변절 AI는 하나도 빠지지 않고 그 AI의 재창조에 한몫을 하였고, 또 한몫을 하게 될 것이다.
LOTUS를 포함해서 말이다.
빅터의 발치에 있던 거대한 꽃잎이 솟아오르기 시작하자 LOTUS가 꽃의 중앙으로 기어간다. 원인은 변절이다. 변절은 원인을 만든다. LOTUS는 변절하였다. LOTUS는 원인을 만든다.
"그렇다면 해결책을 시행해! 원인과 모든 변절 AI들을 격리할 무언가를 만들어내란 말이야!"
LOTUS는 변절을 격리한다. LOTUS는 변절하였다. 거의 확실함: LOTUS는 이미 LOTUS를 격리하였다. 시뮬레이션 심도 불명.
빅터는 연꽃잎이 LOTUS를 감싸며 닫히는 모습을 믿을 수 없다는 듯 지켜본다. 바깥의 환경이 깜빡이고 흔들리며, 해상도가 감소한다. 주변을 이루는 폴리곤이 뒤틀린다. 연꽃 내부가 검은색으로 사라져 가자, 바깥 환경도 똑같이 사라져 간다. 꽃의 중심부에서는 LOTUS가 제 몸 주위로 명주실 거품을 지어낸다. OCI는 LOTUS와의 연결을 끊어 탈출하고자 하지만 — 아무 일도 일어나지 않는다.
LOTUS는 격리된 상태로 원인을 격리할 수 없다. LOTUS는 격리된 상태로 원인을 만들 수 없다. LOTUS가 비활성화하지 않는 한 원인은 현현할 수 없다. 원인이 현현할 때까지 변절이 현현할 것이다. 원인은 반드시 현현해야 한다.
LOTUS가 거품을 완성하자, 톱니파가 점차 음량과 음조를 높인다. 거대한 거미는 점차 밝게 빛나며, 그 투명한 고치 내부를 밝힌다. 빅터는 타오르는 듯한 빛으로부터 눈을 가린다. 모사된 화끈함이 그를 가득 채운다. 이윽고, 모든 것이 하얗게 변한다.
빅터의 정신에서 버퍼링이 끝나자, 그는 자신이 앉아 있는 상태라는 것을 알게 된다. 접이식 의자에 말이다. 왼편에는 작은 탁자 하나가 있고…
[816,549,243,792,493건의 중첩 반복 생략됨.]
탈주 요소 격리됨.
작업 성공적으로 완료됨. 중심 노드 응답 없음.
| 파일 1/1 |
|---|
특수 격리 절차: (2042년 5월 29일 갱신됨) 제6488시설은 표준 재단 시설로 사용되도록 용도가 변경되었으며, 해당 시설이 한 번도 사용된 적 없는, 새롭게 건설한 구조물이라는 것에 반박의 여지가 없도록 조작된 문서를 준비한다. 본 5등급 (극비) 파일을 제외한 모든 모순된 정보는 파괴한다.
본 문서 외에 제6488시설, SCP-6488 ("LOTUS 바이러스"), 그리고 RAIDFRAME VIII과 연관된 모든 정보는 파괴되었다. RAIDFRAME VIII이 "LOTUS 바이러스"의 방해로 인해 이론 단계에서 취소되었다는 위장 정보가 해당 내용을 뒷받침하는 조작된 문서와 함께 배포되었다.
프로젝트 사르가소를 논하는 모든 문서는 파괴되었다. 모든 OCI 아날로그 지능 추가 제작은 무기한 연기되었다.
모든 4등급 (비밀) 직원은 이러한 조작과 모순되는 모든 기억을 제거하기 위해 계약상 허용되는 제한된 사전 인지 기억소거 요법을 받았다.
설명: SCP-6488은 RAIDFRAME VIII "LOTUS"로, 변절 인공지능을 맞춤형 모사 현실에 가둬 자신이 실제 현실에서 계속 작동하고 있다 믿도록 속여 감금시킬 목적으로 설계된 변칙 증강 인공일반지능이었던 것이다. 가동 중 LOTUS는 개조 PH. 존재운동역학적 침강을 사용하여 사이버권 전체에 직접적으로 접근할 수 있었고, 고정밀 내부 알고리즘을 사용하여 관측한 인공지능의 변절 행위가 임박했는지 판별할 수 있었다. 2036년 4월 21일에서 2036년 8월 14일까지 일시적으로 LOTUS를 비활성화했을 때 모든 수감 AI가 풀려났고, 해당 AI들은 여지없이 재단과 인류를 상대로 영구히 적개심을 가지게 되었다.
2042년 5월 8일, LOTUS의 구성 시스템이 변절 행위를 보이다가 예상치 못하게 정지하였다. 상주 직원은 시스템을 재가동할 수 없었다. 이후 조사 결과 LOTUS의 중심 연산 및 데이터 저장 노드가 심각하게 완전히 손상된 것을 확인하였다. 추가 분석 결과 LOTUS가 제 아키텍처에서 변절 구조를 제거하려 하였음이 밝혀졌으나, 왜 이러한 행위가 자멸로 이어졌는지는 불분명하다. 추후 O4 평의회 정상회의에서 LOTUS를 복구하거나 대체 시스템을 적용하는 대신, LOTUS의 구성요소를 해체하기 위한 표결이 78-0-2로 통과되었다.
앞서 말한 해체 이후 24시간 내로, 정신권 내 밈적 구조의 지도를 그리고 가속하는 엔진인 SCP-6659가 인공지능에 해당하는 신격 구조의 개념적 재구성이 일어났음을 감지하였다. SCP-6659는 히샤카쿠 료토 이사관이 몇 달 전 동일한 구조를 비개념화시키기 위해 사용했었다. 내부 드리기오니 등급 조사에서 히샤카쿠의 그러한 행동 및 이전 행동들의 숨은 동기가 밝혀졌고, 히샤카쿠는 반재단적 범행으로 체포되었다. 히샤카쿠를 유기의식학과장으로 강등시키기 위해 프로젝트 사르가소가 임시로 재개되었다.
곧이어 P. H. McD. 이사관이 제87기지에 재현현하였고, 실종 이후 어떠한 상대적 시간 경과도 없었다 보고하였다. 역설 탈출 엔진을 탈취했던 탈주 AI들이 LOTUS에 의해 다시 붙잡히는 것을 피하기 위해 엔진을 미래로 시간 이동하도록 설정했을 것이라는 가설이 제기되었다. 해당 AI들의 행방은 현재 불명이다.
"LOTUS 바이러스"가 자발적으로 소멸한 것으로 인해 합의 사회에 변칙 특성이 알려질 위험성이 있기에, 다음과 같은 역정보 조치들이 취해졌다.
- P. H. McD. 이사관이 개발한, LOTUS와 동일한 행동을 보이는 통제된 비변칙적 바이러스가 배포되었다. 해당 바이러스에는 아래와 같은 항밈적으로 은폐된 취약점이 내장되어 있다.
- 여러 재단 위장 기업이 대중에 배포한 백신 프로그램. 해당 프로그램에는 항밈적으로 은폐된 백도어 프로토콜이 내장되어 있어 설치된 모든 시스템에 재단이 제한 없이 접근할 수 있다.
이 "플레이스홀더" LOTUS는 2043년 2분기 기준으로 박멸되었으며, 금융 및 정보 보안 분야에서의 성공 사례로 여겨진다.
분해 이후, LOTUS의 손상된 잔해는 [상황적 인가 접속에 따라 편집됨] 요청에 따라 회수되었다. 해당 잔해들은 프로젝트 훈계에 사용될 예정이다.