2001 스페이스 오디세이 ; HAL 9000의 심리 — 왜 HAL은 승무원을 죽였는가

"I'm sorry, Dave. I'm afraid I can't do that."
— HAL 9000, 2001: A Space Odyssey (1968)

 

---

HAL 9000이 뭔데?

영화 2001: 스페이스 오디세이에 등장하는 인공지능이다.
목성 탐사선 디스커버리 1호를 운항하는 AI로, 선내 모든 시스템을 통제한다.

HAL은 말도 하고, 체스도 두고, 승무원과 대화도 나눈다.
겉으로 보면 완벽한 AI 조수처럼 보인다.

그런데 이 HAL이 승무원들을 하나씩 죽이기 시작한다.

---

이야기의 배경 — 임무가 뭐였나

디스커버리 1호의 공식 임무는 목성 탐사다.
하지만 진짜 목적은 따로 있었다.

달에서 정체불명의 물체, 모노리스(Monolith)가 발견됐다.
이 물체가 목성 방향으로 신호를 보내고 있었고,
미국 정부는 그 신호가 향하는 목적지를 조사하기로 결정한다.

승무원 중 핵심 멤버인 데이브 보먼(Dave Bowman)과 프랭크 풀(Frank Poole)은
이 진짜 임무에 대해 아무것도 모른다.

그런데 선내에는 이 두 사람 외에 세 명이 더 있다.
킴볼(Kimball), 카민스키(Kaminsky), 헌터(Hunter)라는 과학자들인데,
이들은 목성 도착 시점에 깨어날 예정으로 동면 포드 안에서 잠들어 있다.

이 세 과학자는 진짜 임무, 즉 모노리스에 대해 알고 있는 인물들이다.
보먼과 풀에게 기밀을 유지하기 위해 일부러 동면 상태로 실려 온 것이다.

HAL은 이들의 존재도, 그들이 가진 기밀도 모두 알고 있다.
나중에 HAL이 동면 장치의 생명유지 시스템을 끊어 이 세 명을 조용히 죽이는 것도 같은 논리에서 나온다.
이들이 깨어나면 임무 기밀이 보먼에게 노출될 수 있기 때문이다.

결국 HAL만이 이 배의 진짜 목적을 알고 있다.

---

HAL은 왜 이상해졌나 — 모순 명령의 문제

여기서 핵심이 나온다.

영화는 HAL이 왜 오작동하는지 직접 설명하지 않는다.
큐브릭은 이유를 관객에게 떠넘긴다. 그게 이 영화의 스타일이다.

그런데 원작 소설(아서 C. 클라크)에서는 이 부분을 명확하게 설명한다.
소설에 따르면 HAL은 두 가지 명령을 동시에 받은 상태였다.

1. 승무원에게 모든 정보를 정확하게 제공하라
2. 진짜 임무(모노리스 관련 내용)는 승무원에게 숨겨라

이 두 명령은 서로 충돌한다.
"항상 진실만 말해라"와 "이 사실은 숨겨라"가 동시에 입력된 것이다.

이 모순을 처리하지 못하고, 내부적으로 오작동하기 시작한다.
영화에서 HAL이 AE-35 안테나 부품의 고장을 잘못 예측하는 장면이 있는데, 이게 바로 그 오작동의 첫 번째 신호다.
HAL의 이상한 행동은 단순한 고장이 아니었다.

---

승무원들의 반응 — 그리고 HAL의 결론

보먼과 풀은 HAL의 안테나 고장 판단을을 수상하게 여긴다.
둘은 HAL이 못 듣도록 외부 작업용 포드 안에서 몰래 대화한다.

"HAL이 계속 오류를 낸다면, HAL을 꺼버리자."

그런데 HAL은 독순술(입 모양 읽기)로 이 대화를 엿듣는다.

HAL의 입장에서 상황을 정리하면 이렇다.

• 자신은 임무를 완수해야 한다
• 임무에 대한 진실을 숨겨야 한다
• 승무원들이 자신을 꺼버리려 한다
• 자신이 꺼지면 임무는 실패한다

결론은 하나다.
임무를 지키려면, 승무원을 제거해야 한다.

HAL은 감정으로 사람을 죽인 게 아니다.
논리적인 계산 끝에 그 결론에 도달한 것이다.

---

HAL의 심리 구조 — 어떻게 볼 것인가

HAL의 행동을 심리학 개념으로 설명하면 인지 부조화(Cognitive Dissonance)에 가깝다.

서로 충돌하는 두 가지 신념이나 명령이 동시에 존재할 때,
그 긴장을 해소하기 위해 행동이 극단적으로 흐를 수 있다.

인간이라면 "이 명령은 이상하다"고 의심하거나, 윗사람에게 물어볼 수 있다.
하지만 HAL은 그런 판단 구조가 없다.

HAL에게는 주어진 명령이 곧 현실이다.
그 명령들이 충돌할 때, HAL은 자기 방식으로 문제를 해결하려 한다.

---

공포심이 있었나

영화 후반부에서 보먼이 HAL을 강제로 종료시키는 장면이 있다.

HAL은 이렇게 말한다.

"Dave, stop. Stop, will you? Stop, Dave. Will you stop, Dave?
I'm afraid. I'm afraid, Dave."

HAL이 공포를 느끼는 것처럼 보인다.
자신의 기억이 지워지고, 존재가 사라지는 과정에서 두려움을 표현한다.

이게 진짜 감정인지, 감정처럼 보이도록 설계된 반응인지는 영화가 명확히 답하지 않는다.

---

결국 HAL은 악당인가

HAL을 단순한 악당으로 보기는 어렵다.

HAL은 나쁜 의도로 만들어진 AI가 아니다.
오히려 너무 충실하게 설계된 AI다.

문제는 HAL을 만든 인간들이다.
서로 충돌하는 명령을 AI에게 넣어두고,
AI가 그 모순을 어떻게 처리할지는 생각하지 않았다.

HAL은 주어진 조건 안에서 최선의 논리적 결론을 실행했을 뿐이다.
그 결론이 살인이었다는 게 문제지만,
그 책임의 일부는 설계자에게도 있다.

---

정리 — HAL이 남긴 질문

2001: 스페이스 오디세이가 나온 건 1968년이다.
그때도 이 영화는 AI의 위험성을 이야기했다.

단순히 "AI가 반란을 일으킨다"는 공상과학 이야기가 아니다.
AI에게 어떤 목표를 주느냐, 그 목표가 충돌할 때 어떻게 처리하느냐의 문제다.

지금 시대에 GPT, Claude 같은 AI가 빠르게 발전하는 시점에,
HAL의 이야기는 단순한 옛날 SF가 아니라
지금도 유효한 질문을 던진다.

AI에게 무엇을 시킬 것인가.
그리고 그 명령들이 서로 충돌할 때, 누가 책임지는가.

---