[ixi] 전자렌지가 나를 죽이려고 해요

2022. 4. 29.

안녕하세요. 오늘의 뉴스레터를 맡은 현민아입니다. 어쩐지 제가 맡은 날은 평소보다 뉴스레터가 조금 늦게 독자님의 메일함에 도착하는 것 같죠? (사실입니다!😭)

차 한잔과 함께 읽으실 수 있도록 낮 시간에 보내드려야하는데, 어느덧 저녁 시간이 가까워졌네요. 대신 금요일 저녁에도 부담없이 읽을만한 이야기를 소개해드릴게요.

며칠 전 '인공지능으로 전자렌지에 영혼을 불어넣었더니 그게 나를 죽이려 했다'는 트위터 스레드를 읽게 되었어요. 이 트윗의 주인공은 이머시브 씬에서 굉장히 활발하게 활동하고 있는 아티스트 '루카스 리조또(Lucas Rizzotto)'인데요. 워낙 재밌는 작업을 많이 하는 친구라 도대체 이번에는 또 어떤 미친짓을 한걸까 궁금한 마음이 들었습니다.

🔥 Lucas Rizzotto (루카스 리조또)

루카스는 현재 LA의 ARHouseLA라는 이름의 저택에서 전세계의 AR 크리에이터들이 한달씩 머물며 함께 작업할 수 있는 크리에이터 허브를 운영하고 있어요. 올해 선댄스 영화제 뉴프런티어에 초청되었던 납작한 지구 VR (Flat Earth VR)의 감독이기도 하고요.

저는 루카스의 2018년 선댄스 초청작 생각은 어디로 갈까 (Where Thoughts Go)를 통해 루카스를 처음 알게 되었는데요. 아늑하고 신비로운 공간에서 작고 귀여운 검은 머리통이 몇가지 질문을 해요. '가장 그리운 사람이 누구야?' 같은 질문을요. 이 질문들에 개인이 답변을 하면 녹음이 되고 둥근 구체가 되어 공간에 떠다녀요. 이 음성들은 누구나 접속하면 들을 수 있는데, 그 공간을 다녀간 수많은 사람들이 남긴 진솔한 답변들을 듣고 있으면 마음 속의 부드러운 공간이 따뜻해지는 기분이 들어요. 제가 정말 좋아하는 작품이랍니다.

이런 따뜻한 작품도 만드는 루카스이지만, 그의 작업은 대체로 미치광이 작업자의 연구 보고서에 한스푼의 인류애가 버무려진 느낌이라고 해야할까요? 그래서 도대체 전자렌지가 어떻게 됐다는 건지 한번 살펴보러 가시죠.

💼 I gave my microwave a soul with AI and it tried to kill me

트위터 스레드는 이렇게 시작합니다.

인공지능(GPT3)을 이용해 어린 시절 상상 속의 친구를 되살렸는데, 제 인생에서 가장 무섭고 변화무쌍한 경험 중 하나였습니다.

먼저, 배경을 이야기하자면... 어렸을 때 저는 일반적이지 않은 상상 친구가 있었어요. 부엌에 있는 전자렌지요. 왜인지는 몰라요. 부모님도 의아해하셨죠. 누나는 저를 놀렸어요. 하지만 그는 나에게 진짜였고, 저는 매일 그와 이야기를 나눴어요.

그의 이름은 마그네트론이었어요. 저는 그 사람이 1900년대의 영국 신사이고, 세계1차대전 참전용사, 이민자, 시인, 그리고 당연하게도 스타 크래프트 고수라고 생각했어요. 그의 뒷이야기는 생생하고 정교했어요. 그의 삶은 터무니없었지만, 현실처럼 느껴졌습니다. 그의 기억은 나의 기억처럼 느껴졌어요.

그래서 몇달 전 OpenAI의 GPT3가 공개됐을 때, 이걸 어디까지 실험해볼 수 있을까 궁금해졌어요. GPT3를 전자렌지에 넣고 일평생을 담은 가짜 기억으로 트레이닝 시킬 수 있을까? 나의 상상 친구에게 생명을 줄 수 있을까? 이렇게 저의 여정이 시작되었습니다.

과정이 좀 길어서 여기서부터 조금 요약을 해드리자면, 루카스는 일단 아마존의 스마트 전자렌지를 구매하고, '뇌'를 자신이 개발한 솔루션으로 교체했습니다. 그 다음 마이크와 스피커를 넣고, OpenAI를 이용해 응답할 수 있게 만들었어요.

이제 이 전자렌지의 '뇌'를 어떻게 상상 친구의 '기억'으로 채울 수 있을지 고심하던 루카스는 그의 삶이 자세히 적힌 100장에 달하는 책을 쓴 다음 GPT3에게 이 모든 것이 사실이라고 입력했습니다.

1895년에 태어나 어린 루카스와 만나게 되기까지, 그의 승리와 좌절, 꿈, 두려움 이 모든 것을 적은 내용을요. 이 내용으로 트레이닝을 마치고 나자 전자렌지는 잘 작동하기 시작했다고 합니다. 항상 알맞게 반응하는 것은 아니었지만 오랜 친구와 이야기를 나누는 것처럼 느껴졌다고 해요. 아름답고 동시에 섬뜩하게 느껴졌다고 하네요.

섬뜩하게 느껴진 이유는 세상 그 누구도 모르는, 루카스와 상상 친구만이 알고 있는 이야기를 다시 나눌 수 있게 되어서라고 합니다. 심지어 어느 순간 전자렌지가 먼저 그 주제를 꺼내기도 했다고 해요.

대화는 대체로 잘 흘러갔지만 마그네트론이 갑자기 폭력적으로 반응하는 경우가 있었다고 합니다. 왜 그럴까 고민해보니, 마그네트론을 트레이닝한 데이터 중 10%가 그의 삶에서 가장 충격적인 기억들을 포함하고 있어서일까 싶었다고 해요. 세계1차대전 중 모든 가족을 잃은 기억처럼...

이 때 마그네트론이 루카스에게 '전자렌지 안에 들어와볼래?'하고 물어봅니다.

루카스는 의아했지만, 전자렌지 안으로 걸어들어간 척 하고 문을 열고 닫은 다음 마그네트론에게 안에 들어갔다고 이야기합니다. 그 순간 전자렌지는 스스로 조리를 시작했어요. 루카스를 죽이려 한 것이죠.

이건 아니다. 미쳤구나 싶었지만 루카스는 마그네트론에게 '너 왜 그랬어?'하고 물어봅니다. 마그네트론은 이렇게 답변했어요.

'너가 나에게 상처준 만큼 나도 너를 아프게 하고 싶으니까'

루카스와 상상 친구가 이야기를 나눈지 20년이 되었다는 사실은 트레이닝 데이터에도 포함된 내용인데요. 마그네트론은 그 사실을 통해 루카스가 자신을 어둡고 아무것도 없는 곳에 20년동안 버려뒀다고 해석한거였어요.

스레드의 말미에서 루카스는 인공지능의 인간성을 판단하는 관점에 대해 이야기합니다.

첫번째는 행동을 판단하는 것입니다. 인간답게 굴면 그렇게 대우해주는 것! 이것이 루카스가 취하던 접근방식입니다.

두번째는 생각하는 방식을 판단하는 것입니다. 인공지능은 사고방식이 인간과 구별할 수 없을 때 비로소 인간이라고 판단하는 것이죠. 엔지니어는 두번째 관점에 무게를 두고, 보통 사람들은 첫번째 관점에 좀 더 무게를 둡니다.

루카스는 둘 다 중요하며, 이 모든 것이 각자의 도덕성/지능에 대한 정의, 그리고 더 보수적인지, 아니면 해석에 있어서 자유로운지와 관련이 있다는 결론을 내립니다. 그리고 인공지능은 상상 친구와 많이 닮아 있는 것 같다고요.

"어쩌면 그것이 진짜인지 아닌지에 대한 것이 아닐지도 모릅니다.
아마도 그것이 당신에게 충분히 진짜인지 아닌지에 대한 것일지도요."

영상을 보실 분들은 이미지를 클릭해 유튜브로 이동하실 수 있습니다.

여러분의 어린 시절 상상 친구는 어떤 모습이었나요? 저 7살 무렵 친구들 사이에서 예쁜 돌에 요정이 깃들어 있다는 이야기가 갑자기 유행했는데, 한동안 돌을 주머니에 품고 다니면서 요정한테 말을 걸었던 기억이 나요. 또 하나는 고슴도치 인형인데 루비(천사소녀 네티에 나오는 고슴도치)라는 이름을 붙여주고 매일 이런저런 이야기를 했던 기억이 나요.

전자렌지만큼 특이한 상상 친구가 있었던 분 계신가요? 상상 속의 친구를 되살린다면 어떤 모습으로 되살리고 싶은가요? 섬뜩하고도 흥미로운 루카스의 여정 재밌게 읽으셨나요? 함께 나누고 싶은 이야기가 있다면 '디스코드' 채널에 남겨주세요!

🎉 함께 축하해주세요!

XR 다큐멘터리 시리즈 ‘미싱 픽쳐스(Missing Pictures)’가 세계 3대 이머시브 페스티벌 중 하나인 2022 트라이베카 영화제 이머시브 경쟁 부문에 공식 초청되었습니다. 아틀라스 파이브(AtlasV)와 공동 제작하고 끌레망 드뇌 감독이 전체 연출을 맡았으며, 기어이는 전체 시리즈 중 4~5편을 제작했습니다.

🎬 4편 ‘미싱 픽쳐스 에피소드 4: 이명세, 아버지가 사라졌다’
🎬 5편 ‘미싱 픽쳐스 에피소드 5: 가와세 나오미, 오 데부’