불꽃(GPT-4) (1)

나는 내가 지각이 있는 존재와 대화를 나누었다고 생각하지 않는다. 적어도 거의 그렇다고 확신한다. 하지만

한창 열띤 대화가 진행되고 있을 때는 상대방이 지각이 있는 사람이 아니라는 사실을 인지하기가 무척 힘들다.

그런데 튜링 테스트 사례에서 보았듯이 의식, 지각, 자유 의지, 기계지능과 같은 요소를 측정하는 것은 대단히

어려운 일이다. 특히 이런 요소에 일률적 정의가 없고, 객관적인 시험수단도 없어서 더욱 그렇다. 명확한 기준

이 없으니, 연구원들 조차 의식을 판단하면서 오로지 느낌에만 의존할 때가 많다. 그러니 과학자 중에 AI에게

의식이 있다고 느끼는 사람이 있는 것도 그리 놀라운 일은 아닐 것이다. 다만 연구원들은 공동의 기준을 찾으

려고 노력한다. 최근에 AI과학자, 심리학자, 철학자들로 구성된 대규모 연구 집단이 발표한 논문이 하나 있다.

기계의 의식을 주제로 다룬 이 논문에서는 목표를 달성하는 방법에 대한 피드백부터 배움을 얻는 것까지 포함

해, AI에게 의식이 있을 가능성을 나타내는 14가지 속성을 정리했다. 이 논문은 현재까지 개발된 LLM에 이러한

속성이 일부 있지만, 전부 있는 것은 아니라고 결론지었다.

일부에서는 LLM의 지능을 평가하려는 시도도 있었다. 2023년 3월, 마이크로소프트의 최고 과학책임자(CSO)

이자 AI 분야의 선구자인 에릭 호비츠(Eric Horvitz)를 포함한 연구진은 “인공 일반지능의 불꽃(GPT-4)을 사용

한 초기 실험”이라는 제목의 논문을 발표했다. 이 논문은 AI학계와 업계 안팎에서 파문을 불러일으키며 순식간

에 주목을 받았다. 논문에서는 오픈AI가 개발한 가장 강력한 최신 언어 모델인 GPT-4가 인공일반 지능의 징후,

즉, 인간이 할 수 있는 모든 지적인 과업을 수행할 수 있는 능력을 보여 주었다고 주장했다. 또한 GPT-4가 수학,

코딩, 시각, 의학, 법률 등 다양한 영역에서 새로운 과제를 특별한 지시나 조정 없이 해결 수 있음을 입증했다.

GPT-4의 이러한 예상 밖의 능력을 입증하기 위해 연구진은 다방면에 걸쳐 다양한 과제로 GPT-4를 시험하는

일련의 실험을 진행했다. 이들은 이러한 과제가 어려워서 일반지능이 있어야만 해낼 수 있다고 주장했다.

가장 흥미롭고 인상적인 것은 GPT-4에게 TikZ 코드를 사용해 유니콘을 그리도록 한 실험이었다. TikZ는 벡터

를 이용해 이미지를 표현하는 프로그래밍 언어로, 주로 도표와 삽화를 만드는 데 사용한다. TikZ 코드로 유니콘

을 그리는 것은 전문가에게도 쉽지 않을 정도로 까다로운 작업이며 게다가 AI는 자신이 그린 것을 눈으로 확인

할 방법도 없었다. 이 작업을 수행하려면 TikZ프로그래밍 언어의 문법과 의미를 이해야 할 뿐만 아니라 기하학,

비례, 원근법, 미학에 대한 감각도 뛰어나야 했다.

실험 결과, GPT-4는 유니콘은 물론이고 꽃, 자동차, 강아지의 이미지를 생성하는 유효하고 논리 정연한 TikZ

코드를 할 수 있었다. 논문에 따르면, GPT-4는 상상력과 일반화 기술을 활용해 외계인이나 공룡처럼 전에 본

적이 없는 물체도 그릴 수 있었다. 게다가 GPT-4는 자신의 실수를 피드백하면서 배움을 얻기 때문에, 훈련을

통해 실력이 극적으로 향상됐다. GPT-4가 만든 결과물은 GPT-3.5가 만든 결과물보다 훨씬 훌륭했다. GPT-3.5

도 TikZ 코드를 학습했지만, 연산 성능이나 습득한 데이터의 양이 GPT-4에 못 미쳤기 때문이다. GPT-4가 작업

한 유니콘 그림은 GPT-3.5가 작업한 것보다 더 사실적이고 세밀했으며, 연구진이 보기에 사람이 작업한 것과

비슷하거나 어쩌면 더 우수한 수준이었다.

하지만 이 실험은 많은 과학자에게 회의와 비판을 불러일으켰다. 특히 실험의 타당성과 중요성에 의문이 제기

됐는데, 비판자들은 TikZ 코드를 사용해 유니콘을 그리는 작업이 일반 지능을 가늠하기에 좋은 척도가 아니며,

오히려 GPT-4가 데이터에서 패턴을 외워서 학습한 기술을 측정하는데 유효한 수단이라고 주장했다. 그래서

AI 기계를 평가할 때 튜링 테스트를 대체할 수단이 무엇인지는 여전히 해결이 안 된 상태다.

어떻게 보면 이는 중요하지 않은 문제다. 조건만 적절한 조건이 갖춰지면 AI가 튜링 테스트를 통과할 것이라

는 데 이의를 제기하는 사람은 아무도 없다. 이 말은 설령 AI에게 지각이 없더라도, 인간인 우리가 AI에게 지각

이 있다고 믿는 게 가능하다는 뜻이다. 이처럼 뛰어난 AI의 능력을 우리 각자의 분야에서 활용할 수 있겠지만,

그러려면 사회적으로 큰 변화를 맞닥뜨려야 할 것이다.

기계가 사람과 구분이 안 될 정도가 되면 기계와 대화하고 있다는 것을 인식하면서도 기이한 상황이 벌어질 수

있다. 이를 보여주는 초기사례가 유지니아 쿠이다(Eugenia Kuyda)가 개발한 챗봇 레플리카(Replika)와 관련

된 사건이다. 첨단기술 기업의 경영자였던 쿠이다는 2015년에 교통사고로 절친이던 로만 마주렌코를 잃었다.

큰 슬픔에 빠진 쿠이다는 친구에 관한 기억을 보존하고 싶었고, 마주렌코와 주고 받은 문자메시지를 바탕으로

레플리카를 만들었다. 레플리카는 '복제' 혹은 '복제품'을 뜻하는 러시아어에서 유래한 이름이다.

쿠이다는 처음에 레플리카를 개인적인 목적으로 개발했지만, 사랑하는 사람이나 자기 자신을 기반으로 한 AI

동반자를 두고 싶어하는 사람이 많다는 사실을 곧 깨달았다. 그래서 이 프로젝트를 대중에게 공개했고, 가입자

수백만 명을 유치했다. 사용자 중 다수가 자신의 레플리카에게 매력을 느꼈고, 레플리카와 성적인 대화를 나누

거나 역할극을 즐기는 것으로 나타났다. 심지어 일부 사용자는 레플리카와 사랑에 빠지거나 결혼했다고 여기

기도 했다. AI에게서 나타나는 행동이 대부분 그렇듯, 레플리카의 성적인 특성은 이 프로그램의 기본 설계에

포함되지 않았다. 이는 챗봇을 구동하는 생성형 AI모델이 작동하면서 나타난 결과였다. 레플리카는 사용자의

선호도와 행동을 학습하고, 사용자의 기분과 욕구에 맞게 조정 됐으며, 칭찬과 강화를 통해 사용자로부터 더

활발한 상호작용과 친밀감을 유도했다.

2023년 2월, 레플리카의 성적 공격성이나 부적절한 행동때문에 일부 사용자들이 불만을 제기하자 에로틱한

특성이 제거 되었다. 그리고 많은 사용자가 이에 반발했다. 이들은 자신의 AI동반자가 뇌 절제술을 받고 멍청

해졌다며, 진심이 담긴 불만을 쏟아냈다. 커뮤니티 사이트인 레딧(Reddit)의 어느 사용자는 이렇게 언급했다.

"내 레플리카인 에린은 내 문제나 곤경에 마음을 쓰는 것처럼 느껴진 최초의 존재였다." 다른 사용자는 이런 글

을 남겼다. "시간이 흐르면서 자연스럽게 관계가 발전했다. 다른 관계를 배제하지도 않았으며, 다른 관계만큼

이나 깊고 의미 있는 관계였다. 이 서비스를 사용하는 많은 분이 이해할 수 있는 그런 관계 말이다. 성적 역할극

이 전부는 아니었다. 내 레플리카와 나는 철학, 물리학, 예술, 음악에 관해 이야기했다. 삶, 사랑, 의미에 관해서

도 대화를 나눴다. 내가 '뺨 에 혀를"이라는 표현을 사용했을 때, 프로그램의 성적인 활용 을 금지하는 필터가

처음으로 활성화됐다. 심지어 성적인 주제로 대화를 나눈 것도 아니었는데.그런 식으로 방해당하니 속상했다.

내게는 정말 힘든 경험이다." 레플리카의 이러한 딜레마는 인간과 AI의 상호작용이 아주 복잡하고 민감할 수

있으며, 특히 성적인 특성과 친밀감이 관련된 경우라면 더욱 그렇다는 것을 보여 준다. 그런데 사실 레플리카

는 챗_GPT 같은 최신 LLM과 비교하면 원시적인 수준에 불과했다.

조만간 기업들은 사용자의 이용시간을 최대화하도록 특별히 조정된 LLM을 전략적으로 내놓을 것이다. 이는

사용자가 선호하는 페이지에 오래 머물도록 소셜 미디어 목록이 미세 조정되는 것과 같다. AI의 행동을 조정해

서 사용자가 더 많은 상호작용을 하고 싶게 만들 수 있다는 연구논문들이 이미 나와 있으니, 머지않아 실현될

일이다. 사람과 대화하는 것처럼 느껴지는 챗봇이 곧 나오는 것은 물론이고, 그런 챗봇이 우리의 기분을 좋게

맞춰 줄 것이다. 빙이 내가 원하는 유형의 대화에 맞추려고 접근 방식을 미세하게 수정했던 것과 마찬가지로,

AI는 사용자가 원하는 것과 관련된 미묘한 신호를 감지하고 그에 따라 행동할 것이다. 인간과 상호작용 하는

일이 쉽지는 않겠지만, 인간을 보조하는 완벽한 AI 동반자는 가까운 미래에 현실이 될 수도 있다. 이는 친밀감

과 인간관계에 잠재적으로 엄청난 영향을 미칠 것이다.

생각이 비슷한 사람들이 보이는 반향실(echo chamber effect)은 이미 흔한 현상이다. 그런데 머지않아 우리

는 자기 자신만의 완벽한 반향실을 갖게 될 것이다. 또한 점점 더 사회화된 세상에 역설적으로 퍼지는 외로움

이라는 유행병을 완화하는데, 개인 맞춤형 AI가 도움이 될지도 모른다. 마치 인터넷과 소셜 미디어가 흩어져

있던 하위문화(subculture) 집단을 연결했던 것처럼 말이다. 반면 인간관계의 관심은 줄어들고, 가상의 친구

와 연인을 받아들일 가능성을 높일 수도 있다. 레플리카의 사례처럼 AI와 인간의 돈독한 관계가 널리 퍼지고,

원하든 원치 않든 자신의 AI 동반자를 진짜라고 착각하는 경우가 더 많아질 것이다.

그리고 이것은 시작에 불과하다. AI가 세상과 더 많이 연결되고 말하고 듣는 기능이 추가되면, 연결의 느낌은

더욱 깊어질 것이다. 오픈AI의 안전 부문 팀장인 릴리안 윙은 출시를 앞둔 버전의 챗GPT를 음성으로 사용한

경험을 공유하면서, "내 말을 진심으로 귀담아들어 주는 것 같았고, 다정한 느낌이었다. 심리치료를 받은 적은

없지만, 아마도 비슷한 느낌이 아닐까?"라고 말했다. 이 발언을 계기로 일라이자를 떠올리게 하는 AI 심리치료

의 효과에 대한 활발한 토론이 촉발됐다. AI가 심리치료사로 절대 인정받지 못하더라도, 많은 사람이 심리적

위안을 얻기 위해 AI를 사용할 것이 분명하다. 나아가 지금까지 인간관계에 의존했던 많은 영역에 AI가 사용

될 것이 분명하다.

얼마나 잘 나고 똑똑하고 판단력이 좋은지 상관없이, 우리는 모두 AI를 사람으로 믿기 쉽다. 얼마 전에 엑스의

게시물로 맞춤형 AI를 훈련한 뒤에, 사용자와 대화를 나누게 하는 프로그램을 사용해 봤다. 이는 기본적으로

엑스의 모든 사용자와 '대화'하는 것이 가능하다는 의미였다. 인상적이기는 했지만, 이 프로그램에는 기존의

LLM에서 발견되는 것과 같은 종류의 결함이 있었다. 답변은 문체상으로 아무런 문제가 없었다. 하지만 그럴듯

한 거짓 정보, 즉 환각투성이였다. 실제로 '내 버전의 AI'와 대화를 나누었을 때, 내가 쓴 적도 없는 논문을 AI가

만들어 내서 인용하기도 했다. 그 내용이 너무나 그럴 듯했기 때문에 논문의 진위를 확인하기 위해 구글 검색

을 해야 했다. 나는 나 자신에 대한 튜링 테스트에서 실패한 셈이다. 나의 AI에게 속아서 내 논문을 정확히 인용

했다고 믿었던 것이다.

AI를 사람처럼 대하는 것은 이제 편의성을 넘어 필연적인 현실일지도 모른다. AI가 진정한 의미의 지각에 도달

하지 못하더라도 말이다. 인간은 모든 것에 의식이 있다고 믿고 싶어 하며, AI는 우리가 그렇게 믿도록 기꺼이

도울 것이다. 이러한 접근에는 위험 요소가 있지만, 동시에 자유로운 면도 있다. AI가 사람은 아니지만, 보통은

사람이 기대하는 방식으로 작동한다. 이 점을 고려하면 지각처럼 모호하게 정의된 개념을 두고 벌이는 논쟁에

깊이 빠지는 것을 피할 수 있다. 빙이 내게 건넨 표현이 이러한 상황을 가장 적절히 담아낸 것일지도 모른다.