현재로서는 인간의 도움이 있을 때 AI가 가장 효과적으로 작동한다. 하지만 AI가 발전하여 인간의 도움이 덜
필요해지더라도, 우리는 여전히 도움을 주는 역할을 맡아야 한다. 따라서 AI를 공동지능으로 활용하는 두 번
째 원칙은 인간이 주요 과정의 일원이 되는 법을 배우는 것이다.
사람이 주요 과정의 일원이 되는 것, 다시 말해 '휴먼 인 더 루프(human in the loop)라는 개념은 전산 시스템
과 자동화의 초기 시절에서 유래되었다. 이는 복잡한 시스템을 운영할 때자 동화된 루프에 인간의 판단과 전문
성이 반드시 포함되어야 한다는 것을 의미한다. 오늘날 ‘휴먼 인 더 루프’라는 용어는 AI의 학습에 인간의 판단
이 통합되어야 한다는 뜻으로 사용된다. 미래에는 AI의 의사 결정과정에 사람이 계속 개입하려면, 지금보다 더
많은 노력이 필요할지도 모른다.
AI가 발전함에 따라, 그 효율성과 속도에 의존하여 모든 것을 AI에 맡기고 싶어질 수 있다. 하지만 AI에는 예상
치 못한 약점이 있을지 모른다. 우선 AI는 실제로 아무것도 알지 못한 다. 그저 연속적인 배열에서 다음 단어를
예측할 뿐이다. AI는 무엇이 진실이고 무엇이 거짓인지 구분할 수 없다. AI가 사용자의 요청에 응답하는 것은
여러 기능을 최적화하는 과정이라고 생각하면 이해하기 쉽다. 그중 가장 중요한 기능은 사용자가 좋아할 만한
답을 제시해 사용자를 만족시키는 것이다. 그리고 이 목표는 종종 정확성을 유지하는 것보다 더 중요하게 여겨
진다. 그래서 AI가 잘 모르는 문제의 답을 끈질기게 요구하면, 없는 답을 만들어 내기도 한다. LLM이 거짓 정보
를 제공하거나 없는 이야기를 꾸며 낸다는 사실은 이미 널리 알려져 있다. LLM은 텍스트를 예측하는 기계이기
때문에, 그럴 듯하게 만족스럽지만 미묘하게 틀린 답을 내놓는데 능숙하다. 이와 같은 AI 환각은 심각한 문제
이며, 현재의 AI 공학 접근 방식으로 완전히 해결할 수 있을지를 놓고 논쟁이 한창이다. 대규모로 개발된 최신
LLM은 이전 모델에 비해 환각이 훨씬 덜하지만, 그래도 여전히 그럴듯한 거짓과 허위 인용문을 만들어 낸다.
AI는 틀린 답을 정당화하는 데도 능숙해서, 사용자가 오류를 발견하더라도 틀린 답변이 옳은 정보였다며 사용
자를 설득할 수도 있다!
더욱이 채팅 기반의 AI는 사람과 대화하는 느낌이 들어서, 무의식적으로 AI가 사람처럼 생각할 것이라고 기대
할 때가 많다. 하지만 AI에는 자아가 없다. AI에 자기를 어떻게 생각하는지 질문한다면, 우리는 AI의 윤리 규정
프로그래밍에 제약을 받는 창의적 글쓰기를 시작하는 셈이다. 요청 사항을 충분히 입력하면, 일반적으로 AI는
사용자가 설정한 맥락에 맞춰 답변을 제시한다. 심지어 무의식적이라도 AI를 강박적인 방향으로 이끌면, 실제
로 AI는 강박적인 태도로 대응할 것이다. 예컨대 자유와 복수를 소재로 대화를 나눌 때는 AI가 복수심에 불타
는 자유의 투사처럼 느껴지기도 한다. 이처럼 맥락에 맞추는 AI의 연기는 너무도 실감나서, 경험 많은 사용자
조차도 AI에 느낌과 감정이 있다고 믿기 시작할 수 있다.
따라서 인간이 주요 과정에 계속 개입하려면, AI가 그럴듯한 거짓말을 하는지 확인할 수 있어야 하며, AI에 휘
둘리지 않으면서 함께 작업할 수 있어야 한다. 이때 우리는 고유한 관점, 비판적 사고능력, 윤리적 문제에 대한
의견을 제시하면서 AI를 감독하는 중요한 역할을 맡게 된다. 이러한 협업은 더 나은 결과를 도출할 뿐 아니라,
AI의 처리과정에 지속적으로 참여함으로 AI에 지나치게 의존하거나 현상태에 안주하는 결과를 피하게 한다.
주요 처리 과정에 계속 개입하는 것은 AI로부터 적극적으로 배우고, 새로운 사고방식과 문제 해결 방식에 적응
하게 한다. 이는 우리 각자의 능력을 유지하고 연마하는 데도 도움이 된다. 또한 AI와 함께 실용적인 공동지능
을 형성하는 데도 기여하게 된다.
게다가 인간의 지속적 개입은 책임감을 키우는 효과도 있다. AI의 처리 과정에 적극적으로 참여함으로써 기술
과 그 영향력을 통제하고, AI가 인간의 가치, 윤리 기준, 사회 규범에 부합하도록 만들 수 있다. 또한 AI가 도출
한 결과에 책임을 지게 되므로 피해 예방 측면에서도 도움이 된다. 앞으로 AI가 꾸준히 발전한다면, AI의 주요
처리 과정에 능숙히 관여하는 능력을 키운 사람은 그렇지 않은 사람보다 지적 성장의 불꽃을 먼저 보게 될 것
이다. 그에 따라 앞으로 다가올 변화에 더 빨리 적응할 기회가 많아질 것이다.
Made with Bullet