필수정보

AI 발전 전망을 둘러싼 대논쟁의 시대
AI 빅뱅을 인문학 르네상스로 역전시키는 철학자 김재인의 날카로운 통찰

2023년 3월 챗GPT-4의 등장으로 AI 발전 전망을 둘러싼 논쟁이 뜨겁다. 인간이 만든 기술이 인간을 압도할지 모른다는 공포가 전문기술 분야와 학계, 일상에 가득하다. AI 대부이자 딥러닝 개념을 처음 고안한 제프리 힌튼 교수는 올 5월 AI 위험성을 자유롭게 말하기 위해 구글을 떠난 바 있으며, 미국 의회에서 처음 열린 AI 청문회에서 오픈AI CEO 샘 올트먼은 통제되지 않은 AI가 세상에 악영향을 미칠 수 있다고 경고한 바 있다. 인간은 과연 기계에 지배당할 것인가? 인류에게 미래는 있는가? 오랜 기간 과학기술의 변화를 분석해온 철학자 김재인은 논쟁의 구도를 “기계가 인간을 능가할 수 있는가?”라는 지배 담론에서 “인간은 어떻게 기계와 공생할 수 있는가?”라는 대안 담론으로 바꾸는 혁신적인 시도를 한다. 주어를 기계가 아닌 인간으로 두고 사유하는 저자의 인문학적 통찰은 AI 발전을 둘러싼 대논쟁에서 놓치고 있는 위기의 본질을 직시하게 만든다. 생성 인공지능의 원리를 통해 한계를 도출하고, 그 한계에서 인간의 고유함을 돌아보는 이 책은 인공지능에 대한 최상의 안내서로 기능할 것이다. AI 빅뱅 시대를 역설적으로 인문학 르네상스로 보는 철학자 김재인의 시선에서 위기에 대응하는 철학의 쓸모와 반등하는 인문학의 힘을 느낄 수 있을 것이다.

추천의 글 · 004
프롤로그: 생성 인공지능이 제기하는 문제들 · 016

1부생성 인공지능의 빛과 그림자
─인공지능의 발전 현황과 한계

1장 이미지 생성 인공지능과 예술 창작의 문제 · 032
2장 언어 생성 인공지능이 놓친 언어의 본질 · 076
3장 인공지능은 왜 눈치가 없을까: 인공지능의 원리와 한계 · 114

2부창조성의 진화
─새로운 인문학과 융합 교육

4장 창조성과 창의적 협력 · 168
5장 인문학 패러다임의 변화: 확장된 인문학으로 · 214
6장 교육과정의 재편: 협업을 위한 융합 교육 · 264

에필로그: 위기는 인공지능에서 오지 않는다 · 300

부록
1. 통제할 수 없는 인공 초지능의 갑작스러운 등장에 관한 고찰 · 306
2. 인공지능 윤리는 장식품이 아니다: 윤리의 산업적경제적 전략 측면 · 322
3. 「계산 기계와 지능」 번역 · 332

출처참고문헌 · 374감사의 말 · 386

김재인 (지은이)

인문학의 시선으로 AI 발전을 분석해온 철학자 김재인
AI 빅뱅을 위기가 아닌 기회로 포착하는 혁신적인 담론을 시작한다

바야흐로 AI 대폭발의 시대다. 대화형 인공지능 챗GPT가 선도하는 생성 인공지능의 발전 속도는 가히 우리의 상상력을 뛰어넘는다. 2021년 1월 달리(DALL-E), 2021년 10월 디스코디퓨전(Disco Diffusion), 2022년 3월 미드저니(MidJourney), 2022년 4월 달리 2(DALL-E 2), 2022년 8월 스테이블디퓨전(Stable Diffusion), 2022년 11월 챗GPT, 그리고 2023년 3월 챗GPT-4까지 그림, 언어, 음악, 영상을 생산하는 인공지능 기술이 삽시간에 발전하고 있다. 더욱이 생산물의 질 또한 뛰어나서 어떤 것이 인간의 작품이고, 어떤 것이 인공지능의 작품인지 가늠하기 힘들 정도다. 도리어 인공지능이 그린 작품이 유명 대회에서 우승을 차지하기도 했다. 인간이 만든 기술이 인간을 압도할지 모른다는 공포가 전문기술 분야와 학계, 대중의 일상 속으로 급속히 퍼지고 있다. 인간은 과연 기계에 지배당할 것인가? 인류에게 미래는 있는가?
오랜 기간 과학기술의 변화를 분석해온 철학자 김재인은 논쟁의 구도를 “기계가 인간을 능가할 수 있는가?”라는 지배 담론에서 “인간은 어떻게 기계와 공생할 수 있는가?”라는 대안 담론으로 바꾸는 혁신적인 시도를 한다. 주어를 기계가 아닌 인간으로 두고 사유하는 저자의 인문학적 통찰은 AI 발전을 둘러싼 대논쟁에서 놓치고 있는 위기의 본질을 직시하게 만드는 힘이 있다. 철학의 사회적 개입을 몸소 실천하며 경계를 넘는 소통을 끊임없이 시도한 철학자 김재인. AI 빅뱅을 맞는 새로운 역사적 국면에서 그의 통찰과 개입은 그 어느 때보다 날카롭다.

생성 인공지능의 가능성과 한계를 ‘원리의 관점’에서 분석
창작과 언어의 본질을 탐색하며 초거대 언어모델의 한계를 밝힌다

저자 김재인은 영국의 천재 수학자 앨런 튜링의 논문 〈계산 기계와 지능〉의 첫 문단(“기계는 생각할 수 있을까?”로 시작하는 문단)을 패러디하면서 다음과 같은 물음을 던진다. “인공지능은 예술작품을 창작할 수 있을까?” 이 물음은 인공지능의 본질과 능력, 나아가 인간적 의미의 창작과 창조의 본성을 밝히는 데 중요한 함의를 갖는다. 저자는 딥드림과 넥스트 렘브란트, 그리고 이 둘의 한계를 지적한 럿거스 팀의 AICAN 원리를 자세히 살펴보면서 지도학습에 기반한 예술 창작 모델의 근본적인 한계를 지적한다. 그 한계는 바로 작업의 목표가 내부가 아닌 외부에서 주어진다는 사실에서 비롯하며, 예술 창작의 관점에서 말하면 작가가 자기 작품을 ‘평가’하지 못하는 한계로 귀결된다. 창작 의도가 없는 작가가 외부 요청으로 그린 그림을 자기 평가할 수 있는가? 그 평가는 오직 요청한 사람만이 할 수 있을 것이다. 이는 예술 창작의 주체인 작가의 관점을 완전히 배제하는 문제를 낳는다. 저자가 인용하고 있는 “하나의 작품은 작가가 그 안에서 자기 의도에 도달할 때 만족된다(렘브란트)”, “하나의 그림이 완성됐다고 판단할 권리는 화가에게 있다(곰브리치)”라는 문구는 인간과 대비되는 이미지 생성 인공지능의 한계를 극명히 보여준다.
저자는 멀티모달을 포함한 생성 인공지능의 초거대 언어모델이 결국 인간 언어의 한계에서 벗어날 수 없다는 문제를 지적한다. 언어가 세계를 그대로 반영할 수 없는 존재론의 한계가 분명하기 때문이다. 언어로 지어진 인공지능의 세계 존재는 오류와 잘못된 정보로 지어진 ‘언어의 집’에 불과하다. 저자는 비트겐슈타인과 촘스키 언어관과 크게 다르지 않은 초거대 언어모델을 들뢰즈와 과타리의 언어철학을 통해 비판하면서 언표가 지닌 일차적 의미에서 벗어난 화행론의 시각에서 언어를 볼 것을 주장한다. 저자의 이런 관점은 언어 생성 인공지능이 불러일으킨 문제들, 가령 이해, 생각, 요약, 번역, 의식, 창조 같은 민감한 주제에서 드러나는 인간과 기계의 차이를 명확히 볼 수 있게 해준다.

인간 고유의 특성이 전문성이 되는 시대
협업을 위한 새로운 인문학 구축과 교육과정 개편이 시급하다

인공지능의 한계는 곧 인간을 돌아보는 계기가 된다. 저자는 가치를 평가하고 새로운 가치를 창출하는 인간 고유의 특성인 ‘창의성/창조성’을 예술 개념의 정립사를 통해 고찰한다. 창의와 모방의 대립 속에 정립된 근대의 예술 개념은 창의성의 존중으로 귀결되어 개인을 발견하는 성취를 이뤄냈다. 하지만 저자는 칙센트미하이, 베이트슨, 르루아구랑, 푸엔테스의 연구 결과를 살피며 인간종의 창의성은 개인을 중심으로 한 근대의 관점에서가 아닌 집단을 중심으로 한 생물학 및 인류학의 관점에서 이해되어야 한다고 주장한다. 집단을 통해 보존되고 개선되고 전승되는 창의성은 창의적 협력의 결과며, 인간종은 이런 협력을 통해 진화하고 발전해왔다.
그렇다면 인간 최고의 발명품인 AI가 도구로 활용되는 이 시대에는 어떤 방식으로 창의적 협력을 해야 할까? 저자는 자기 전문성을 갖추고 협업할 수 있는 인재 양성을 주장한다. 챗GPT의 사용자 경험에서 드러나듯 생성 인공지능은 그것을 활용하는 인간의 전문성에 따라 매우 다른 결과를 산출한다. 검색 능력의 차이가 질문 능력의 차이로 변화했고, 이런 질문 능력은 전문성에서 비롯한다. 잘 아는 만큼 잘 활용할 수 있다는 얘기다. 그러면서 저자는 협업을 위한 기초역량 강화 방안으로 새로운 인문학 구축과 교육과정 개편을 제시한다. 문사철로 통용되는 인문학을 언어, 문학, 역사, 철학, 수학, 자연과학, 사회과학, 예술, 디지털을 흡수하는 ‘확장된 인문학으로 재편’하고, 빼기식 교육을 고수하는 ‘문과 폐지로서의 교육과정 개편’이 반드시 필요하다고 본다. 이런 시급한 시대 요청을 외면한 채 학문 사대주의에 빠져 있는 한국 학계, 자기 전공을 벗어나지 않으려는 타성에 젖은 대학 사회, 칸막이식 교육을 고수하는 교육 체제에 가하는 저자의 일침은 매우 따끔하다.

시대의 요청에 응하는 인문학
쓸모없는 인문학에서 인문학 르네상스로

“인공지능과 관련된 인간의 반응을 보면 인간이 무엇인지 좀 더 분명하게 보이는 것 같아서 흥미롭습니다. 그런 탐구가 철학과 인문학의 몫이니까 이런 때야말로 더더욱 개입해야 하겠고요. 그런 개입이 꼭 필요한 시기가 많지는 않거든요. 역사를 보면 과학 혁명 시기가 그랬고, 서양 근대 형성 시기가 그랬고, 세계 전쟁 시기가 그랬습니다. 이런 중요한 때 여러 사고실험이 있었고, 그 결과물이 수백 년 동안 영향을 끼쳤습니다. 아마 지금이 우리가 경험하고 있으면서도 동시에 근대 세계를 벗어나 인간을 다시 생각하게 하는 시점이 아닌가 싶습니다. 인공지능이 중요한 계기지요.” (‘Q&A 짚어보기 #3’ 중에서)

AI 빅뱅 시대를 역설적으로 인문학 르네상스로 보는 철학자 김재인. 이 책에서 독자는 위기에 대응하는 철학의 쓸모와 반등하는 인문학의 힘을 느낄 수 있을 것이다.