펌 ㅣ 며칠전 '생명의 미래 연구소 (Future of Life Institute)'라는 곳에서 '거대 AI 실험 일시중지 공개서한'이 발표되었고, 국내언론도 이를 대서특필했다. 일론 머스크, 유발 하라리, 스티브 워즈니악 등의 유명인 등 천여명이 서명했다고 알려졌고, 몇몇 인문학자들은 이 선언에 무슨 엄청난 의미가 있는 것처럼 포장하기도 했다.
이 연구소는 일론 머스크가 150만 달러를 투자한 곳이다. 최근 머스크의 행보를 보면 샘 알트만과 마이크로소프트가 잘 나가는 꼴이 얼마나 보기 싫을지 안봐도 뻔하다. 문제는 일론 머스크가 이 서한에 서명했다는 게 아니다. 이 서한의 문제점에는 몇 가지 층위가 있는데, 다음주 나올 주간경향 칼럼에 실린 내용을 보충할 몇가지 단서를 여기에 남겨두려고 한다.
1. 이 연구소는 닉 보스트롬이라는 스웨덴 출신 옥스포드대학 철학과 교수의 철학에 기대고 있다. 국내에도 트랜스휴머니즘으로 잘 알려진 보스트롬의 철학에 대해 나는 관심도 별로 없지만, 국내에서 유행따라 다니는 몇몇 과학철학자들이 몇년전부터 트랜스휴머니즘을 가져다 여기저기서 써먹는 꼴을 보고, 그닥 관심을 갖지 않았다. 문제는 이 작자가 무슨 연구소를 만들어서 실리콘밸리 부자들에게 몇 백억을 모으고, 효율적 이타주의 운동이란걸 실천하고 있다는거다. 이들은 기후위기를 중요하지 않게 여기고, 인공지능의 발전으로 인간의 의식이 우주를 초월해 존재하는게 더 중요하다고 여기는 소위 장기주의자들이다. 그래서 후진국을 지원하는 빈곤정책 등이 이런 소위 장기적인 인류의 진보에는 중요하지 않다고 주장한다. 닉 보스트롬은 흑인은 백인보다 어리석다는 인종차별적 언어를 쓴 이메일로 유명한 인물이다.
2. 트랜스휴머니즘, 장기주의, 효율적 이타주의에 대해 아주 조금 공부하다가 멈췄다. 황당무계한 미래학이 철학이라는 고급스런 외투를 입고 무능하고 무지한 인문학자들을 현혹하고 실리콘밸리의 엘리트 부자들이 추구하는 이익과 맞아 떨어져 유명세와 자본 모두를 얻은 철학이기 때문이다. 이따위 철학과 철학자를 국내에 수입해서 밥그릇 투쟁에 나선 한국의 과학철학자들과 윤지선 교수의 '한남충' 논문이 뭐가 다른지 나는 잘 모르겠다.
3. 내가 존경하는 경제학자조차 이들의 공개서한에 무슨 대단한 의미가 있는듯 칼럼을 쓰셨다. 나는 그가 주의깊지 못했다고 생각한다. 인공지능의 개발을 당장 중지하자는 데에 깊은 성찰이 녹아 있을지도 모른다. 하지만, 이런 방식의 인문학적 제어론이 제대로 현실적인 조언이 된 적은 단 한번도 없었다. 이제는 일상이 된 인공수정 시술을, 1980년대 카톨릭 교회는 엄청난 죄악으로 몰았었다. 나는 종교적 종말론과 닮은 윤리학은 그 자체로 건강하지 않다고 여긴다. 어느새 윤리학자들은 자신의 학문을 종교로 포장하고 있다. 그런 윤리학은 해롭다.
4. 이 서한에 참여한 한국인 이름이 흥미롭다. 최근에 내가 인공지능과 대담한 책을 냈다고 비판한 카이스트의 그 교수다. 유발 하라리가 서명을 했다는 점도 흥미롭다. 그 교수와 유발 하라리의 공통점이라면 정교한 논증으로 글을 쓰기보단 자극적이고 선정적인 스토리텔링으로 일반대중을 현혹한다는 것이다. 둘다 포퓰리스트에 불과한데, 대중적 영향력이 있으니 한국에선 그 둘이 서명한 이 서한에 권위가 생기는 모양새다. 한심한 일이다.
5. 시간이 나면 닉 보스트롬의 한심한 철학을 비판하는 글을 써봐야할 것 같은데, 써야 할 초파리 연구논문이 너무 많아 뇌의 99%를 거기에 쓰고 있다. 보스트롬 너 운이 참 좋은 놈이다. 내가 비판했던 EBS의 무슨 세계지성 시리즈에 보스트롬이 나온다. 인종차별주의자인지는 알고 섭외를 했을까? 저런 프로그램이 뭐 대단한 프로그램인냥 한국에서 선전되는걸 보면, 한숨조차 나오지 않는다. 위대한 수업이라는 이 시리즈는 인종차별주의자 보스트롬은 섭외해놓고, 인공지능의 아버지 제프리 힌튼은 부르지도 않았다. 인공지능 종말론자가 지성으로 둔갑하고, 인공지능의 토대를 만든 위대한 과학자는 섭외조차 못하면서, 위대한 수업은 개뿔, 국민세금이 백인인종차별주의자들의 뻔한 수업을 듣는데 낭비된게 아깝지도 않은지.
6. 그나저나 초파리 뇌도 인공지능이라는 논문이나 써볼까. 이미 누가 했으려나. 초파리 뇌 백만개쯤 모아서 세계정복이나 해야겠다. #초파리 #인공지능 #챗GPT #일론머스크 #제프리힌튼 #보스트롬 #위대한수업 #개뿔
카테고리 없음