일단 이 글은 꽤나 오래전에 쓴 글입니다.
동기녀석(지금은 서울대에서 박사과정중)의 싸이에
인공지능 떡밥(?)이 있어서 당시 생각했던 것들을 두서없이 풀어썼는데 그래서 문체는 친구에게 보내는 편지(?)같은 느낌이 되었습니다.
일단 이 문제는 생각하면 생각할수록 골때리는 문제라는 것이지.
일단 나는 이 문제를 종교와 철학적인 측면에서부터 접근하곤 하는데, 공학하는 사람들은 기술적인 문제부터 생각하기 마련이고, 순수과학 하는 사람들은 너무 이론적이고 추상적으로 얘기하는 경향이 있어서 합의점 찾기가 쉽지 않은 것 같다.
언제나 그렇듯 직접 쓰는 글은 생각의 흐름을 따르므로 중구난방이다. 그냥 정리라도 되라고 쓰는 글이니-_-(내 싸이에 안쓰는 이유는 여기가 더 잼있을거 같아서 ㅋㅋ)
일단 우리 교수님은 인공지능에 관련된 내용도 배경지식에서 크게 벗어나지 않았다. 얘기하다보니 실현 가능성보다도 실현되었을 때의 영향력에대한 우려에 대한 얘기가 더 많았고.
내 생각은 영향력이니 뭐니 이런 것들을 제껴놓고 단순한 질문에서 시작한다. 이것은 지능, 특히 인공지능을 떠난 얘기이다.
일단 지능이나 인공지능을 어떻게 정의하느냐에 따라 논점이 흐려질 것이므로.
질문은 단순하다.
"사람의 행위를 흉내내는 machine을 만들 수 있을 것인가"
Urasawa Naoki(몬스터, 20세기 소년의 작가)의 최신작 플루토라는 만화를 보면 인간의 행위를 그대로 흉내내는 로봇이 등장한다. 어떻게 구현했느냐는 나와있지 않고 그냥 그런 로봇이 인간과 같이 사는 세상에 대한 얘기인데 거기에 아주 인상적인 장면이 하나 있다.
아톰이라는 소년 로봇이(물론 우주소년 아톰에 대한 오마주이다) 달팽이를 신기해하며 관찰하고 선물을 받은 소년을 부러워한다.
과연 호기심이라는 것을 흉내낼 수 있을까?
인간의 행위를 관찰해보자. 사고를 하는 뇌의 작용을 관찰해 보자.
물리화학적인 내부 시냅스의 정보 전달은 둘째치고 일단 우리의 뇌가 생각하는 과정을 보면 어느정도 힌트가 있지 않은가.
일단 인간의 뇌와 척수처럼 인간을 흉내내기 위해서는 서로 다른 작업을 하면서 긴밀하게 연결되는 프로세서들이 필요하다.
인간이 숨을 쉬는 것은 대뇌의 명령으로 이뤄지진 않지만 대뇌의 명령으로 숨을 조절할 수 있다. 평형 감각 역시 대뇌가 직접 관여하지 않는다. 감각에 대한 일부 제어도 마찬가지이다. 그런데 왜 인공지능을 연구하고 구현하면서 프로세서(혹은 프로세스)의 분리를 기본적으로 생각하지 않는 것인가.
난 이것이 당연히 분리되어야 한다고 생각한다.
인간의 뇌가 대뇌, 소뇌, 간뇌, 척수의 연결로 되어 있고 그 기능이 분리되어 있다면(물론 긴밀하게 연결되어 있지만) 그렇게 접근하는 것이 어찌보면 당연한 것이 아닌가 말이다.(지금도 휴머노이드 로봇을 구현하기 위해 많은 프로세서가 사용되기는 하지만 그것은 메인 프로세서에서 오는 명령을 해석하고 수행하고 결과를 돌려줌으로써 메인 프로세서의 부담을 덜어주기 위한 목적이 크다.) 감각을 관장하는 모든 센서는 척수와 연결되어 센싱된 입력값의 최대값이 한계치를 넘지 않도록 하는 기능을 부여하고, 다른 뇌와 직접적으로 연결하여 입력값의 분해능을 조절할 수 있도록 하는 기능이 감각기능 구현에 있어서 꼭 필요한 기능이라고 본다. 인간은 대뇌가 인식하지 못하면 다른 감각기관의 입력값을 거의 인지하지 못한다. 즉 대뇌가 필요 없다고 생각하면 센서의 분해능은 떨어져야하고, 대뇌가 더 많은 정보를 요구하면 더 높은 분해능으로 동작해야 한다. 물론 이것이 소프트웨어적으로도 가능하지만 더 인간에 가까우려면 하드웨어적인 받침이 있어야 할 것이다.
소화기관이 대뇌의 명령에 독립적으로 동작하듯 몇 몇 기능들은 메인 프로세서의 제어로부터 완전히 독립되어야 한다.(엄밀히 말하면 완전 독립은 아니다. 신경을 많이 쓰면 배탈이 나는 것 처럼 영향은 분명히 주지만 직접적인 제어는 불가능하게 하는 것이다.)
가장 중요하다고 볼 수 있는 대뇌의 작용은 분명히 좌반구와 우반구의 역할이 구분된다. 다른 사람은 어떨지 모르겠지만, 분명히 뭔가 결정을 해야할 일이 있거나 생각을 할 때, 단 하나의 생각만 떠오르지는 않는다. 내가 이 글을 쓰고 있으면서도 끊임없이 다른 생각이 떠오른다. 마치 두 개의 존재가 싸우고 있는 것처럼. 난 다른 사람에게 인간은 기본적으로 이중인격을 가지고 있다고 말하곤 하는데, 진정한 의므로 난 인간이 이중인격이라고 생각한다-_-; 머리속에서 두 개의 내가 끊임없이 교류하고 싸우고, 타협하고, 결정하고, 후회하고, 위로하는 것이다.
이것이 또 하나의 실마리라고 본다. 우리는 인간의 행위를 흉내내기 위해 두 개의 처리장치가 필요하다. 하나는 좀 더 논리적인 놈이고(튜링 머신에 가까운 놈), 또 하나는 좀 더 즉흥적이고 감각적인 놈이다. 즉흥적이고 감각적이라는 것은 예측 불가능성을 내포하고 있는 녀석으로 쉽게 얘기하면 의도적으로 치명적이지 않은 엉뚱한 결론을 내는 놈이라고 보면 되겠다. 뭐 그 방법은 확률적인 방법이 아닌 혼돈 이론에 좀 더 충실한 놈이 될 것이다. 이 두 개의 프로세서는 서로 긴밀히 연결되어 있으면서도 서로 다른 예측을 한다. 하나가 논리와 과거 경험으로부터 결론을 도출하면, 다른놈은 논리와 임의적인 사고의 점프가 동시에 일어나면서 결론을 도출하는 것이다. 이것이 제한적인 시간 내에 이르면 논리적인 놈이 더 높은 우선순위를 가지고 선택된 작업을 수행하는 것이다.
뭐, 말로는 간단한데...이것을 실제로 구현하기 위해서는 몇 가지 전제가 필요하다.
기존의 튜링 머신의 한계를 극복할 수 있느냐...
현재 구현된 A.I.는 컴퓨터를 기반으로 한다. 컴퓨터라는 놈이 원래 스테이트 머신인지라 이놈은 천성적으로 제한을 갖는다. 즉 정해진 스테이트 위에서는 아주 잘 노는데, 그게 다라는 것이다. 스테이트는 오직 또다른 스테이트라고 볼 수 있는 인간에 의해서 새로 생성되거나 없어질 수 있다. 뉴럴 네트워크도 결국은 확률기반의 스테이트 머신일 뿐이다.
기존 튜링 머신의 한계를 극복하기 위해서는 근본적으로 다음과 같은 일이 가능해야 한다.
1. 입력정보를 단순화하는 알고리즘이 있어야 한다.
2. 기존의 알고리즘으로부터 새로운 알고리즘을 만들 수 있어야 한다.
위에서 1번은 결국 여러 state를 하나의 super state로 뭉칠 수 있어야 한다는 것을 의미하고
2번은 기존의 state들로부터 새로운 state를 만들 수 있어야 함을 의미한다.
위의 일이 가능하다면, 인간의 흉내(올바른 인간은 아닐지라도 -_-)를 내는 처리장치를 만들 수 있을 것이라고 본다. 하지만 과연 가능한가...
아무것도 없는 상태에서 위의 일이 가능하지는 않을 것이다.
하지만 어느정도 input에 대한 알고리즘이 적절하게 정의되어 있다면? 기본적인 알고리즘 후에는 새로 입력되는 input에 따라 위의 1,2를 반복한다면?
내가 어제의 나로부터 연속적인 존재이냐 아니냐는 종교와 철학계에서 오랫동안 다뤄진 문제 가운데 하나이다. 이게 참...어렵다. 지금까지의 내가 27~8년전부터 존재하는 나인지 어디서 뚝 떨어져서 오늘 아침 잠에서 깬 순간부터 존재하는 것인지 확인할 방법이 없다. 다만 내 머리속의 기억과 그 기억에 합당한 주변 상황이 내가 연속적으로 존재하고 있다고 느끼게 할 뿐이다.
내가 오늘 책상에서 업드려 잤는데 일어나보니 아프리카 벌판이더라. 그럼 당장 내가 할 일은 주변 상황이 나의 논리에서 벗어나느냐 벗어나지 않느냐를 점검하는 일이다.
공각기동대에서 고스트 해킹은 기억의 조작만으로 이뤄지지 않는다. 기억의 조작과 함께 주변 상황의 조작이 같이 이뤄져야 완벽한 해킹이 된다. 누군가 내가 아랍의 왕자라고 기억을 조작시켜 놓아도, 현재 나의 상태가 아랍어도 못하고 사는 곳도 아랍이 아니고, 부모도, 친척도, 친구들도 내가 아랍의 왕자가 아니라고 하는 상황이라면 아마 꿈을 꿨나보다 라고 생각할 확률이 더 높을 것이다.
또 하나 인간의 행위를 흉내내는데 있어서 중요한 것은 밑에 글에도 언급되어 있던데 기억의 메카니즘을 흉내내는 것이다.
인간은 컴퓨터처럼 모든 정보를 뇌속에 기억하지 않는다.
우리가 컵을 보고 서로 다른 모양의 컵이라도 컵이라고 인식하는 것은 모든 컵의 모양을 기억하고 있어서가 아니라 컵이라는 것에 대해서 나름대로 정의, 즉 룰을 만들고 있기 때문이다. 손잡이가 달린 컵도 컵이라는 것을 인식하는 과정은 손잡이가 달린 컵에 대한 이미지 정보와 그것도 컵이라는 정보만으로는 부족하다. 위에도 언급했듯이 기존의 정보와 룰과 새로운 정보로부터 새로운 룰을 만들어야 한다. 그리고 새로운 룰을 만들고 난 후에는 기존의 룰은 시간이 지나면서 흐릿해져야 한다.(지워지는 것이 아니다)
인간의 인식을 흉내내기 위해서는 기억이 필요하지만 그 기억은 인간의 기억의 메카니즘을 흉내내야 한다. 사람들은 잠을 자면서 기존의 정보를 일반화하고, 남아서 악영향을 끼치는 몇 몇 정보들을 잠재의식 속으로 밀어넣고, 인상깊지 않은 일을 지워버린다. 반복된 작업으로 익숙해진 신체 활동은 몸 자체에 각인되듯 기억되기도 한다. 마치 일단 걷기 시작하고 걷는게 익숙해지면 의식하지 않아도 자연스럽게 걷는 것 처럼.
인간의 행위를 흉내내기 위해서는 완벽한 정보처리 능력이 오히려 방해가 된다. 정리할 시간(인간으로 따지면 잠자는 시간)에 기존의 룰을 수정하고 새로운 state를 만들고, 기존 state를 정리하고, 특별한 일을 남기고, 반복적인 일은 흐릿하게 하고(흐릿하게 한다는 것은 어떤 적절한 입력에 반응하여 선명하게 재생될 수 있음을 의미한다.) 불필요한 정보를 지우고
인간이 언어를 배우고 감각을 익히는데 3년정도가 걸린다고 볼 때, 그정도의 기본적인 정보를 입력한 후 다양한 자극을 주면 인간의 행동을 흡사하게 흉내낼 수 있지 않을까.
문제는 역시 언어다-_-;;
인간과 인터페이스하기 위해서라도 결국 인간의 언어와 비슷한 수준의 언어기능이 들어가 있어야 할텐데 이게 만만치가 않단말이지.
언어 학습과 관련된 것도 결국 튜링머신의 한계를 극복해야 할 것 같단 말이지. 말을 만드는 나름의 법칙을 스스로 찾도록 하지 않으면 결국 아무리 말을 잘 알아듣고 잘 말해도 DB의 용량에 따라 언어 능력이 제한될테니...
이런 저런 생각을 하다보면
결국 난 유신론자가 되어 버린다-_-;;
이 복잡 미묘한 생물이 자연발생해서 생겼을 거라는 생각이 도저히 들지 않는단 말이지. 그렇다고 창조되어 이런 모습이 되었다고 생각하지도 않고-_-;;
아주 작은 파동으로부터 긴 세월동안 이런 지랄같은 생명이 생길 수 있는 룰을 만든 존재는 도대체 뭔생각이었을까?
인간의 DNA에 인간을 만드는 기본적인 정보가 들어있다면
거꾸로 상대적으로 간단한 룰로부터 인간과 비슷한 존재를 만들 수 있지 않을까. 어떤 룰이 인간과 같은 존재를 만들 수 있을까(물론 인간과 같은 존재가 만들어 졌어도 적당한 입력과 반응에 대한 적절한 피드백이 없으면 인간과 같은 존재가 만들어졌다고 증명하지 못하겠지만)
그리고 역시 인간과 비슷한 행위를 하려면 에너지의 공급과 관련된 룰이 반드시 필요할 것이다.
아아..생각할수록 머리만 아프다.
아무튼 5감 + (일반화 능력 + 새로운 룰을 만드는 능력)을 가진 두 개의 메인 프로세서 + 인간의 소뇌, 간뇌, 시상하부, 척수등의 기능을 흉내내는 프로세서 + 각 프로세서간의 협력 + 언어 + 적절하고 충분한 입력 + 완벽하지 않은 기억이 인간의 행위를 흉내내기 위해 필요한 것들인데 ... 각 부분들이 다 만만치 않네;;; 도대체 뭘 정리하려고 한거야 -_-;;
이어서 좀 더 확장한 글(내가 생각하는 神觀이 담겨 있음)
논문 리뷰해야하는데 하기 싫고...내일은 제주도로 MT(논문 발표하러)가는데 ppt고치기도 귀찮아서-_- 생각 정리
여러 가지 생물로 분화 가능하게 하는 핵심 정보는 DNA에 있다고들 한다. DNA는 이중 나선으로 이루어져서 4가지 종류의 염기 서열이 일정한 규칙으로 연결되어 특정한 정보를 저장한다.
신이 무생물을 만들고 난 후에 생명을 창조했다면
나는 성경속의 창세기처럼 완성된 생명체를 만들지는 않았을 것이라고 생각한다.
다만 밑에 썰을 푼것의 연장이기는 하지만
아주 콤팩트하고 나이스한 규칙을 정하고, 이 규칙을 저장할 수 있는 그릇을 만들고 냅뒀을거라고 생각하는 것이다.
나는 신이 인간을 창조하고 인간을 지켜보고 있다는 식의 현재의 신관에 매우 부정적이다. 신이 있다면(거듭 밝히지만 나는 유신론자...다만 종교가 없을 뿐) 그 신은 그저 규칙을 만들고 그 규칙을 담을 작은 그릇을 만들었을 뿐이라고 본다. 신은 그 그릇이 어떻게 되었는지 사실 관심이 없다. 마치 만들 때는 그렇게 애쓰다가도 다 만들고 시간이 지나고 나면 그다지 관심이 없이 새로운 것을 만들고 싶어지는 레고 블럭같은 느낌으로 세상을 창조했달까(얼마간 신경은 쓰일지라도 시간이 지나면 결국 부수고 새로운 것을 만들든지, 있는지도 모르고 냅두게 된다.)
다만 그 신이라는 존재가 만든 규칙과 그 규칙을 담는 그릇(우리가 흔히 원자니 분자, 전자...더 나아가 쿼크니 미립자니 하는 그런 것들)이 오랜 시간이 지나 그 규칙을 깨뜨리는 일 없이 말 그대로 '진화'하여 세상을 만들었다고 보는 나름의 세계관이랄까...
그래서 종말론이니 뭐니 이런 것은 다 구라라고 보면서도 언제든지 현실이 될 수도 있다고도 보는 것이다. 신이 어느날 갑지가 자기가 만든 규칙이나 그릇이 이상하게 크면 미련없이 없애버릴 수도 있는 거니까-_-;;
인공지능을 얘기할 때 철학이나 신관을 자꾸 들먹이려는 이유는 내 근본적인 생각이 저기에 고정되어 변하지 않고 있기 때문이다. 인간이란 그냥...우연히 오랜 시간이 지나 규칙을 깨트리지 않는 범위에서 발생한 것 뿐이다. 그래서 내가 지금처럼 인터넷에 글을 남기고 하면서 생각하는 일도 가능하게 한 그 근본적인 규칙!!! 그리고 그 근본적인 그릇!!!이 인류가 남아있을 때 마지막으로 풀고자 하는 문제이고 자신의 존재를 만든 신에 대한 도전이 아닐까 한다.(위에서도 밝혔듯...신은 이런거에 관심 없다고 본다-_-)
인공지능을 구현하려고 하면 그 근본적인 질문까지는 아니라고 하더라도 굉장히 깊은 물음을 던져야 한다고 본다. 그것은 규칙과 관계된 것이고, 그 규칙을 담는 그릇과 관계된 것이다.
그래서 인공지능에서 인공이라는 말과 지능을 어떻게 해석하느냐에 따라 그 구현을 위한 접근 방법은 천차만별일 수 밖에 없는 것이다.
멀게는 은하철도 999로부터 아톰, Ghost in the shell(공각기동대), 총몽, 그리고 매트릭스 시리즈까지 인공지능에 관련된 깊이있는 접근을 시도한 sf 애니나 영화를 보면 여러가지 시사점을 던지면서 위에서 제기한 이슈들...인간의 존재에 대한 고찰, 존재의 이유와 같은 물음이 계속 등장한다.
인공지능은 기술이 발전하면 당연히, 언젠가 이루어질 것이라는 막연한 믿음을 믿지 않는 편이다.
인공의 지능은 어찌보면 신에 대한 도전쯤 되고(거듭 거듭 말하지만, 신은 우리가 이런거 만들든 안만들든 신경도 안쓸거라고 생각한다. 왜냐하면 자신이 만든 룰을 어기진 않을..혹은 못할 것이기 때문이다), 특히 그 지능이라는 것이 인간에 근접, 혹은 인간을 넘어서는 그것이라면 그것은 기술만으로는 이루어지지 않을 것이라고 생각한다. 거기에는 인간에 대한 완벽한 이해가 선행되어야 한다.
사실 인공지능을 사람이 만들어 낸 지능이라는 식으로 문자 그대로 해석하면 정자와 난자의 만남과 착상과 할구 분할과 분화와 분열과 성장을 통해 만들어진 갓난아기는 인간이 만들 수 있는 최고의 인공지능이 될 것이다. 여기까지 만드는 가장 쉬운 방법중 하나는 누구나 알고 있듯이 암컷과 수컷의 교미이고, 그 이후 암컷의 충분한 영양 공급이다.
그리고 아기가 나오고 난 후에는 말 그대로 '인공'으로 이루어진 모든 것에 의해 '지능'이 구현된다.
일단 만드는 것도 문제이고(제일 큰 문제 가운데 하나), 그리고 만들고 난 후에도 문제이다(두 번째 큰 문제)
만드는 것은 DNA가 그 룰을 가지고 있으니, 많든 적든 그 룰에 대한 이해가 필요할 것이고...적어도 그 룰과 비슷한 기본적인 룰과 기본적인 정보가 필요할 것이다.
근데 그 기본적인 룰은 '반드시' 밑에 얘기한 것 처럼 state의 생성과 state의 결합이 포함되어야 한다. 그냥 state가 만들어지고 결합되는 것이 아니라, 그 state가 만들어지고 결합되기 위한 룰까지 포함한 룰...그리고 초기에 가지고 있는 state와 state끼리의 연결을 위한 초기 값...
과연 알아낼 수 있을까...저 룰이 제대로 된 룰이라는 것을 알기 위해서는 충분한 인풋을 주고 아웃풋을 확인해야 한다. 어떤 인풋을 처음에 줘야 할까...어떤 아웃풋이 나오면 제대로 된 룰이라는 것을 확인할 수 있을까...확인하는 방법은 결국 '말'과 '행동'으로 알아볼 수 밖에 없지 않을까...
일해야겠다-_-
수정 이동 삭제 스크랩 보내기 XXX : 진작 리플을 달았어야하는데 이제서야 꼼꼼하게 봤다우. 너말이 맞아... 난 그래서 기본 단위를 찾고 있지. 그들사이의 interaction 속에서 새로운 룰이 창발될 수 있는 그런 룰. 요새 복잡계다 뭐다 떠도는 이야기들에서도 볼 수 있지만, 난 충분한 복잡도가 주어지면 새로운 환경적응에 적절한 룰이 나올거라고 생각하고 있거든... (08.19 17:16) XXX : 하지만, 측정 방법이 참 애매한 것도 사실이지... 모듈별로 떼어서 원하는 기능을 하는지 알아보기도 애매하고... (holism의 문제랄까나-.-) 인간의 그것을 알아내기 위해선 말과 행동으로 드러나는걸 보는 방법 밖에 없으니까... 가운데가 텅 비어있는 상황인 셈이야. (08.19 17:17) XXX : 좀더 뛰어난 직관력이 있다면 그런걸 메꿀 수 있는 reasonable한 아이디어가 나타나지 않을까라고 기대하고 있어 -_-a (08.19 17:18) 본인: 버려진 글에 답글 thx. 뭔가 획기적인 사고의 전환이 있지 않으면 인공지능에는 한계가 있다고 본다. 무산구조(혼돈의 가장자리에서 일어나는 자기조직화 같은)라던지, nano 사이언스의 자기 조직화, 세포의 자기 복제등 재미있는 '현상'은 있지만 문제는 '왜'라는 질문에 답할 거리가 없다는 것이 안타까울뿐. 사실 '왜'라는 질문 자체가 불경스러워보이는 면도 없지않아 있고 (08.20 11:43) 본인 : 바이오쪽에서 복잡한 단백질 구조에 전자하나가 어디 붙느냐에 따라 그 단백질이 생명체에서 하는 일이 전혀 달라지는 것들을 보면 경외감을 느끼지 않을 수 없단 말이지. (08.20 11:45)
2006년 5월 29일 원본 글
이 글은 약 3년 전에 쓴 글이고, 그 사이 마하반야는 유신론적 무교에서 무신론에 무교로 진화(?)했다=,.=
여전히 자연에 대한 경외감은 충만하고 신기하지만 신이 없어도 그다지 상관 없다거나 두려워할 이유가 없다는 쪽으로 생각이 바뀌었달까.
위의 글을 좀 수정할까 했지만 귀찮기도 하고(오타도 눈에 띄지만) 적당한 이미지를 넣는 것도 성격에 안맞아서 글만 주저리(사실 이렇게 주저벌 거려 놓으면 누가 읽을까 싶기도 하고...이 에필로그까지 읽으시는 분께 마음의 평화가 함께하길
샬롬
나마스떼
