예측의 세 가지 법칙 – 아서 C 클라크
뛰어난 과학자가 무언가 가능하다고 하면 아마 맞는 말이다. 그가 무언가 불가능하다고 하면 아마 틀린 말이다.
가능성의 한계를 알아보는 유일한 방법은 한계를 넘어 불가능을 추구해보는 것밖에 없다.
충분히 발달한 기술은 마법과 구분되지 않는다.
사람들은 자기 비전의 한계를 세계의 한계로 생각한다.
– 아르투르 쇼펜하우어
우선 우리가 도구를 만들면, 다음엔 도구가 우리를 만든다.
– 마셜 맥루언
따라서 최초의 초지능 기계가 사람이 만들게 될 마지막 발명품이 될 것이다.
– 어빙 존 굿, 최초의 초지능 기계에 관한 고찰, 1965년
인간 수준 지능의 가장 중요한 면모는 제대로 기능할 때 어떤 일을 하느냐가 아니라 궁지에 몰렸을 때 어떤 일을 하느냐이다.
– 마빈 민스크
인공지능이 실패했다는 어리석은 신화가 여기저기 나돈다. 하지만 인공지능은 지금 이 순간 당신 곁 어디에나 존재한다. 사람들이 눈치채지 못할 뿐이다.
– 로드니 브룩스, MIT 인공지능 연구소장
튜링이 했던 또 다른 주장을 생각해보자. 이제까지 우리는 비교적 단순하고 예측가능한 인공물만을 만들어왔다. 그런데 우리가 기게의 복잡성을 늘려가다 보면, 깜짝 놀라는 날이 닥칠 것이다. 튜링은 핵분열 원자로와 비교를 한다. 어떤 ‘임계’ 규모 아래에서는 아무 일도 일어나지 않는다. 하지만 임계를 넘어서면 불꽃이 일기 시작한다. 뇌와 기계도 마찬가지라는 것이다. 대부분의 뇌와 현재의 모든 기계들은 ‘임계 아래’에 있다. 자극이 오면 답답하고 지루한 방식으로 반응하며, 독창적인 생각은 없고, 정해진 반응만 양산한다. 하지만 현재도 몇몇 사람들의 뇌는, 그리고 어쩌면 미래의 몇몇 기계들은, 임계를 넘어설 것이고, 고유한 방식으로 운행하기 시작할 것이다. 튜링은 이것이 복잡성의 문제에 불과하다고 주장한다. 일정 수준의 복잡성을 넘어서면 질적 변화가 일어난다. ‘초임계’ 기계들은 이제까지 구상된 어떤 단순한 기계들과도 전혀 다를 것이다.
– J. R. 루카스, 옥스포드 대학 철학자, 1961년의 에세이 마음, 기계 그리고 괴델 중에서
임계점을 넘어선 초지능의 등장을 묘사한 소설이 있다. 당신 인생의 이야기 중 이해가 그것이다.
물이 계속 차올라 사람들이 북적대는 고지대까지 잠기면, 기계들은 수많은 다양한 분야들의 일을 척척 해낼 것이다. 기계 안에 어떤 생각하는 존재의 직관이 담기는 일이 흔해질 것이다. 가장 높은 봉우리까지 잠기면, 기계들은 어떤 주제를 놓고도 인간과 지적 소통을 할 수 있을 것이다. 그때가 되면 기계 안에 마음이 존재한다는 사실을 믿지 않을 수 없을 것이다.
– 한스 모라벡
미래에 대한 통념 중 제일 잘못된 것은 미래를 우리에게 벌어지는 어떤 일로 보는 것이다. 우리가 창조하는 어떤 것인데 말이다.
– 마이클 아니시모프
그 순간의 공포는,왕이 말했습니다.절대, 절대 잊지 못할 거요!하지만 잊을 거예요.여왕이 말했습니다.메모해두지 않는다면 말이예요.– 루이스 캐롤, 거울 나라의 앨리스
자유 의지란 해야만 할 일을 달갑게 하는 능력을 말한다.
– 칼 융
그것은 마치 쟁기를 적극 옹호하는 것과 같다. 누군가는 게속 버릴 것을 주장하지만, 그럼에도 어쨌건 쟁기는 계속 살아남을 것이다.
– 제임스 휴즈, 트랜스휴면 연합의 간사이자 트리니티 칼리지의 사회학자, ‘인간은 포스트휴먼이 되는 것을 환영해야 하나 저항해야 하나?’라는 주제의 토론 중에
도덕적 관점에서 볼 때 사람이 생물학적 뉴련을 갖든 실리콘 뉴런을 갖든 아무 차이가 없다(피부색이 어두우냐 밝으냐가 도덕적으로 무관하듯 말이다). 인종 차별이나 종 차별을 반대하는 놀리 그대로, 우리는 탄소 우월주의, 즉 생물중심주의를 거부해야 한다.
– 닉 보스트롬, 지적 기계를 위한 윤리학: 2001년 한 가지 제안
기술공포증을 지닌 사람들이
여기까지는 괜찮지만 더는 안 돼라고 인정할 만한 중간 단계란 존재하지 않는다.– 닉 보스트롬, 초지능이 오기까지 얼마나 남았는가?, 1997년
